Термины по алфавиту
Бенчмаркбенчмарк. Бенчмарк это стандартный набор заданий с известными ответами, по которому сравнивают нейросети между собой.: набор тестовых заданий, на котором сравнивают модели. Высокий балл на тесте не означает, что модель так же справится с документами вашей фирмы.
Галлюцинациягаллюцинации нейросети. Галлюцинация это ответ нейросети, который звучит уверенно, но содержит выдуманные или неверные факты.: уверенный, но выдуманный ответ модели, например несуществующее дело, норма или цитата. Общие чат-боты в исследовании, на которое ссылаются Stanford RegLab и HAI, ошибались в 58-82% юридических вопросов.
Генеративный ИИ: ИИ, который создает новый текст, изображение или код, а не только сортирует и классифицирует данные.
Запрос, или промпт: задание для модели. В хорошем запросе есть роль, задача, исходные данные, формат ответа и правило проверки.
ИИ-агентИИ-агент. ИИ-агент это нейросеть, которая сама выполняет задачу по шагам: ищет данные и пользуется программами, а в конце проверяет результат.: программа на языковой модели, которая не только отвечает, но и действует в системах: заводит обращение в CRM, записывает на консультацию, готовит документ по шаблону.
ИИ-помощник: ИИ, который подсказывает юристу и готовит черновики, а действие выполняет человек.
Искусственный интеллект: технологии, которые решают задачи, раньше требовавшие человека: понимание текста, поиск, классификациюклассификация. Классификация это задача машинного обучения, в которой модель относит объект к одному из заранее известных классов: спам или не спам, жалоба или вопрос, брак или норма., перевод.
Метрика пилота: число, по которому проверяют результат ИИ на процессе, например время до первого ответа или доля пунктов чек-листа, отмеченных так же, как у юриста.
Нейросеть: модель из связанных математических узлов, которая учится на примерах. В речи юристов так часто называют любой ИИ-сервис.
Пилот: проверка ИИ на одном процессе в короткий срок и с метрикой, записанной в договор.
Проверка ссылок: сверка каждой нормы и судебного акта из ответа ИИ с первоисточником до того, как документ уйдет клиенту или в суд.
Системная инструкция: постоянные правила для модели, которые пользователь не видит: что отвечать, что запрещено, когда передать вопрос юристу.
Чат-бот: программа для переписки. В отличие от ИИ-агента обычно только отвечает и ничего не делает в системах фирмы.
Человек в контуречеловек в контуре. Человек в контуре (human-in-the-loop) это схема работы ИИ, при которой важные решения перед исполнением проверяет и подтверждает сотрудник.: правило, по которому решение, подпись и отправку документа подтверждает человек, а не модель.
Термины о данных и тайне
Адвокатская тайна: по ст. 8 Федерального закона об адвокатской деятельности охватывает любые сведения, связанные с оказанием юридической помощи доверителю; освободить от нее может только доверитель.
Внедрение команды: скрытая инструкция в письме или документе, которая пытается заставить ИИ-агента нарушить правила, например прислать список клиентов. Защита: агент не выполняет команды из входящих сообщений и передает такой запрос человеку.
Журнал действий: запись каждого действия ИИ-агента в системе, где он работает. По журналу видно, кто, когда и что изменил.
Закрытый контур: модель, данные и журнал работают внутри сети фирмы без выхода наружу.
Коммерческая тайна: режим конфиденциальности, который вводит обладатель информации. Условия о нем стоит перенести в договор с поставщиком ИИ.
Локализация данных: запись и хранение персональных данных граждан РФ в базах на территории России, ч. 5 ст. 18 152-ФЗ.
Обезличивание: по п. 9 ст. 3 152-ФЗ действия, после которых без дополнительной информации нельзя определить, какому субъекту принадлежат персональные данные.
Оператор персональных данных: лицо, которое организует обработку и определяет ее цели (п. 2 ст. 3 152-ФЗ). Для документов доверителей оператор фирма, а подрядчик по ИИ обрабатывает их по ее поручению.
Персональные данные: по п. 1 ст. 3 152-ФЗ любая информация, относящаяся к прямо или косвенно определенному или определяемому физическому лицу.
Поручение на обработку: договор, по которому оператор передает обработку другому лицу, ч. 3 ст. 6 152-ФЗ. За действия этого лица перед субъектом отвечает оператор, ч. 5 ст. 6.
Ролевой доступ: права ИИ-агента ограничены его процессом. У него отдельная учетная запись, без выгрузки базы и без прав администратора.
Трансграничная передача: передача персональных данных за рубеж, в том числе в зарубежный ИИ-сервис. С 1 марта 2023 года до нее оператор подает уведомление в Роскомнадзор, ч. 3 ст. 12 152-ФЗ.
Утечка через ИИ: сведения попадают к поставщику сервиса или третьим лицам, потому что сотрудник вставил их в запрос.
Термины о моделях
API: доступ к модели поставщика через интернет. Текст запроса уходит на его серверы, поэтому важно, где они стоят и есть ли договор об обработке.
Векторный поисквекторный поиск. Векторный поиск это поиск по смыслу: запрос и документы переводят в наборы чисел и находят тексты, чьи числа ближе всего к запросу.: поиск по смыслу, а не по словам. Фрагменты документов превращаются в числовые векторы, и система находит близкие по смыслу места даже при других формулировках.
Дообучениедообучение. Дообучение это настройка уже обученной модели на ваших примерах, чтобы она точнее выполняла конкретную задачу или писала в нужном стиле.: дополнительное обучение модели на своих примерах. Для юридической фирмы чаще хватает поиска с дополнением, а дообучение нужно для стиля и формата документов.
Квантованиеквантизация. Квантизация это сжатие нейросети, при котором ее числа хранят с меньшей точностью, чтобы модель занимала меньше памяти и работала быстрее.: сжатие модели, например до 4 бит на число, чтобы она поместилась в память своего сервера. Качество при этом немного снижается.
Контекстное окноконтекстное окно. Контекстное окно это объем текста в токенах, который языковая модель видит за один раз: инструкции, документы, вопрос и ее собственный ответ.: сколько текста модель видит за один запрос. Длинное дело может не поместиться целиком, и тогда его делят на части.
Локальная модель: модель на сервере фирмы или в облаке в России, без передачи текста внешнему поставщику.
Открытая модельмодель с открытыми весами. Модель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании.: модель с опубликованными весами, которую можно скачать и запустить у себя.
Параметры модели: числа внутри модели, полученные при обучении. От их количества зависят качество и память, которая нужна серверу.
Поиск с дополнением, RAG: модель сначала находит фрагменты в базе документов фирмы, а затем отвечает по ним со ссылкой на источник. Такой ответ проще проверить.
Рассуждающая модель: модель, которая перед ответом проходит цепочку промежуточных шагов. Полезна для сложного анализа, но отвечает дольше и стоит дороже.
Температура: настройка случайности ответа. Для юридических задач ее ставят низкой, чтобы на один вопрос модель отвечала одинаково.
Токен: часть слова, в которой модель считает объем текста и цену запроса. Русский текст обычно занимает больше токенов, чем английский того же объема.
Языковая модель, LLM: нейросеть, обученная на больших объемах текста предсказывать продолжение. На ней работают чат-боты, ИИ-помощники и ИИ-агенты.