Глоссарий: термины ИИ для юристов от нейросети до обезличивания

Бенчмаркбенчмарк Бенчмарк это стандартный набор заданий с известными ответами, по которому сравнивают нейросети между собой. Подробнее в словаре: набор тестовых заданий, на котором сравнивают модели. Высокий балл на тесте не означает, что модель так же справится с документами вашей фирмы.

Галлюцинациягаллюцинации нейросети Галлюцинация это ответ нейросети, который звучит уверенно, но содержит выдуманные или неверные факты. Подробнее в словаре: уверенный, но выдуманный ответ модели, например несуществующее дело, норма или цитата. Общие чат-боты в исследовании, на которое ссылаются Stanford RegLab и HAI, ошибались в 58-82% юридических вопросов.

Генеративный ИИ: ИИ, который создает новый текст, изображение или код, а не только сортирует и классифицирует данные.

Запрос, или промпт: задание для модели. В хорошем запросе есть роль, задача, исходные данные, формат ответа и правило проверки.

ИИ-агентИИ-агент ИИ-агент это нейросеть, которая не просто отвечает, а сама выполняет задачу по шагам: ищет данные, пользуется программами и проверяет результат. Подробнее в словаре: программа на языковой модели, которая не только отвечает, но и действует в системах: заводит обращение в CRM, записывает на консультацию, готовит документ по шаблону.

ИИ-помощник: ИИ, который подсказывает юристу и готовит черновики, а действие выполняет человек.

Искусственный интеллект: технологии, которые решают задачи, раньше требовавшие человека: понимание текста, поиск, классификациюклассификация Классификация это задача машинного обучения, в которой модель относит объект к одному из заранее известных классов: спам или не спам, жалоба или вопрос, брак или норма. Подробнее в словаре, перевод.

Метрика пилота: число, по которому проверяют результат ИИ на процессе, например время до первого ответа или доля пунктов чек-листа, отмеченных так же, как у юриста.

Нейросеть: модель из связанных математических узлов, которая учится на примерах. В речи юристов так часто называют любой ИИ-сервис.

Пилот: проверка ИИ на одном процессе в короткий срок и с метрикой, записанной в договор.

Проверка ссылок: сверка каждой нормы и судебного акта из ответа ИИ с первоисточником до того, как документ уйдет клиенту или в суд.

Системная инструкция: постоянные правила для модели, которые пользователь не видит: что отвечать, что запрещено, когда передать вопрос юристу.

Чат-бот: программа для переписки. В отличие от ИИ-агента обычно только отвечает и ничего не делает в системах фирмы.

Человек в контуречеловек в контуре Человек в контуре (human-in-the-loop) это схема работы ИИ, при которой важные решения перед исполнением проверяет и подтверждает сотрудник. Подробнее в словаре: правило, по которому решение, подпись и отправку документа подтверждает человек, а не модель.

Адвокатская тайна: по ст. 8 Федерального закона об адвокатской деятельности охватывает любые сведения, связанные с оказанием юридической помощи доверителю; освободить от нее может только доверитель.

Внедрение команды: скрытая инструкция в письме или документе, которая пытается заставить ИИ-агента нарушить правила, например прислать список клиентов. Защита: агент не выполняет команды из входящих сообщений и передает такой запрос человеку.

Журнал действий: запись каждого действия ИИ-агента в системе, где он работает. По журналу видно, кто, когда и что изменил.

Закрытый контур: модель, данные и журнал работают внутри сети фирмы без выхода наружу.

Коммерческая тайна: режим конфиденциальности, который вводит обладатель информации. Условия о нем стоит перенести в договор с поставщиком ИИ.

Локализация данных: запись и хранение персональных данных граждан РФ в базах на территории России, ч. 5 ст. 18 152-ФЗ.

Обезличивание: по п. 9 ст. 3 152-ФЗ действия, после которых без дополнительной информации нельзя определить, какому субъекту принадлежат персональные данные.

Оператор персональных данных: лицо, которое организует обработку и определяет ее цели (п. 2 ст. 3 152-ФЗ). Для документов доверителей оператор фирма, а подрядчик по ИИ обрабатывает их по ее поручению.

Персональные данные: по п. 1 ст. 3 152-ФЗ любая информация, относящаяся к прямо или косвенно определенному или определяемому физическому лицу.

Поручение на обработку: договор, по которому оператор передает обработку другому лицу, ч. 3 ст. 6 152-ФЗ. За действия этого лица перед субъектом отвечает оператор, ч. 5 ст. 6.

Ролевой доступ: права ИИ-агента ограничены его процессом. У него отдельная учетная запись, без выгрузки базы и без прав администратора.

Трансграничная передача: передача персональных данных за рубеж, в том числе в зарубежный ИИ-сервис. С 1 марта 2023 года до нее оператор подает уведомление в Роскомнадзор, ч. 3 ст. 12 152-ФЗ.

Утечка через ИИ: сведения попадают к поставщику сервиса или третьим лицам, потому что сотрудник вставил их в запрос.

API: доступ к модели поставщика через интернет. Текст запроса уходит на его серверы, поэтому важно, где они стоят и есть ли договор об обработке.

Векторный поисквекторный поиск Векторный поиск это поиск по смыслу: запрос и документы переводят в наборы чисел и находят тексты, чьи числа ближе всего к запросу. Подробнее в словаре: поиск по смыслу, а не по словам. Фрагменты документов превращаются в числовые векторы, и система находит близкие по смыслу места даже при других формулировках.

Дообучениедообучение Дообучение это настройка уже обученной модели на ваших примерах, чтобы она точнее выполняла конкретную задачу или писала в нужном стиле. Подробнее в словаре: дополнительное обучение модели на своих примерах. Для юридической фирмы чаще хватает поиска с дополнением, а дообучение нужно для стиля и формата документов.

Квантованиеквантизация Квантизация это сжатие нейросети, при котором ее числа хранят с меньшей точностью, чтобы модель занимала меньше памяти и работала быстрее. Подробнее в словаре: сжатие модели, например до 4 бит на число, чтобы она поместилась в память своего сервера. Качество при этом немного снижается.

Контекстное окноконтекстное окно Контекстное окно это объем текста в токенах, который языковая модель видит за один раз: инструкции, документы, вопрос и ее собственный ответ. Подробнее в словаре: сколько текста модель видит за один запрос. Длинное дело может не поместиться целиком, и тогда его делят на части.

Локальная модель: модель на сервере фирмы или в облаке в России, без передачи текста внешнему поставщику.

Открытая модельмодель с открытыми весами Модель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании. Подробнее в словаре: модель с опубликованными весами, которую можно скачать и запустить у себя.

Параметры модели: числа внутри модели, полученные при обучении. От их количества зависят качество и память, которая нужна серверу.

Поиск с дополнением, RAG: модель сначала находит фрагменты в базе документов фирмы, а затем отвечает по ним со ссылкой на источник. Такой ответ проще проверить.

Рассуждающая модель: модель, которая перед ответом проходит цепочку промежуточных шагов. Полезна для сложного анализа, но отвечает дольше и стоит дороже.

Температура: настройка случайности ответа. Для юридических задач ее ставят низкой, чтобы на один вопрос модель отвечала одинаково.

Токен: часть слова, в которой модель считает объем текста и цену запроса. Русский текст обычно занимает больше токенов, чем английский того же объема.

Языковая модель, LLM: нейросеть, обученная на больших объемах текста предсказывать продолжение. На ней работают чат-боты, ИИ-помощники и ИИ-агенты.