Словарь ИИ

Что такое LLM как судья

Коротко

LLM как судья (LLM-as-a-judge) это способ оценивать ответы нейросетей с помощью другой языковой модели, которая ставит баллы по заданным критериям или выбирает более удачный из двух ответов.

Языковые модели · LLM-as-a-judge

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Представь конкурс рисунков, где работ так много, что учитель не успевает посмотреть все. Тогда он просит помочь старшеклассника и объясняет, за что ставить звездочки. Помощник проверяет быстро, но иногда ошибается или любит рисунки, похожие на свои. Поэтому учитель все равно заглядывает в часть работ сам.

Простыми словами

Чтобы понять, хорошо ли отвечает чат-бот, его ответы нужно кому-то проверить. Люди делают это медленно и дорого. Поэтому ответы показывают другой модели и дают ей инструкцию: оцени по шкале от одного до десяти, верны ли факты, вежлив ли тон, ответил ли бот на вопрос. Иногда ей показывают два ответа и просят выбрать более удачный. Так за час проверяют тысячи диалогов. Но у проверяющей модели есть привычки: она может любить длинные ответы или первый вариант в паре.

Для бизнеса

Автоматический оценщик делает контроль качества регулярным: каждую новую версию промпта, базы знаний или модели прогоняют через сотни типовых вопросов и сразу видят, стало ли хуже. Без этого компания узнает о проблеме из жалоб клиентов. Затраты складываются из токенов на оценку и времени экспертов, которые пишут критерии и проверяют выборку. Главные риски: оценщик сам ошибается, предпочитает многословные ответы, а иногда и ответы своей же модели. Поэтому его оценки сначала сверяют с мнением ваших специалистов на небольшой выборке и только потом доверяют автоматике. Такой набор тестов стоит собрать еще на пилоте, чтобы мерить результат цифрами.

Для специалиста

LLM как судья (LLM-as-a-judge) это оценка открытых ответов сильной языковой моделью по рубрике. Режимы: попарное сравнение (pairwise comparison), оценка одного ответа по шкале (single answer grading) и оценка с эталонным решением (reference-guided grading). Zheng и соавторы (2023) построили для проверки метода MT-Bench и платформу Chatbot Arena и показали, что GPT-4 в роли судьи совпадает с предпочтениями людей более чем в 80% случаев, то есть на уровне согласия людей между собой. Они же описали систематические смещения: позиционное (position bias), к многословию (verbosity bias) и к собственным ответам (self-enhancement bias). В G-Eval (Liu и соавторы, 2023) судья сначала рассуждает по шагам и заполняет форму оценки; на суммаризации метод дал корреляцию Спирмена 0,514 с людьми, а авторы отметили склонность оценщика к текстам, написанным моделями. Смещения снижают перестановкой вариантов, несколькими судьями и калибровкой на человеческой разметке.

Пример

Интернет-магазин обновил базу знаний бота поддержки. Перед выкладкой оценивающая модель проверила ответы на типовые вопросы по рубрике «верно, полно, вежливо» и нашла просадку в теме возвратов, которую исправили до того, как ее заметили клиенты.

Связанные термины

Вопросы и ответы

Можно ли доверять оценкам LLM как судьи?

Частично. На общих задачах сильные модели часто совпадают с людьми, но у них есть смещения в пользу длинных ответов, первой позиции и своих текстов. Поэтому оценки сверяют с экспертами на выборке и регулярно перепроверяют.

Чем такая оценка отличается от бенчмарка?

Бенчмарк проверяет модель на готовом наборе задач с известными ответами. Оценивающая модель разбирает свободные ответы, где единственного правильного варианта нет, например тон и полноту ответа клиенту.

Источники

Где это применяют в компании

Пилот ИИ-агента: один агент на одном процессе

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений