Словарь ИИ

Что такое Self-RAG

Коротко

Self-RAG это метод, при котором языковая модель сама решает, нужен ли ей поиск по документам, и сама оценивает найденные фрагменты и свой ответ.

Поиск и RAG · Self-RAG

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Представь ученика, который пишет сочинение. Иногда он помнит ответ и пишет сразу. Если не уверен, идет к полке за книгой. А потом перечитывает написанное и спрашивает себя: правда ли так сказано в книге? Если нет, исправляет. Self-RAG учит компьютер вести себя как такой внимательный ученик, который сам решает, когда заглянуть в книгу.

Простыми словами

В обычной схеме RAG система ищет в документах на каждый вопрос, даже когда это не нужно, и отдает модели все найденное подряд. Здесь модель обучена сама ставить пометки по ходу ответа. Сначала она отмечает, нужна ли справка. Потом проверяет, относится ли найденный фрагмент к вопросу. В конце отмечает, подтверждается ли ее фраза этим фрагментом и полезен ли ответ целиком. Например, на «добрый день» поиск не запускается, а на вопрос о сроках поставки модель возьмет договор и сверит с ним каждую цифру.

Для бизнеса

Метод интересен там, где ошибка в ответе стоит дорого: юридические справки, ответы по тарифам, технические инструкции. Модель сама отсеивает лишние фрагменты и отмечает утверждения без опоры, поэтому контроль встроен в ответ, а не лежит на сотруднике, который перечитывает каждый случай. Ограничение в том, что это не настройка поверх любой нейросети, а специально обученная модель: под русские документы и свою отрасль ее нужно дообучать, а это данные, разметка и вычисления. Часто компании берут из метода идею и собирают похожие проверки отдельными вызовами модели. Как такие проверки снижают долю ошибочных ответов, разбирают вместе с рисками ошибок ИИ.

Для специалиста

Self-RAG (Self-Reflective Retrieval-Augmented Generation) предложен в работе Asai, Wu, Wang, Sil, Hajishirzi (2023). Одну языковую модель учат генерировать, кроме текста, токены рефлексии (reflection tokens) четырех типов. Retrieve решает, вызывать ли ретривер на текущем сегменте. IsRel оценивает, помогает ли найденный пассаж ответить. IsSup показывает, поддержаны ли проверяемые утверждения сегмента пассажем полностью, частично или никак. IsUse ставит полезность ответа по шкале от 1 до 5. Токены вставляет в обучающий корпус офлайн отдельная модель-критик, а генератор учится на этом корпусе обычной целью следующего токена, поэтому при выводе критик не нужен. На выводе работает поиск лучом по сегментам (segment-level beam search): к вероятности сегмента прибавляется взвешенная сумма вероятностей критических токенов, а порог вызова поиска настраивается. Авторы обучили версии на 7 и 13 млрд параметров; по их данным, они превосходят ChatGPT и Llama2-chat с извлечением в открытых вопросах, рассуждениях и проверке фактов, а в длинных ответах повышают фактичность и точность цитат.

Пример

Ассистент юридического отдела получает вопрос о сроке ответа на претензию. Модель находит два фрагмента, помечает один как не относящийся к делу, отвечает по второму и отмечает, что срок в ответе подтвержден текстом договора.

Связанные термины

Вопросы и ответы

Чем Self-RAG отличается от обычного RAG?

Обычный RAG ищет на каждый вопрос и отдает модели все найденное. В Self-RAG модель сама решает, нужен ли поиск, и отмечает, какие фрагменты подходят и подтверждают ли они ответ.

Можно ли включить Self-RAG в любой нейросети?

Нет, это не настройка, а способ обучения модели со специальными токенами. Похожую логику можно собрать из отдельных вызовов модели: проверить, нужен ли поиск, оценить фрагменты и сверить ответ с ними.

Источники

Asai, Wu, Wang, Sil, Hajishirzi, Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection, 2023arxiv.org

Где это применяют в компании

Ошибки ИИ: как их ловить до того, как они дойдут до клиента

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений