Словарь ИИ

Что такое RAG: генерация с поиском по вашим данным

Коротко

RAG это схема, в которой ИИ сначала находит нужные фрагменты в ваших документах, а потом отвечает, опираясь на них.

Поиск и RAG · retrieval-augmented generation

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Представь контрольную, где разрешено пользоваться учебником. Ты сначала находишь нужную страницу, а потом пишешь ответ своими словами. RAG делает так же: ИИ сначала ищет в книге, а потом отвечает.

Простыми словами

Нейросеть знает только то, на чем ее учили, и не знает ваших документов, цен и правил. RAG решает это так: на каждый вопрос система ищет подходящие куски в базе знаний и подкладывает их модели вместе с вопросом. Модель отвечает уже по найденному тексту. Ответ становится точнее, и можно показать, из какого документа он взят.

Для бизнеса

RAG нужен, когда ИИ должен отвечать по внутренним данным: регламентам, договорам, каталогу, базе знаний поддержки. Это дешевле, чем дообучать модель, и данные можно обновлять каждый день без переобучения. Главные риски: плохо подготовленная база знаний и неудачная нарезка документов, тогда ИИ находит не то и отвечает уверенно, но неверно. Поэтому до внедрения проверяют, на какую долю вопросов система находит правильный фрагмент, и записывают эту метрику в пилот.

Для специалиста

Retrieval-Augmented Generation объединяет параметрическую память модели с непараметрической: ретривер извлекает top-k фрагментов из внешнего корпуса, генератор формирует ответ, обусловленный запросом и найденным контекстом. Термин введен в работе Lewis и др. (2020). Типовой конвейер: чанкинг документов, индексация эмбеддингов в векторной БД, поиск (плотный, лексический BM25 или гибридный), переранжирование кросс-энкодером, сборка промпта, генерация, проверка обоснованности. Виды: наивный RAG (один шаг поиска), продвинутый (переписывание запроса, HyDE, переранжирование), модульный (заменяемые блоки конвейера), GraphRAG (поиск по графу знаний и сводкам сообществ), агентный RAG (агент сам решает, когда и где искать, делает несколько шагов). Качество оценивают по recall@k ретривера и faithfulness ответа.

Пример

Клиент спрашивает: «Можно вернуть товар через 20 дней?». Система находит в базе пункт о сроках возврата, модель отвечает по нему и дает ссылку на правило.

Связанные термины

Вопросы и ответы

Чем RAG отличается от дообучения модели?

Дообучение меняет саму модель, RAG дает ей нужные документы в момент вопроса. RAG проще обновлять и дешевле, дообучение помогает, когда нужно изменить стиль или навык модели.

Какие бывают виды RAG?

Наивный (один поиск и ответ), продвинутый (с переписыванием запроса и переранжированием), модульный, графовый GraphRAG и агентный, где ИИ сам решает, что и где искать.

Источники

Где это применяют в компании

ИИ-ассистент, который отвечает по документам компании

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений