Словарь ИИ

Что такое модульный RAG

Коротко

Модульный RAG это подход, при котором систему поиска по документам собирают из независимых блоков и переставляют их под задачу, как детали конструктора.

Поиск и RAG · modular RAG

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

У тебя есть конструктор. Из одних и тех же деталей можно собрать машинку, а можно башню. Если колесо сломалось, ты меняешь только колесо, а не всю машинку. Модульный RAG устроен похоже: помощник, который ищет ответы в книгах, собран из отдельных деталей, и любую из них можно заменить или переставить.

Простыми словами

В простой схеме все шаги идут по одной линии: нашли, ответили. В модульной каждый шаг становится отдельным блоком: поиск по документам, поиск в каталоге товаров, переписывание вопроса, проверка ответа, память о прошлом разговоре. Блок-диспетчер решает, какие из них нужны для конкретного вопроса. Вопрос про цену идет в каталог, вопрос про возврат в правила, приветствие обходится без поиска. Блоки меняют по одному: можно поставить другую модель или другой поиск и не переделывать систему целиком.

Для бизнеса

Модульная архитектура выгодна, когда ассистент работает с несколькими источниками сразу: CRM, 1С, архив договоров, сайт. Каждый источник подключают отдельным блоком, а при смене поставщика модели или поисковой базы меняют одну деталь. Так снижается зависимость от одного поставщика. Затраты выше, чем у простой схемы: нужны маршрутизация, журнал вызовов и тесты для каждого блока. Главный риск в сложности: без журнала трудно понять, какой блок дал неверный ответ. До внедрения договоритесь, кто отвечает за каждый блок и как измеряют его качество. Подключение к учетным системам и CRM решают на этапе интеграции.

Для специалиста

Модульный RAG (Modular RAG) описан как третья парадигма в обзоре Gao и др. (2023) и развит в работе тех же авторов 2024 года, где конвейер сравнивают с конструктором LEGO. Система раскладывается на независимые модули и специализированные операторы, а поверх линейной цепочки добавлены маршрутизация (routing), планирование (scheduling) и слияние (fusion). Авторы выделяют четыре типовых потока: линейный, условный, ветвящийся и циклический. В обзоре перечислены модули Search (поиск по внешним источникам, базам и графам знаний), RAG-Fusion (несколько вариантов запроса), Memory, Routing (выбор источника под запрос), Predict (модель сама генерирует контекст) и Task Adapter. Примеры паттернов: Rewrite-Retrieve-Read и ITER-RETGEN, где извлечение и генерация чередуются по кругу. Наивную и продвинутую схемы в такой записи можно представить как линейный поток из фиксированного набора модулей.

Пример

Интернет-магазин собирает ассистента из трех блоков: поиск по каталогу, поиск по правилам доставки и запрос статуса заказа в учетной системе. Диспетчер отправляет каждый вопрос в нужный блок.

Связанные термины

Вопросы и ответы

Чем модульный RAG отличается от продвинутого?

Продвинутый остается одной линией шагов, пусть и с доработками. Модульный разрешает ветвления, циклы и выбор источника под каждый вопрос, а блоки можно заменять независимо.

Нужен ли модульный RAG небольшой компании?

Если источник один, например папка регламентов, хватит простой схемы. Модульность окупается, когда ассистент должен отвечать сразу по нескольким системам.

Источники

Где это применяют в компании

Интеграции ИИ-агентов с 1С, CRM и телефонией

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений