Когда RAG лишний
RAGRAG. RAG это схема, в которой ИИ сначала находит нужные фрагменты в ваших документах, а потом отвечает, опираясь на них., поиск по базе документов перед ответом, нужен, когда знаний много и они лежат в текстах. Во многих задачах это не так.
Первый случай: знаний мало. Прайс, адреса, часы работы и десяток правил помещаются в инструкцию агенту целиком.
Anthropic в сентябре 2024 года писала, что базу знанийбаза знаний для ИИ. База знаний для ИИ это отобранные и подготовленные документы компании, по которым ИИ-ассистент ищет ответы: регламенты, инструкции, каталог, ответы на частые вопросы. меньше 200 000 токенов, примерно 500 страниц, можно целиком положить в запрос к модели. Токен — это кусок слова, в котором модель считает текст.
У длинной инструкции есть цена: модель читает ее при каждом вопросе, и вы платите за каждый прочитанный токен. Пока инструкция занимает несколько страниц, это копейки; когда она растет до сотен страниц, поиск по базе становится дешевле.
Второй случай: ответ живет в системе, а не в документе. Свободное окно, статус заказа и остаток на складе меняются каждую минуту, и база документов будет от них отставать.
Третий случай: задача про действие, а не про знание. Завести сделку, отправить напоминание, собрать отчет: агенту нужны инструменты, а не поиск по текстам.
Каждая лишняя деталь агента — это еще одно место, которое надо проверять и обновлять. Поэтому базу знаний добавляют, когда без нее агент ошибается, а не заранее.
Инструкции и примеры вместо базы
Инструкция, или системный промпт, — это текст, который агент читает перед каждым разговором: кто он, что делает, чего не делает и когда зовет человека.
Примеры часто работают сильнее правил. В статье о модели GPT-3 (май 2020) авторы показали: модель решает новые задачи без дообучениядообучение. Дообучение это настройка уже обученной модели на ваших примерах, чтобы она точнее выполняла конкретную задачу или писала в нужном стиле., если в тексте запроса дать ей задание и несколько образцов решения. Документация Claude советует три-пять примеров, похожих на реальные вопросы и разных между собой.
Что кладут в инструкцию: прайс и условия, тон ответа, список запрещенных обещаний, образцы ответов на частые вопросы и порядок передачи разговора человеку.
Пример для агента записи: роль («вы администратор клиники»), список услуг с длительностью, правило «записывать только в свободные окна из календаря», три образца диалога и условие, при котором разговор уходит администратору. Это две-три страницы текста, и базы знаний здесь нет.
Граница простая: если инструкция разрослась до десятков страниц и ее трудно обновлять, знания пора переносить в базу. Как устроен агент с базой знаний, разобрано отдельно.
Данные из систем через инструменты
Инструмент агента — это действие, которое он может вызвать: прочитать календарь, найти клиента в CRM, создать задачу. Модель сама решает, какой инструмент нужен для вопроса, и получает свежие данные в момент ответа.
В n8n это правило записано прямо в документации: к узлу AI Agent подключают модель и хотя бы один инструмент, а агент сам выбирает, какой из них вызвать.
Пример агента отчетов: каждое утро он читает из CRM вчерашние сделки, из 1С оплаты и отправляет руководителю короткую сводку. Ему нужны два инструмента на чтение и инструкция, какие цифры считать и как их показать. База документов ему ни к чему: все цифры свежие и лежат в системах.
Для подключения к системам есть общий стандарт. 25 ноября 2024 года Anthropic открыла протокол MCPMCP. MCP (Model Context Protocol) это открытый стандарт, через который ИИ-приложения подключаются к инструментам и данным: файлам, CRM, базам, сервисам. (Model Context Protocol): единый способ подключать ИИ к данным и сервисам. Сервер MCP для вашей CRM пишут один раз, а пользуются им разные агенты.
Права выдают по минимуму: агенту отчетов хватает чтения, агенту записи нужна запись только в календарь. Как агент работает с CRM, почтой и 1С, разобрано на странице об инструментах агента.
Сравнение двух подходов
Агент с базой знаний ищет ответ в документах. Метод RAG описан в 2020 году: модель перед ответом находит фрагменты в базе и отвечает по ним без обучения. Подходит для поддержки по регламентам, справочной по продукту и поиска по договорам.
Агент без базы опирается на инструкцию и инструменты. Подходит для записи клиентов, приема заявок, отчетов из CRM и 1С, напоминаний.
По сборке разница заметна. Для базы знаний нужно собрать и почистить документы, разрезать их на фрагменты, выбрать модель векторов и проверять качество поиска. Для агента без базы нужны инструкция, примеры и доступы к системам.
В поддержке после запуска разница тоже есть. Базу знаний обновляют каждый раз, когда меняется документ, иначе агент отвечает по старой версии. Инструмент всегда берет текущие данные из системы, но ломается, когда меняется сама система: новое поле в CRM или другой формат выгрузки из 1С.
Часто правильный ответ в смеси: агент поддержки ищет правила возврата в базе, а статус заказа в CRM. Если сомневаетесь, нужен ли агент вообще или хватит сценария с жесткими шагами, сравните варианты на странице агент или сценарий.
С чего начать: четыре вопроса до сборки
Нужна ли база знаний, решают до сборки, по четырем вопросам. Ответы знает сотрудник, который сейчас делает эту работу руками.
1. Сколько знаний нужно агенту? Если правила, прайс и образцы ответов помещаются в несколько страниц, база не нужна. Порог, после которого текст целиком в запрос уже не положить, Anthropic оценивает примерно в 500 страниц.
2. Где живет ответ? Если в CRM, 1С или календаре, агенту нужен инструмент на чтение, а не копия данных в базе.
3. Как часто меняются знания? Прайс, который правят раз в квартал, удобно держать в инструкции. Регламенты, которые разные отделы правят каждую неделю, проще держать в базе, где каждый отвечает за свой документ.
4. Чем плох неверный ответ? Если ошибка стоит денег или репутации, в инструкцию пишут жесткие запреты и условие передачи человеку, а первые недели ответы проверяют выборочно.
Пример из розницы: интернет-магазин отдает агенту вопросы о статусе заказа. Знаний почти нет, нужен один инструмент: найти заказ по номеру в CRM и прочитать статус. Вопросы о возврате агент передает оператору, пока правила возврата не появятся в инструкции.
Расходы у такого агента складываются из трех частей: инструкция с примерами, доступы к системам и оплата модели за каждый запрос. Время, сэкономленное на подготовке документов, частично уходит на доступы: агенту нужна своя учетная запись с минимальными правами и журнал его действий.