ММООЗЗГГ.ru

Разбор

RAG-агент с базой знаний: как ИИ отвечает по документам компании

6 мин16 источников

RAG-агент отвечает на вопросы по документам вашей компании: перед ответом он находит нужные фрагменты в базе и пересказывает их со ссылкой на источник. Модель при этом не обучают, метод описан в статье Lewis и соавторов 2020 года. Собрать такого агента на открытых конструкторах можно за неделю, если документы уже лежат в одном месте.

На странице · 5 разделов

Соберете сами за неделю

Как работает поиск по документам

RAG (Retrieval-Augmented Generation, генерация с поиском) значит, что модель сначала ищет, а потом отвечает. Документы заранее режут на фрагменты по абзацу-два и превращают в векторы: наборы чисел, по которым программа находит близкие по смыслу тексты.

Векторы хранят в векторной базе. Это база данных, которая ищет не по точным словам, а по смыслу: на вопрос «как вернуть товар» она найдет и раздел «возврат и обмен».

Когда клиент или сотрудник задает вопрос, агент берет несколько ближайших фрагментов и передает их модели вместе с вопросом. Модель отвечает по найденному тексту и называет документ, из которого взят ответ.

Чтобы обновить знания агента, достаточно заменить документ в базе и обработать его заново. Весь путь по шагам разобран в инструкции как сделать RAG-систему за 7 шагов.

Когда нужен RAG

RAG нужен, когда ответ лежит в документах, которых много и которые меняются: база знаний поддержки, регламенты, каталог с характеристиками, договоры, инструкции для сотрудников.

Если документов мало, поиск может быть лишним. Anthropic в сентябре 2024 года писала: базу знаний меньше 200 000 токенов, это около 500 страниц, можно целиком положить в запрос к модели. Токен это кусок слова, по которому модель считает объем текста и цену.

RAG не поможет и там, где ответ берется из живой системы: свободное окно в календаре, статус заказа, остаток на складе. Такие данные агент получает инструментом в момент вопроса, об этом страница про агента без базы знаний.

Простая проверка: если сотрудник отвечает на вопрос, открыв папку с документами, задаче подходит RAG. Если он открывает CRM или 1С, нужен доступ к системе.

Из чего собрать

Для первого агента с базой знаний хватит визуального конструктора. Flowise распространяется по лицензии Apache 2.0. Dify тоже на Apache 2.0, но с двумя условиями: без разрешения нельзя запускать на нем многопользовательский облачный сервис по типу Dify и убирать логотип из консоли.

В Flowise база знаний называется Document Store (хранилище документов). Порядок по документации:

1. Создайте Document Store и дайте ему имя.

2. Выберите Document Loader (загрузчик документов), например PDF Loader для файлов PDF, и загрузите файл.

3. Выберите Text Splitter (разделитель текста), например Recursive Character Text Splitter, и задайте размер фрагмента в поле «Chunk Size» и перекрытие соседних фрагментов в поле «Chunk Overlap».

4. Посмотрите в предпросмотре, как текст режется на фрагменты, и запустите обработку.

5. На карточке «Select Embeddings» выберите модель, которая превращает текст в векторы, на карточке «Select Vector Store» выберите векторную базу. Размерность векторов у модели и у базы должна совпадать, иначе загрузка не пройдет.

6. Нажмите «Upsert» (загрузить в базу), затем «Retrieval Query» (проверочный запрос), чтобы увидеть, какие фрагменты находятся по вопросу.

7. Подключите хранилище к агенту: в Agentflow через узел Agent или напрямую через векторную базу и модель векторов.

В Dify путь короче: раздел «Knowledge», кнопка «Create», вариант «Create a ready-to-use knowledge base», загрузка файлов, настройка фрагментов с предпросмотром, выбор способа индексации и поиска.

Качество ответов

Чаще всего агент ошибается не в ответе, а в поиске: он нашел не тот фрагмент и честно его пересказал. Поэтому качество проверяют на двух шагах: нашлось ли нужное место и верно ли модель его передала.

Точность поиска повышают известными приемами. Anthropic в сентябре 2024 года показала: если к каждому фрагменту добавить короткое пояснение, откуда он, и искать сразу по смыслу и по словам, неудачных поисков становится меньше на 49%, а с повторной сортировкой результатов на 67%.

Частые причины плохих ответов проще любых приемов: сканы без текстового слоя, старые версии документов рядом с новыми, таблицы, разрезанные посередине. Почистить документы обычно полезнее, чем менять модель.

В инструкции агенту пропишите три правила: отвечать только по найденным фрагментам, называть документ и говорить «не знаю», если ответа в базе нет.

Перед запуском соберите несколько десятков настоящих вопросов с правильными ответами и прогоняйте их после каждого изменения базы. Как это делать, разобрано на странице о тестировании ИИ-агента.

Безопасность документов

База знаний выдает все, что в нее загрузили. Если положить туда зарплатную ведомость, агент перескажет ее любому, кто правильно спросит.

OWASP, открытое сообщество специалистов по безопасности, в списке рисков 2025 года выделяет слабости векторных баз: при слабом разграничении доступа агент выдает фрагменты, которые пользователю видеть нельзя. Совет оттуда же: права доступа на уровне хранилища и раздельные наборы данных для разных групп пользователей.

На практике это отдельная база для клиентов и отдельная для сотрудников. Документы с ограниченным доступом лежат только в базе, к которой подключены те, кому они положены.

Если в документах есть персональные данные клиентов, действует 152-ФЗ: по ч. 5 ст. 18 запись и хранение данных граждан России в базах за пределами страны не допускаются. Это касается и векторной базы, и модели, которая читает фрагменты. Как мы храним данные, описано на странице о безопасности данных.

Вопросы и ответы

Нужно ли обучать модель на документах компании?

Нет. RAG-агент перед каждым ответом находит нужные фрагменты в базе и отвечает по ним, сама модель при этом не меняется. Поэтому новый регламент начинает работать, как только его загрузили в базу и обработали, без нового обучения.

Какую модель векторов взять для русских документов?

Подойдет многоязычная модель, например bge-m3 от BAAI: она поддерживает больше 100 языков и тексты до 8192 токенов и ставится в Ollama командой ollama pull bge-m3. Для загрузки документов и для вопросов нужна одна и та же модель. Если модель сменили, документы обрабатывают заново.

Какого размера делать фрагменты?

Единого правила нет. В примере Flowise фрагмент 1500 знаков с перекрытием 750, LangChain для обычного текста предлагает 1000 знаков с перекрытием 200. Документация Flowise советует пробовать разные размеры и смотреть в предпросмотре, где разрез прошел. По умолчанию Flowise отдает модели 4 ближайших фрагмента: если взять меньше, текста будет меньше, но он может оказаться точнее.

Где хранить векторы, если у компании уже есть PostgreSQL?

В той же базе: расширение pgvector хранит векторы рядом с остальными данными, с транзакциями, восстановлением на момент времени и связями с другими таблицами. Доступ к строкам ограничивают политиками безопасности строк: если защита включена, а политики нет, строки не видит никто, кроме, как правило, владельца таблицы. Отдельные векторные базы Qdrant и Chroma тоже открыты и распространяются по лицензии Apache 2.0.

Как не держать в базе старые версии документов?

В Flowise за этим следит Record Manager: он считает отпечаток каждого фрагмента и пропускает повторы. В режиме Incremental при новой загрузке он удаляет старые версии изменившихся документов и не трогает остальные, в режиме Full удаляет все, чего нет в текущей загрузке. Без такого учета агент находит рядом старый и новый прайс и может пересказать любой из них.

Источники и проверка

Проверено редакцией 16 октября 2026.

  1. arXiv 2005.11401, 22 мая 2020 (arxiv.org)
  2. GitHub, 16 октября 2026 (github.com)
  3. GitHub, langgenius/dify, LICENSE, 2026 (github.com)
  4. Anthropic, 19 сентября 2024 (anthropic.com)
  5. OWASP GenAI Security Project, 2025 (genai.owasp.org)
  6. КонсультантПлюс, 152-ФЗ «О персональных данных», ст. 18, 2026 (consultant.ru)
  7. Документация Flowise: Document Stores, проверено 16 октября 2026 (docs.flowiseai.com)
  8. Документация Dify: Create Knowledge, проверено 16 октября 2026 (docs.dify.ai)
  9. Каталог Ollama: bge-m3, 2026 (ollama.com)
  10. Документация Ollama: Embeddings, 2026 (docs.ollama.com)
  11. Документация LangChain: Build a semantic search engine, 2026 (docs.langchain.com)
  12. GitHub, pgvector/pgvector, 2026 (github.com)
  13. Документация PostgreSQL 18: Row Security Policies, 2026 (postgresql.org)
  14. GitHub, qdrant/qdrant, 2026 (github.com)
  15. GitHub, chroma-core/chroma, 2026 (github.com)
  16. Документация Flowise: Record Managers, 2026 (docs.flowiseai.com)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин
Написать в Telegram