Модель и как она отвечает
Языковая модельбольшая языковая модель. Большая языковая модель (LLM) это нейросеть, обученная на огромном объеме текстов, которая пишет, пересказывает и разбирает текст по запросу. (LLM): программа, обученная на большом объеме текста, которая пишет ответ слово за словом. Это «мозг» агента, но без инструкций, знаний и инструментов модель только разговаривает. Из каких еще деталей собран агент, показано на схеме семи деталей.
Токентокен. Токен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель.: кусок текста, которым модель считает слова: слово, часть слова или символ. Облачные модели берут плату за токены на входе и выходе, поэтому длинные инструкции и документы стоят денег при каждом ответе; расходы в месяц посчитаны на странице о стоимости работы агента.
Контекстное окноконтекстное окно. Контекстное окно это объем текста в токенах, который языковая модель видит за один раз: инструкции, документы, вопрос и ее собственный ответ.: сколько текста модель видит за один раз, ее рабочая память. Сюда помещаются инструкция, история диалога и найденные документы, а что не поместилось, модель не учитывает.
Температура: настройка случайности ответа. Низкая дает сдержанные и похожие ответы, высокая разнообразные, и даже при нулевой ответы на один вопрос могут отличаться, поэтому агента проверяют на наборе вопросов.
Инструкции и знания
Системный промпт: постоянная инструкция агенту: кто он, что делает, чего не делает и как отвечает. Его правят без программиста, и он сильнее всего влияет на ответы; шаблон собран на странице о системном промпте.
RAG (поиск по документам перед ответом): агент сначала находит фрагменты в вашей базе документов, потом отвечает по ним. Так он работает с прайсом и регламентами без обучения модели; сборку по шагам смотрите в инструкции по RAG.
Векторная база данных: хранилище, где фрагменты документов лежат в виде векторов, наборов чисел, отражающих смысл. По ним агент находит текст, близкий к вопросу по смыслу, даже если слова в нем другие.
Дообучениедообучение. Дообучение это настройка уже обученной модели на ваших примерах, чтобы она точнее выполняла конкретную задачу или писала в нужном стиле. (fine-tuning): дополнительное обучение готовой модели на ваших примерах, чтобы она переняла стиль или формат. Агенту для бизнеса оно нужно редко: знания дает RAG, поведение задает системный промпт.
Действия и подключения
Инструмент (вызов функцийвызов функций. Вызов функций (function calling) это способ, которым языковая модель просит программу выполнить действие: модель выбирает функцию и заполняет ее параметры, а код приложения выполняет запрос и возвращает результат., function calling): действие, которое модель может запросить: найти клиента в CRM, создать заявку, записать в календарь. Модель решает, когда вызвать инструмент, а выполняет вызов ваша программа и возвращает результат. Как дать агенту инструменты без лишних прав, разобрано отдельно.
MCPMCP. MCP (Model Context Protocol) это открытый стандарт, через который ИИ-приложения подключаются к инструментам и данным: файлам, CRM, базам, сервисам. (Model Context Protocol): открытый стандарт подключения ИИ к файлам, базам и сервисам, его сравнивают с портом USB-C. Anthropic открыла протокол 25 ноября 2024 года, а 9 декабря 2025 года его передали в Agentic AI Foundation при Linux Foundation; пошаговое подключение есть в инструкции по MCP-серверу.
Цикл агента (ReAct): модель чередует рассуждение и действие: решает, какой шаг нужен, вызывает инструмент, смотрит на результат и решает снова. На этом принципе, описанном в 2022 году, работает большинство агентов; схема цикла есть на странице о том, как работает ИИ-агент.
Агент, сценарий и команда агентов
Сценарий автоматизации (workflowворкфлоу и агент. Воркфлоу и агент это два способа построить ИИ-систему: в воркфлоу шаги заранее заданы кодом, а агент сам выбирает следующий шаг и инструменты по ходу работы.): шаги заданы заранее в коде или конструкторе, модель выполняет отдельные шаги, но порядок не выбирает. Для повторяемых задач его часто хватает, и ломается он реже.
ИИ-агент: система, где модель сама выбирает шаги и инструменты, пока задача не решена. Anthropic советует начинать с самого простого решения и переходить к агенту, только когда сценария мало.
Мультиагентная система: несколько агентов с разными ролями, которые передают друг другу задачи: один собирает данные, другой пишет ответ, третий проверяет. Нужна, когда процесс проходит через несколько отделов.
Память агента: что агент помнит между разговорами: имя клиента, прошлые заказы, договоренности. Короткая память живет в контекстном окне, долгая хранится в базе, а срок хранения персональных данных задают правила компании.
Где работает модель
Открытая модельмодель с открытыми весами. Модель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании. (открытые веса): модель, которую можно скачать и запустить у себя. Например, DeepSeek R1 вышла 20 января 2025 года на лицензии MIT, а семейство Qwen 3 вышло 29 апреля 2025 года на лицензии Apache 2.0; лицензии открытых инструментов собраны на странице о бесплатных агентах.
Локальная модель: модель, которая работает на вашем компьютере или сервере, а не в чужом облаке. Чаще всего ее запускают через Ollama, программу с лицензией MIT, и данные клиентов при этом не уходят из компании.
SDK для агентов: набор библиотек, на котором программист собирает агента в коде: цикл, инструменты, передачу задачи между агентами. Пример: Claude Agent SDK, в который Anthropic 29 сентября 2025 года переименовала Claude Code SDK.
Проверка, безопасность и запуск
Галлюцинация: уверенный ответ, которого нет в ваших данных, например выдуманная цена или срок. Ее снижают RAG, запрет отвечать без источника и проверка на наборе вопросов.
Проверочный набор: реальные вопросы клиентов с правильными ответами, на которых агента проверяют до запуска и после каждой правки. Без него нельзя сказать, стал агент точнее или нет.
Инъекция промпта: чужая инструкция, спрятанная в письме, документе или на сайте, которую агент может принять за команду. Защита: минимум прав, подтверждение человеком опасных действий и журнал.
Человек в контуре: правило, по которому агент не делает важное действие (оплату, возврат, отправку договора) без подтверждения сотрудника. Если агент видит данные клиентов, к контролю добавляется 152-ФЗ: сбор и хранение данных граждан РФ в базах на территории России, как описано на странице о безопасности данных.
Пилот и метрика: запуск агента на одном процессе с цифрой «было и стало» в договоре. Метрику смотрят каждую неделю, и по ней решают, расширять агента или остановить.