ММООЗЗГГ.ru

Разбор

Инструменты ИИ-агента: как он действует в ваших системах

7 мин18 источников

Инструменты ИИ-агента это действия в ваших системах, которые модель вызывает сама: найти клиента, создать сделку, отправить письмо. Механизм называется function calling (вызов функций), а на принципе ReAct 2022 года, где модель чередует рассуждение и действие, работает большинство агентов.

На странице · 5 разделов

Нужен разработчик

Что такое инструмент

Модель умеет только писать текст. Инструмент дает ей возможность действовать: это функция в программе агента с названием, описанием и списком параметров, например «найти клиента по телефону».

Примеры для бизнеса: найти клиента в CRM, создать сделку, проверить остаток в 1С, записать клиента на свободное время, отправить письмо. Каждое действие описывают отдельно, и агент видит только те, что ему выдали.

Модель не выполняет действие сама. Она возвращает запрос на вызов: имя инструмента и значения параметров. Функцию выполняет программа агента и передает модели результат.

Инструменты подключают двумя способами. Первый: описать функцию в коде агента. Второй: подключить MCP-сервер, через который агент получает готовый набор действий сервиса. Протокол MCP Anthropic открыла 25 ноября 2024 года как единый способ подключать ИИ к данным и сервисам; как подключить сервер, мы разобрали отдельно.

Вызов функций работает и с открытыми моделями. Ollama, программа для запуска моделей на своем сервере, принимает описание инструментов вместе с вопросом, и модель, например qwen3, возвращает вызов нужной функции.

Как модель выбирает инструмент

Агент работает по циклу ReAct: модель рассуждает, какой шаг нужен, вызывает инструмент, читает результат и решает, что делать дальше. Подход описан в 2022 году, на нем стоит большинство ИИ-агентов.

Выбор зависит от просьбы клиента и от описания инструмента. В документации Anthropic это сказано прямо: модель вызывает инструмент, когда запрос совпадает с описанной возможностью, а ответа еще нет в контексте.

Выбором управляют и инструкцией. Фраза в системном промпте «прежде чем ответить, проверь данные инструментом» заставляет модель чаще обращаться к инструментам, а параметр tool_choice в API Anthropic делает вызов обязательным.

Пример. Клиент спрашивает, где его заказ. Модель видит инструменты «найти заказ по номеру» и «создать сделку», выбирает первый и берет номер из сообщения. Если номера нет, сильная модель чаще переспросит, а слабая может подставить догадку.

За один запрос модель может вызвать несколько инструментов подряд или сразу несколько параллельно. Цикл заканчивается, когда новых вызовов нет и модель готова ответить.

Число шагов ограничивают заранее, чтобы агент не ходил по кругу. В n8n у узла «AI Agent» для этого есть параметр «Max Iterations» (сколько раз модель может запуститься за один запрос), по умолчанию 10.

Описание и ограничения

Описание инструмента модель читает как инструкцию. Документация Anthropic называет подробное описание главным фактором качества и советует писать не меньше 3-4 предложений на каждый инструмент.

Что должно быть в описании: что инструмент делает; когда его вызывать и когда нет; что значит каждый параметр; чего инструмент не возвращает.

Плохо: «get_client: получает клиента». Хорошо: «Ищет клиента в CRM по номеру телефона. Вызывай, когда клиент спрашивает о своем заказе или бонусах. Телефон в формате +7. Историю оплат не возвращает».

Связанные действия объединяют в один инструмент с параметром «действие», а названия начинают с имени системы: crm_find_client, crm_create_deal. Так модель реже путает инструменты, когда их много.

Ответ инструмента тоже проектируют. Он возвращает только поля, нужные для следующего шага, и понятные идентификаторы, например номер заказа, а не внутренний код базы. Лишние данные занимают место в контексте и мешают модели найти главное.

Описание подсказывает модели, а останавливают ее права. У агента своя учетная запись в CRM и 1С с доступом только к его процессу: агенту продаж достаточно заводить сделки, выгрузка базы ему не нужна. Полный список проверок собран в чек-листе защиты агента.

Опасные действия ставят на подтверждение человеком: оплату, возврат денег, удаление записей. В Agents SDK, открытом наборе OpenAI для сборки агентов, который вышел 11 марта 2025 года, инструмент с отметкой needs_approval останавливает работу, пока человек не одобрит или не отклонит вызов.

Журнал действий

Журнал отвечает на вопрос «что агент сделал и почему». По каждому диалогу в нем видно, какой инструмент вызван, с какими параметрами, что вернула система и какой ответ получил клиент.

В Agents SDK от OpenAI трассировка, то есть запись каждого шага, включена по умолчанию. Она сохраняет ответы модели, вызовы инструментов, передачу задачи между агентами и срабатывание ограничителей. Отключают ее переменной окружения или в коде.

В n8n каждый запуск процесса виден на вкладке «Executions» (запуски). Параметр «Return Intermediate Steps» у узла «AI Agent» добавляет в результат промежуточные шаги агента.

Действия агента должны оставаться и в журнале самой системы. Если агент создал сделку, она видна в истории CRM под его учетной записью, и ваш администратор проверяет ее без доступа к программе подрядчика.

В журнале лежат персональные данные: имена, телефоны, переписка. На него распространяется 152-ФЗ: данные граждан России собирают и хранят в базах на территории России, а до передачи за рубеж оператор подает уведомление в Роскомнадзор. Как это устроено у нас, описано на странице о безопасности данных.

По журналу разбирают ошибки и пополняют набор проверочных вопросов: каждый неверный вызов становится новым тестом.

С чего начать: какие действия доверить агенту

Первыми агенту выдают инструменты на чтение: найти клиента, проверить статус заказа, посмотреть остаток на складе. Ошибка в таком вызове дает неверный ответ, но не меняет данные в системе, и ее видно в журнале.

Следующий шаг: запись, которую легко отменить. Создать сделку, поставить задачу менеджеру, записать клиента на свободное время. Каждое такое действие остается в истории CRM под учетной записью агента.

Деньги и удаление остаются за человеком или идут через подтверждение: возврат, скидка сверх правил, отмена заказа, удаление записи.

Пример. Интернет-магазину для агента поддержки хватает трех инструментов: «найти заказ по номеру», «проверить статус доставки» и «создать обращение». Возврат денег агент не делает: он заводит обращение, а решение принимает сотрудник.

Лишние инструменты вредят дважды. OWASP в списке рисков 2025 года для приложений на языковых моделях выделяет избыточную свободу действий агента: лишние функции, лишние права и лишнюю самостоятельность. Кроме того, описания всех подключенных инструментов модель получает на каждом шаге вместе с историей диалога, и они оплачиваются как входные токены.

У Claude Sonnet 5.5 само подключение инструментов добавляет к запросу служебную инструкцию на 286 токенов, а описания инструментов идут сверху. Поэтому набор держат коротким и расширяют, когда журнал показывает, что агенту не хватает действия.

Вопросы и ответы

Чем инструмент отличается от MCP-сервера?

Инструмент это одно действие, а MCP-сервер отдает агенту готовый набор действий одного сервиса по общему протоколу. Программа агента запрашивает у сервера список инструментов и вызывает их, поэтому набор может меняться без правки кода агента. Описания инструментов модель читает как инструкции, и чужой сервер может спрятать в них команды. Поэтому ставят серверы с открытым кодом и известным автором, фиксируют версию и выдают каждому свой ключ доступа с узкими правами.

Сколько инструментов давать агенту?

Столько, сколько нужно его процессу, и не больше. Описания всех подключенных инструментов модель получает в каждом запросе, поэтому лишние стоят денег и чаще приводят к выбору не того действия. Связанные действия одной системы объединяют в один инструмент с параметром, как советует документация Anthropic.

Может ли агент через инструмент сделать то, чего не просили?

Да, если команду подложили в данные, которые он читает: письмо, страницу сайта, файл. OWASP называет это косвенной промпт-инъекцией. В проверке Anthropic в августе 2025 года браузерный агент без защит поддавался таким атакам в 23,6% случаев, с защитами в 11,2%, а до защит вредное письмо заставило его удалить письма пользователя без подтверждения. Полной защиты не дает ни один способ, поэтому опасные действия ставят на подтверждение человеком, а права агента сужают.

Работает ли вызов функций на модели, установленной на своем сервере?

Да. Ollama поддерживает вызов инструментов, в ее примерах это делает модель qwen3, в том числе несколько вызовов параллельно. Семейство Qwen 3 вышло 29 апреля 2025 года с открытыми весами на лицензии Apache 2.0, поэтому модель можно поставить на сервер в России, и данные клиентов из ответов инструментов не уходят за рубеж. Насколько точно открытая модель выбирает инструмент, проверяют на своем наборе вопросов до запуска.

Источники и проверка

Проверено редакцией 16 октября 2026.

  1. arXiv 2210.03629, 6 октября 2022 (arxiv.org)
  2. Anthropic, 25 ноября 2024 (anthropic.com)
  3. OpenAI, 11 марта 2025 (openai.com)
  4. Brace Law Firm, 9 июля 2023 (brace-lf.com)
  5. Anthropic, документация Claude: Tool use, 2026 (platform.claude.com)
  6. Anthropic, документация Claude: Define tools, 2026 (platform.claude.com)
  7. Ollama, документация: Tool calling, 2026 (docs.ollama.com)
  8. OpenAI Agents SDK, документация: Tracing, 2026 (openai.github.io)
  9. OpenAI Agents SDK, документация: Human-in-the-loop, 2026 (openai.github.io)
  10. Документация n8n: Tools Agent: Max Iterations, Return Intermediate Steps, проверено 16 октября 2026 (docs.n8n.io)
  11. OWASP, LLM06:2025 Excessive Agency, 2025 (genai.owasp.org)
  12. OWASP, LLM01:2025 Prompt Injection, 2025 (genai.owasp.org)
  13. Anthropic, документация Claude: Pricing, 2026 (platform.claude.com)
  14. Anthropic, документация Claude: Context windows, 2026 (platform.claude.com)
  15. Документация MCP: Architecture overview, 2026 (modelcontextprotocol.io)
  16. Документация MCP: Local Server Security, 2026 (modelcontextprotocol.io)
  17. Anthropic, 25 августа 2025 (claude.com)
  18. Simon Willison, 29 апреля 2025 (simonwillison.net)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин
Написать в Telegram