Ошибки при создании ИИ-агента: от лишней сложности до утечки

Ошибки идут в том порядке, в котором их совершают: сначала при выборе задачи, потом при сборке, потом после запуска. Первые три стоят дороже остальных, потому что их не исправить настройкой: агента приходится строить заново или выключать.

1. Нет метрики. Агента запускают, не записав, какую цифру он должен изменить: время ответа, число обработанных заявок, часы сотрудников. Через месяц пользу нечем доказать.

2. Не та задача. Агента ставят на процесс, который редко повторяется или где ошибка стоит дорого. Начинать стоит с частой работы, у которой есть понятный правильный ответ.

3. Лишняя сложность. Сразу строят команду из нескольких агентов там, где хватило бы одного запроса к модели. Anthropic советует начинать с простого решения и усложнять, только когда это нужно, а иногда агент не нужен вовсе.

4. Нет проверки ответов. Агента выпускают к клиентам без набора тестовых вопросов. 14 февраля 2024 года трибунал канадской провинции Британская Колумбия признал Air Canada ответственной за неверный ответ чат-ботачат-бот Чат-бот это программа, которая переписывается с человеком в окне чата: на сайте, в мессенджере или в приложении. Подробнее в словаре на сайте и отклонил довод, что бот отвечает за свои слова сам.

5. Доступ ко всей CRM. Агенту дают права администратора, хотя ему нужно читать одну воронку продаж. OWASP, сообщество по безопасности программ, называет это избыточной автономией: лишние функции, лишние права и лишняя самостоятельность агента.

6. Действия без человека. Агент отправляет письма, меняет цены или возвращает деньги без подтверждения. OWASP советует, чтобы важные действия подтверждал человек.

7. Данные в зарубежном сервисе. 2 мая 2023 года Samsung запретила сотрудникам генеративный ИИгенеративный ИИ Генеративный ИИ (generative AI) это нейросети, которые создают новый контент: тексты, изображения, музыку, видео и программный код по описанию на обычном языке. Подробнее в словаре после того, как инженеры загрузили в ChatGPT внутренний исходный код. Для персональных данных клиентов действует 152-ФЗ: хранение в России и уведомление Роскомнадзора до передачи за рубеж.

8. Агенту не сказали, чего он не знает. В инструкции нет правила «если ответа нет в документах, так и скажи», и модель додумывает ответ. Почему так бывает, разобрано в статье о том, почему ИИ-агент отвечает неправильно.

9. Нет владельца. Агента запустил подрядчик, а внутри компании никто не обновляет документы и не читает журнал. Через пару месяцев агент отвечает по старому прайсу.

10. Оплата за часы, а не за результат. Типовой агент собирается из открытых блоков; если за него просят как за уникальную разработку, спросите, из чего цена. Оплачивайте результат по метрике, а не часы.

По прогнозу Gartner от 25 июня 2025 года, больше 40% проектов агентного ИИагентный ИИ Агентный ИИ это подход, при котором нейросеть получает цель и сама ведет работу к результату: планирует шаги, вызывает программы и проверяет, что получилось. Подробнее в словаре закроют к концу 2027 года. Причины названы три: затраты, неясная польза и слабый контроль рисков.

Там же Gartner оценил, что из тысяч поставщиков «агентов» настоящих около 130. Остальные переименовали чат-боты и RPARPA RPA (robotic process automation, роботизация процессов) это программные роботы, которые повторяют действия человека в интерфейсе программ: открывают окна, копируют данные, заполняют поля по заданному сценарию. Подробнее в словаре, программы, которые повторяют действия человека по жесткому сценарию.

MIT NANDA в августе 2025 года выяснила, что 95% пилотов генеративного ИИ не дают измеримого эффекта на прибыль. Покупка у специализированных поставщиков и партнерство удаются примерно в 67% случаев, собственные разработки втрое реже.

Во всех трех цифрах причина не в коде. Проект закрывают, когда никто заранее не решил, какую задачу агент решает, сколько она стоит компании и кто примет результат.

Для компании любого размера отсюда простое правило: каждого агента запускают как пилот с метрикой и датой проверки. Если к этой дате цифра не сдвинулась, агента выключают, а деньги переносят на следующий процесс из списка.

Подробно о причинах написано на странице о провале внедрения ИИ-агентов.

Перед стартом ответьте письменно на семь вопросов. Если на какой-то из них ответа нет, начинать рано.

1. Какую цифру изменит агент и какое у нее значение сейчас?

2. Сколько раз в месяц повторяется задача и сколько стоит ошибка в ней?

3. Можно ли решить задачу проще: шаблоном, правилом в CRM или одним запросом к модели?

4. Какие данные нужны агенту и где они будут храниться?

5. Какие права нужны агенту и какие действия подтверждает человек?

6. На каких вопросах вы проверите ответы до запуска и какой процент верных ответов считаете достаточным?

7. Кто в компании отвечает за агента после запуска и как часто смотрит журнал?

Вопросы 3 и 5 повторяют советы Anthropic и OWASP: простое решение раньше сложного, минимум прав и человек перед важным действием. Если вопросов о выборе задачи больше, чем ответов, начните не со сборки, а со списка процессов, где компания теряет деньги.