10 ошибок
Ошибки идут в том порядке, в котором их совершают: сначала при выборе задачи, потом при сборке, потом после запуска. Первые три стоят дороже остальных, потому что их не исправить настройкой: агента приходится строить заново или выключать.
1. Нет метрики. Агента запускают, не записав, какую цифру он должен изменить: время ответа, число обработанных заявок, часы сотрудников. Через месяц пользу нечем доказать.
2. Не та задача. Агента ставят на процесс, который редко повторяется или где ошибка стоит дорого. Начинать стоит с частой работы, у которой есть понятный правильный ответ.
3. Лишняя сложность. Сразу строят команду из нескольких агентов там, где хватило бы одного запроса к модели. Anthropic советует начинать с простого решения и усложнять, только когда это нужно, а иногда агент не нужен вовсе.
4. Нет проверки ответов. Агента выпускают к клиентам без набора тестовых вопросов. 14 февраля 2024 года трибунал канадской провинции Британская Колумбия признал Air Canada ответственной за неверный ответ чат-ботачат-бот. Чат-бот это программа, которая переписывается с человеком в окне чата: на сайте, в мессенджере или в приложении. на сайте и отклонил довод, что бот отвечает за свои слова сам.
5. Доступ ко всей CRM. Агенту дают права администратора, хотя ему нужно читать одну воронку продаж. OWASP, сообщество по безопасности программ, называет это избыточной автономией: лишние функции, лишние права и лишняя самостоятельность агента.
6. Действия без человека. Агент отправляет письма, меняет цены или возвращает деньги без подтверждения. OWASP советует, чтобы важные действия подтверждал человек.
7. Данные в зарубежном сервисе. 2 мая 2023 года Samsung запретила сотрудникам генеративный ИИгенеративный ИИ. Генеративный ИИ (generative AI) это нейросети, которые создают новый контент: тексты, изображения, музыку, видео и программный код по описанию на обычном языке. после того, как инженеры загрузили в ChatGPT внутренний исходный код. Для персональных данных клиентов действует 152-ФЗ: хранение в России и уведомление Роскомнадзора до передачи за рубеж.
8. Агенту не сказали, чего он не знает. В инструкции нет правила «если ответа нет в документах, так и скажи», и модель додумывает ответ. Почему так бывает, разобрано в статье о том, почему ИИ-агент отвечает неправильно.
9. Нет владельца. Агента запустил подрядчик, а внутри компании никто не обновляет документы и не читает журнал. Через пару месяцев агент отвечает по старому прайсу.
10. Оплата за часы, а не за результат. Типовой агент собирается из открытых блоков; если за него просят как за разработку с нуля, спросите, из чего цена. Оплачивайте результат по метрике, а не часы.
Почему проекты закрывают
По прогнозу Gartner от 25 июня 2025 года, больше 40% проектов агентного ИИагентный ИИ. Агентный ИИ это подход, при котором нейросеть получает цель и сама ведет работу к результату: планирует шаги, вызывает программы и проверяет, что получилось. закроют к концу 2027 года. Причины названы три: затраты, неясная польза и слабый контроль рисков.
Там же Gartner оценил, что из тысяч поставщиков «агентов» настоящих около 130. Остальные переименовали чат-боты и RPARPA. RPA (robotic process automation, роботизация процессов) это программные роботы, которые повторяют действия человека в интерфейсе программ: открывают окна, копируют данные, заполняют поля по заданному сценарию., программы, которые повторяют действия человека по жесткому сценарию.
MIT NANDA в августе 2025 года выяснила, что 95% пилотов генеративного ИИ не дают измеримого эффекта на прибыль. Покупка у специализированных поставщиков и партнерство удаются примерно в 67% случаев, собственные разработки втрое реже.
Во всех трех цифрах причина не в коде. Проект закрывают, когда никто заранее не решил, какую задачу агент решает, сколько она стоит компании и кто примет результат.
Для компании любого размера отсюда простое правило: каждого агента запускают как пилот с метрикой и датой проверки. Если к этой дате цифра не сдвинулась, агента выключают, а деньги переносят на следующий процесс из списка.
Подробно о причинах написано на странице о провале внедрения ИИ-агентов.
Как проверить себя до старта
Перед стартом ответьте письменно на семь вопросов. Если на какой-то из них ответа нет, начинать рано.
1. Какую цифру изменит агент и какое у нее значение сейчас?
2. Сколько раз в месяц повторяется задача и сколько стоит ошибка в ней?
3. Можно ли решить задачу проще: шаблоном, правилом в CRM или одним запросом к модели?
4. Какие данные нужны агенту и где они будут храниться?
5. Какие права нужны агенту и какие действия подтверждает человек?
6. На каких вопросах вы проверите ответы до запуска и какой процент верных ответов считаете достаточным?
7. Кто в компании отвечает за агента после запуска и как часто смотрит журнал?
Вопросы 3 и 5 повторяют советы Anthropic и OWASP: простое решение раньше сложного, минимум прав и человек перед важным действием. Если вопросов о выборе задачи больше, чем ответов, начните не со сборки, а со списка процессов, где компания теряет деньги.
Что проверять после запуска
Проверка ответов и подтверждение действий, ошибки 4 и 6, не заканчиваются в день запуска. Агент, который один раз верно ответил на тестовый вопрос, может ошибиться на нем же во второй раз. Anthropic в январе 2026 года привела расчет: если агент справляется с задачей в 75% попыток, три попытки подряд удаются ему примерно в 42% случаев.
Поэтому набор проверок прогоняют после каждого изменения инструкции, модели или документов, а баллам не верят, пока не прочитаны записи самих диалогов. Журнал нужен с первого дня: в Agents SDK от OpenAI запись вызовов модели и инструментов включена по умолчанию.
Чувствительные, необратимые или дорогие действия, например отмену заказа, крупный возврат или платеж, OpenAI советует отдавать на проверку человеку, пока не вырастет уверенность в надежности агента. Снимать это подтверждение стоит по цифрам из журнала, а не по ощущению.
Отдельный риск у агента, который одновременно видит закрытые данные, читает непроверенный текст, например письма клиентов, и может отправлять данные наружу. Саймон Уиллисон называет такое сочетание «смертельной тройкой» и не доверяет фильтрам, которые ловят 95% атак: в защите веб-приложений это провальный результат. Уберите у такого агента хотя бы одну из трех возможностей.