Безопасность ИИ в компании: риски и как их снизить

Утечка через ИИ редко похожа на взлом. Сотрудник вставляет в открытую нейросеть договор, выгрузку клиентов или отчет, чтобы быстрее получить ответ, и текст уходит на сервер чужого сервиса. Где он хранится дальше и кто его читает, компания уже не знает.

Второй путь идет через ИИ-агентаИИ-агент ИИ-агент это нейросеть, которая не просто отвечает, а сама выполняет задачу по шагам: ищет данные, пользуется программами и проверяет результат. Подробнее в словаре с полными правами в CRM. Агент круглосуточно принимает сообщения от незнакомых людей, и если он выполнит чужую инструкцию из сообщения, то отдаст все, что видит сам.

Защита начинается с прав. У агента отдельная учетная запись с доступом только к своему процессу, его действия пишутся в журнал CRM, а просьбу «забыть правила» или прислать список клиентов он передает человеку.

Что проверить до внедрения:

1. Через какие внешние сервисы проходит текст сообщений и есть ли с ними договор.

2. Где физически хранятся переписка и база знанийбаза знаний для ИИ База знаний для ИИ это отобранные и подготовленные документы компании, по которым ИИ-ассистент ищет ответы: регламенты, инструкции, каталог, ответы на частые вопросы. Подробнее в словаре.

3. Какие права у агента в CRM и 1С и можно ли их сократить.

4. Кто и за сколько минут отзывает доступы агента.

Что сотрудники отправляют в нейросети и как дать им ИИ без этого риска, разобрано на странице про утечки через нейросети. Как это устроено у нас, описывают правила безопасности в наших внедрениях.

ИИ-агент ошибается чаще не из-за модели. Ему не дали прайс, сроки и список того, что обещать нельзя, учили на выдуманных примерах вместо реальных переписок или не задали, когда передавать разговор человеку.

Ошибку дешевле поймать до клиента, чем после. Агент сам отвечает только на типовые вопросы, жалобы и спорные случаи передает сотруднику вместе с историей, а ответственный в первые недели каждый день просматривает диалоги и правит правила.

Часть решений агенту не отдают совсем: он не подписывает документы, не платит и не ведет переговоры. Права выдают по процессу: агенту продаж хватает заводить и обновлять сделки, выгрузка базы клиентов ему не нужна.

Проверка за час: возьмите реальные сообщения клиентов за последнюю неделю, отправьте агенту и оцените каждый ответ по трем вопросам. Правда ли это, по правилам ли, передал ли агент человеку то, что должен.

Почему ИИ ошибается и где без проверки человеком не обойтись, разобрано на странице про ошибки ИИ в бизнесе.

91% российских компаний работают с одним поставщиком ИИ, по данным МТС Web Services за декабрь 2025 года. Если поставщик поднимет цену, сменит условия или закроет доступ, процессы на ИИ остановятся, а переключиться будет не на что.

Защита не в выборе надежного поставщика, а в устройстве системы. Правила агента, подключения к CRM, телефонии и мессенджерам и база знаний живут отдельно от модели, поэтому модель меняют без переделки правил и подключений.

Запасную модель проверяют заранее, а не в день отключения. Прогоните на ней те же реальные диалоги, что и на основной, и запишите, какое качество ответов вас устроит и сколько времени займет переключение.

Три вопроса подрядчику. На какой модели работает агент и что будет, если она станет недоступна завтра. Где хранятся правила, история диалогов и база знаний: у вас или внутри чужой платформы. Можно ли выгрузить все это и запустить на другой модели.

Если ответа нет, у вас не система, а подписка на чужой сервис с вашими данными внутри. Реальный пример отключения моделей и то, как держать запасную, разобраны на странице о зависимости от поставщика ИИ.

Персональные данные клиентов попадают под 152-ФЗ независимо от того, кто им отвечает: человек или программа. Оператором персональных данных остается ваша компания: вы собираете их и решаете, зачем. Подрядчик обрабатывает их по вашему поручению.

Закон требует записывать и хранить персональные данные граждан России в базах в России. Для ИИ это значит, что переписка, карточки клиентов и все, что агент читает из CRM и 1С, не уходят в зарубежный сервис в обход правил трансграничной передачи.

У нас персональные данные клиентов обрабатываются на серверах в России по 152-ФЗ. Данные и доступы остаются у клиента, поэтому смена подрядчика не превращается в переезд.

Со стороны компании нужны свои документы: политика обработки персональных данных, согласие клиента там, где оно требуется, уведомление Роскомнадзора и договор с подрядчиком с разделом об обработке по поручению. Это не юридическая консультация: документы проверяет юрист.

В России принят и базовый закон об ИИ. Что в нем есть и что он меняет для компании, у которой уже работает ИИ-агент, разобрано в отдельной статье.

Когда ИИ есть у каждого отдела, за риски не отвечает никто. Подписки покупают отделы, данные уходят из разных мест, а ошибку агента замечают через месяц, когда клиент уже ушел.

Риски ИИ для бизнеса снижаются, когда у каждого есть хозяин. В ИИ-департаментеИИ-департамент ИИ-департамент это люди и правила внутри компании, которые отвечают за искусственный интеллект: кто выбирает решения, кто следит за данными и рисками, кто считает эффект. Подробнее в словаре ИИ-директор отвечает за карту решений и результат и подчиняется первому лицу. Юрист и безопасность отвечают за данные, 152-ФЗ и договоры с поставщиками.

ИТ-отдел подключает ИИ к CRM, 1С и телефонии и выдает доступы. Руководители отделов отвечают за свои процессы и свою цифру: что агент делает сам, что передает человеку и по какой метрике видно, что все работает.

В малом бизнесе это один ответственный и ИИ-директор на несколько часов в неделю, в крупном отдельное подразделение. Кто входит в команду и за что отвечает каждый, описано на странице о структуре ИИ-департамента.

Риски входят в карту ИИ-решений отдельным разделом: что можно отдать ИИ, что нельзя, где хранить данные по 152-ФЗ и как не зависеть от одного поставщика. Так ИИ и информационная безопасность обсуждаются до старта, а не после первой утечки.

Начать можно с разбора за 30 минут. Посмотрим, какими сервисами уже пользуются сотрудники, куда уходят данные и где вам нужен запасной вариант.