Словарь ИИ

Что такое ИИ-политика компании

Коротко

ИИ-политика компании это внутренний документ, который говорит сотрудникам, какими нейросетями можно пользоваться, какие сведения в них нельзя отправлять и кто отвечает за решения с ИИ.

Бизнес и внедрение · AI policy

Михаил МозгПроверено: 16 октября 20261 минута чтения

ПодробноПолитика использования ИИ в компании: что в ней прописать

Ребенку

В бассейне висят правила: в воду только при тренере, по бортику не бегать, после плавания в душ. Их пишут не для того, чтобы испортить праздник, а чтобы все остались целы и успели наплаваться. Когда во взрослой работе появляются умные помощники, для них тоже пишут такой листок с правилами и вешают на видное место.

Простыми словами

Сотрудники уже пользуются нейросетями: пишут письма, переводят, разбирают таблицы. Без правил каждый решает сам, и кто-то загружает в чат-бот договор с клиентом. Политика по ИИ наводит порядок. В ней перечислены разрешенные сервисы и задачи, запрещенные сведения (персональные данные, коммерческая тайна), обязанность проверять ответ модели перед отправкой клиенту и способ предложить новый инструмент. Хороший документ короткий: две-три страницы простым языком, с примерами «можно» и «нельзя», чтобы его прочитали, а не просто подписали.

Для бизнеса

Документ снижает два риска сразу: утечку сведений и решения по непроверенным ответам модели. Без него каждый сотрудник выбирает сервис сам, и теневой ИИ растет незаметно для руководства. Подготовка стоит недорого: текст пишут юрист, служба безопасности и ответственный за ИИ за несколько недель. Дороже обходится исполнение: обучение, корпоративные доступы вместо личных аккаунтов, контроль. Если вы обрабатываете персональные данные, правила по ИИ должны сходиться с документом о политике обработки, которого требует 152-ФЗ. До утверждения убедитесь, что у каждого запрета есть разрешенная замена, иначе люди вернутся к личным сервисам. Кто ведет и обновляет такой документ, решают при построении ИИ-департамента.

Для специалиста

ИИ-политика (AI policy, acceptable use policy) это организационный документ верхнего уровня в системе управления ИИ (AI governance). Типовая структура: область действия и определения; перечень одобренных инструментов и порядок допуска новых; классификация сведений и правила их передачи в модели; требования к проверке результата человеком; запреты для отдельных сценариев (решения о найме, кредитовании, медицинские выводы без контроля специалиста); маркировка сгенерированного контента; ответственность и порядок сообщения об инцидентах; обучение; периодический пересмотр. В NIST AI Risk Management Framework 1.0 (январь 2023 года) функция Govern требует, чтобы требования закона к ИИ были поняты и задокументированы, а характеристики надежного ИИ встроены в политики, процессы и процедуры организации. Для операторов персональных данных в России документ о политике обработки предписывает статья 18.1 Федерального закона № 152-ФЗ, и ИИ-политика на него опирается.

Пример

Юридическая фирма разрешила сотрудникам корпоративный доступ к языковой модели для черновиков и переводов, но запретила загружать документы клиентов без обезличивания. В политике указали, кто одобряет новые сервисы и куда сообщать об ошибке модели.

Связанные термины

Вопросы и ответы

Что прописать в политике использования ИИ?

Разрешенные сервисы и задачи, сведения, которые нельзя отправлять в нейросети, правило проверки ответов человеком и ответственных. Добавьте порядок, как сотруднику предложить новый инструмент и куда сообщить об ошибке.

Обязана ли компания иметь ИИ-политику?

Это зависит от того, какие сведения вы обрабатываете. Оператор персональных данных по 152-ФЗ обязан иметь документ о политике их обработки, и работа нейросетей с такими сведениями должна ему соответствовать. Остальным компаниям такой документ нужен прежде всего как защита от утечек.

Источники

Где это применяют в компании

Безопасность ИИ в компании: риски и как их снизить

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений