Словарь ИИ
Что такое этика ИИ
Коротко
Этика ИИ это принципы, по которым создают и применяют искусственный интеллект так, чтобы он не вредил людям: справедливость, прозрачность, приватность и ответственность человека.
Безопасность и право · AI ethics
Михаил МозгПроверено: 1 минута чтения
Ребенку
Сильный ребенок может помогать младшим, а может их толкать. Сила сама по себе не хорошая и не плохая, важно, как ею пользуются. Умные программы тоже сильные: они быстро считают, пишут, узнают лица. Этика ИИ это договор людей о том, как пользоваться такой силой честно, бережно и никого не обижать.
Простыми словами
Нейросеть делает то, чему ее научили и что ей поручили, а не то, что правильно. Поэтому люди договариваются о правилах заранее. Не решать судьбу человека втемную: он должен понимать, почему ему отказали. Не делить людей на удобных и неудобных из-за перекоса в данных. Не собирать о людях больше, чем нужно. Сообщать, что с вами говорит программа. И главное: за решения машины отвечает человек. Эти правила записывают в международные документы, законы и внутренние кодексы компаний.
Для бизнеса
Для компании этика переходит из философии в риск. Несправедливый отказ клиенту, скрытый сбор данных или бот, который выдает себя за человека, приводят к жалобам, проверкам и потере доверия. Закон 243-ФЗ среди принципов регулирования называет обеспечение прав и свобод человека, уважение его автономии и свободы воли, риск-ориентированный подход. На практике это набор конкретных правил: какие решения ИИ принимает сам, а какие только предлагает; какие данные нельзя отдавать модели; как клиент узнает, что общается с ботом; кто проверяет спорные случаи. Такие правила собирают в политику использования ИИ и разбирают с руководителями на обучении.
Для специалиста
Этика ИИ (AI ethics) изучает нормы разработки и применения ИИ-систем и способы их проверки. Рекомендация ЮНЕСКО об этике ИИ, принятая в ноябре 2021 года всеми 193 государствами-членами, задает четыре ценности и десять принципов, среди них соразмерность и непричинение вреда, приватность, прозрачность и объяснимость, человеческий надзор, справедливость и недискриминация. Принципы ОЭСР по ИИ (2019, обновлены в мае 2024 года) включают пять ценностных принципов, к ним присоединились 47 участников. Инженерная сторона: аудит предвзятости и метрики справедливости, объяснимость, оценка воздействия (impact assessment), документирование моделей и данных, состязательное тестирование, механизмы обжалования решений. Отличие от выравнивания (alignment): оно решает техническую задачу соответствия модели заданным целям, а этика спрашивает, какие цели и ограничения допустимы и кто за них отвечает. Принципы обязательны только там, где их закрепил закон или договор.
Пример
Сеть клиник внедряет ИИ для сортировки обращений. По внутренним правилам модель только предлагает срочность, окончательное решение принимает дежурный врач, а пациенту в чате сразу сообщают, что первичные ответы дает программа.
Связанные термины
Вопросы и ответы
Какие принципы входят в этику ИИ?
Чем этика ИИ отличается от закона об ИИ?
Источники
Где это применяют в компании
Не уверены, нужно ли это вашей компании?
Карта ИИ-решений