Словарь ИИ

Что такое ответственность за ИИ

Коротко

Ответственность за ИИ это вопрос о том, кто отвечает перед клиентами, сотрудниками и законом, когда нейросеть ошиблась, причинила вред или нарушила чьи-то права.

Безопасность и право · AI liability

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Если твоя собака погрызла соседский мяч, извиняться и покупать новый будет хозяин собаки, а не она сама. С умными программами похоже. Программа может ошибиться, но отвечают за это люди: те, кто ее сделал, и те, кто дал ей работу. Поэтому взрослые присматривают за ней и проверяют важные решения.

Простыми словами

Нейросеть не человек и не компания, поэтому сама отвечать не может. Когда она ошиблась, например чат-бот пообещал клиенту несуществующую скидку или неверно рассчитал сумму, отвечает тот, кто поставил ее работать. Для клиента нет разницы, ошибся сотрудник, сайт или ИИ-ассистент: претензию он предъявит компании. Компания, в свою очередь, может переложить часть убытков на поставщика сервиса, если это прописано в договоре. Поэтому важно заранее понимать, кто в цепочке разработчик, кто поставщик, а кто пользователь системы.

Для бизнеса

Показательный случай произошел в Канаде: в феврале 2024 года трибунал Британской Колумбии обязал Air Canada выплатить клиенту 812,02 канадского доллара, потому что чат-бот на сайте неверно описал правила льготного тарифа. Довод, что бот отвечает сам за себя, трибунал отклонил: компания отвечает за всю информацию на своем сайте. В России действуют общие правила: вред возмещает тот, кто его причинил. Что сделать до запуска: ограничить, что агенту можно обещать, сохранять диалоги, оставить человеку решения о деньгах и прописать в договоре с поставщиком, кто платит за его ошибки. Распределение ответственности разбирают в карте ИИ-решений до выбора поставщика.

Для специалиста

Ответственность за ИИ (AI liability) описывает, кто несет последствия вреда от решения или действия ИИ-системы: разработчик модели, поставщик сервиса, интегратор или компания-пользователь (deployer). Отдельного режима в российском праве нет: статья 11 закона 243-ФЗ отсылает к общему законодательству. Основой служат статья 1064 ГК РФ (вред возмещает причинитель в полном объеме и освобождается, если докажет отсутствие вины), статья 1068 об ответственности юридического лица за вред, причиненный работником, и договорная ответственность между участниками цепочки. Регламент ЕС 2024/1689 распределяет обязанности между поставщиком (provider) и эксплуатантом (deployer) и подкрепляет их штрафами по статье 99. Практическая трудность в доказательствах: вероятностная модель плохо воспроизводима, поэтому важны журналы запросов и ответов, версии модели и промптов, записи проверок человеком. Решение Moffatt v. Air Canada (2024 BCCRT 149) применило подход, при котором компания отвечает за ответы чат-бота так же, как за статичную страницу сайта.

Пример

Чат-бот страховой компании сообщил клиенту, что полис покрывает случай, который на деле исключен. Компания выплатила возмещение, а затем добавила в бота правило: вопросы о покрытии он передает сотруднику, а не отвечает сам.

Связанные термины

Вопросы и ответы

Кто отвечает, если ИИ-ассистент дал клиенту неверный ответ?

Перед клиентом отвечает компания, которая поставила ассистента работать, как и за любую информацию на своем сайте. Свои убытки она может взыскать с поставщика, если это предусмотрено договором.

Помогает ли оговорка «ответы ИИ могут быть неточными»?

Она снижает ожидания, но в деле Air Canada трибунал оценивал, приняла ли компания разумные меры, чтобы бот отвечал точно. Надежнее ограничить темы, на которые бот отвечает сам, и регулярно проверять его ответы.

Источники

Где это применяют в компании

Ошибки ИИ в бизнесе: почему ИИ ошибается и кто отвечает

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений