Словарь ИИ

Термины безопасности ИИ и права

Риски ИИ и правила работы с ним: защита данных, промпт-инъекции, дипфейки, 152-ФЗ и регулирование.

Михаил МозгПроверено: 16 октября 20263 минуты чтения

Термины категории

закон об ИИЗакон об ИИ это Федеральный закон № 243-ФЗ о поддержке развития технологий искусственного интеллекта, который вводит понятия больших фундаментальных, суверенных и национальных моделей.
авторское право и ИИАвторское право и ИИ это вопросы о том, кому принадлежат тексты и картинки, созданные нейросетью, и можно ли обучать модели на чужих произведениях.
водяной знак ИИВодяной знак ИИ это скрытая метка, которую нейросеть встраивает в созданный текст, картинку, звук или видео, чтобы программа потом могла определить их происхождение.
дезинформация и ИИДезинформация и ИИ это использование нейросетей для массового создания ложных новостей, фальшивых отзывов, поддельных видео и голосов, которые выдают за правду.
детектор ИИ-текстаДетектор ИИ-текста это программа, которая оценивает, написал текст человек или нейросеть, и выдает вероятность, а не точный ответ.
маркировка ИИ-контентаМаркировка ИИ-контента это пометка «создано с помощью ИИ» на тексте, изображении, видео или звуке, которую видит человек или считывает программа.
модерация контентаМодерация контента это проверка сообщений, отзывов, картинок и ответов нейросети на запрещенное и вредное содержимое до или после публикации.
мошенничество с ИИМошенничество с ИИ это обман, в котором преступники используют нейросети: поддельные голоса, видео, фотографии и убедительные письма, чтобы выманить деньги или данные.
обезличивание данныхОбезличивание данных это обработка сведений о людях, после которой без дополнительной информации нельзя понять, к какому человеку они относятся.
объяснимый ИИОбъяснимый ИИ (explainable AI, XAI) это набор методов, которые показывают, почему модель приняла конкретное решение и какие данные сильнее всего на него повлияли.
ответственность за ИИОтветственность за ИИ это вопрос о том, кто отвечает перед клиентами, сотрудниками и законом, когда нейросеть ошиблась, причинила вред или нарушила чьи-то права.
персональные данные и ИИПерсональные данные и ИИ это правила и риски обработки сведений о людях нейросетями: что можно передавать модели, где хранить данные и какое основание нужно по 152-ФЗ.
предвзятость ИИПредвзятость ИИ (AI bias) это систематическая ошибка, из-за которой модель хуже или несправедливо обходится с одними группами людей или случаями по сравнению с другими.
распознавание лицРаспознавание лиц это технология компьютерного зрения, которая находит лицо на фото или видео и сравнивает его с образцами, чтобы определить или подтвердить, кто это.
утечка данных через ИИУтечка данных через ИИ это ситуация, когда сведения компании или клиентов попадают к посторонним из-за нейросети: через запросы сотрудников, ответы модели или подключенные системы.
этика ИИЭтика ИИ это принципы, по которым создают и применяют искусственный интеллект так, чтобы он не вредил людям: справедливость, прозрачность, приватность и ответственность человека.
AI ActAI Act это регламент Европейского союза 2024/1689 об искусственном интеллекте, который делит ИИ-системы по уровню риска и задает требования к каждому уровню.
red teamingRed teaming (состязательное тестирование) это проверка ИИ-системы, при которой отдельная команда намеренно ищет в ней слабые места, пока их не нашли злоумышленники или клиенты.

Еще по теме

Бесплатный курс «Безопасность ИИ на работе» для каждого сотрудника

Термины категории

Все категории словаря