Словарь ИИ
Что такое мошенничество с ИИ
Коротко
Мошенничество с ИИ это обман, в котором преступники используют нейросети: поддельные голоса, видео, фотографии и убедительные письма, чтобы выманить деньги или данные.
Безопасность и право · AI fraud
Михаил МозгПроверено: 1 минута чтения
Ребенку
Представь, что кто-то надел маску, очень похожую на лицо твоего друга, и просит отдать ему твой рюкзак. Сейчас компьютер умеет делать похожие маски для голоса и видео. Поэтому есть важное правило: если кто-то просит деньги или секретное, даже знакомым голосом, сначала расскажи взрослым и вместе перепроверьте, правда ли это твой друг.
Простыми словами
Нейросети умеют писать грамотные письма, подделывать голос и создавать видео с лицом реального человека. Мошенники пользуются этим, чтобы звонить от имени родственников, руководителя или банка и просить срочно перевести деньги. Раньше обман часто выдавали ошибки в тексте или чужой голос, теперь эти признаки исчезают. Главная защита осталась прежней: не принимать решений о деньгах в спешке, перезванивать по известному номеру и договориться с близкими о секретном слове, которое знают только свои.
Для бизнеса
Для компаний главная угроза это поддельные звонки и видеовстречи от имени руководителя с просьбой срочно оплатить счет, а также письма поставщиков с подмененными реквизитами. Под ударом бухгалтерия, финансовый отдел и секретари. Защита строится на процессе, а не на умении распознать подделку на глаз: любой платеж по устной или видеопросьбе подтверждается по второму каналу, смена реквизитов проверяется звонком по номеру из договора, крупные суммы согласуют двое. Сотрудников учат на реальных сценариях, а записи голоса и видео руководителей в открытом доступе по возможности ограничивают. Эти правила стоит закрепить в регламенте до инцидента.
Для специалиста
Мошенничество с использованием генеративного ИИ (AI-enabled fraud) соединяет социальную инженерию с синтетическим контентом. ФБР в предупреждении IC3 от 3 декабря 2024 года выделяет четыре канала: сгенерированный текст для фишинга и фальшивых профилей, изображения для поддельных документов, клонирование голоса для звонков от имени близких и доступа к счетам, видео для выдачи себя за руководителей в онлайн-звонках. Технологическая основа: синтез речи (text-to-speech) с подстройкой под голос, дипфейк-видео, языковые модели. Меры противодействия: внеполосная проверка (out-of-band verification) запросов на платежи, кодовые фразы, многофакторная аутентификация, где голосовая биометрия не единственный фактор, обнаружение синтетического контента (liveness detection, анализ артефактов) и водяные знаки генераторов. ФБР также советует ограничивать публикацию своих фото и записей голоса и проверять звонящего, перезвонив ему по известному номеру.
Пример
Бухгалтеру звонят голосом финансового директора и просят срочно оплатить счет нового поставщика. По регламенту она кладет трубку, перезванивает директору на известный номер, и обман вскрывается.
Связанные термины
Вопросы и ответы
Как распознать мошенничество с ИИ?
Как защитить компанию от звонков с поддельным голосом руководителя?
Источники
Где это применяют в компании
Не уверены, нужно ли это вашей компании?
Карта ИИ-решений