Словарь ИИ

Что такое дипфейк

Коротко

Дипфейк (deepfake) это поддельное видео, фото или запись голоса, созданные нейросетью так, что человек на них будто говорит или делает то, чего не было.

Изображения, видео, звук · deepfake

Михаил МозгПроверено: 16 октября 20261 минута чтения

ПодробноКак распознать дипфейк

Ребенку

Иногда в интернете попадается видео, где знакомый человек говорит странные вещи, хотя на самом деле он их не говорил. Компьютер умеет очень похоже подделывать лица и голоса. Поэтому не верь сразу любому ролику или голосовому сообщению, особенно если тебя просят что-то сделать или кому-то что-то отправить. Сначала спроси родителей.

Простыми словами

Нейросети научились правдоподобно менять лицо в кадре, движение губ и голос. Из-за этого фото, ролик или звонок больше не доказывают, что человек действительно это сказал. Такими подделками пользуются мошенники: звонят голосом родственника или начальника и просят срочно перевести деньги. Распознать подделку на глаз трудно, хотя ее могут выдать неестественные движения, странные руки и зубы, неправильные тени, задержки в разговоре. Надежнее другое: положить трубку и перезвонить человеку по номеру, который вы знаете сами, или договориться с близкими о секретном слове.

Для бизнеса

Для компании подделки опасны в трех местах: звонок или видеовстреча от имени руководителя с просьбой срочно оплатить счет, фальшивый ролик с первым лицом, который бьет по репутации, и обман удаленной проверки личности клиента. ФБР в декабре 2024 года предупредило, что преступники выдают себя за руководителей компаний в видеозвонках с помощью сгенерированного видео. Защита строится на процессах, а не на чутье сотрудников: платеж по устной просьбе подтверждают по второму каналу, крупные переводы требуют двух подписей. Для проверки клиентов нужна проверка живого присутствия (liveness), а не просто селфи. Эти правила входят в политику работы с рисками ИИ.

Для специалиста

Дипфейком (deepfake) называют синтетический или измененный нейросетью аудиовизуальный контент, изображающий реального человека. Классы: замена лица (face swap), перенос мимики (face reenactment), синхронизация губ с чужой речью (lip-sync), полностью синтезированные лица и клонирование голоса. Детекция ищет артефакты на границах смешивания, несогласованность освещения, частотные следы генерации и рассинхрон звука и губ. Бенчмарк FaceForensics++ (Rössler и др., 2019) с более чем 1,8 млн измененных изображений показал, что обученные детекторы заметно превосходят людей. Детекторы плохо переносятся на новые генераторы, поэтому вторая линия защиты это происхождение контента (content provenance): спецификация C2PA (версия 2.1, сентябрь 2024) описывает манифест с хешами файла и историей правок, заверенный цифровой подписью. Организационные меры: подтверждение запросов по независимому каналу, проверка живого присутствия (liveness detection), обучение сотрудников.

Пример

Бухгалтеру звонят с номера, похожего на номер директора, и знакомым голосом просят срочно оплатить счет нового поставщика. По регламенту она кладет трубку, перезванивает директору на известный номер и узнает, что он никого не просил.

Связанные термины

Вопросы и ответы

Как распознать дипфейк?

Насторожить должны неестественная мимика, странные руки и зубы, неправильные тени и задержки в разговоре. Но качество подделок растет, поэтому надежнее проверять не картинку, а человека: перезвонить по известному номеру или задать вопрос, ответ на который знаете только вы двое.

Как защитить компанию от дипфейков?

Закрепить правило: платежи и доступы по звонку или видеосообщению подтверждаются по второму каналу. Обучить сотрудников, которые распоряжаются деньгами, а для удаленной проверки клиентов использовать проверку живого присутствия.

Источники

Где это применяют в компании

Безопасность ИИ в бизнесе: данные, ошибки, поставщики, закон

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений