Что такое дипфейк
Дипфейк это видео, голос или фото человека, которые сделала нейросеть, чтобы выдать подделку за правду. Подробнее о термине и его истории в статье словаря о дипфейках.
Банк России описывает схему так: мошенники создают реалистичное видео человека и рассылают его друзьям и родным через мессенджеры или социальные сети. Голос в таком ролике иногда трудно отличить от настоящего.
Материал для копии берут в основном из взломанных аккаунтов: фото, видео и записи голоса. Чем больше ваших роликов и голосовых сообщений лежит в открытом доступе, тем проще сделать подделку.
Отдельный вид подделки это клонирование голоса: программа учится говорить голосом конкретного человека. Исследователи модели VALL-E в 2023 году показали синтез речисинтез речи. Синтез речи (text-to-speech, TTS) это превращение письменного текста в звучащий голос с помощью программы. по записи длиной всего 3 секунды.
Признаки поддельного видео и голоса
Банк России называет три признака дипфейкадипфейк. Дипфейк (deepfake) это поддельное видео, фото или запись голоса, созданные нейросетью так, что человек на них будто говорит или делает то, чего не было.: неестественная монотонная речь, дефекты звука и видео, несвойственная человеку мимика.
Речь. Голос звучит ровно, без живых интонаций, будто человек читает текст по бумажке. Так не говорят, когда случилась беда.
Звук и картинка. Обрывы, шумы, рывки, участки лица, которые смазываются или застывают. Один такой дефект может быть и от плохой связи, но вместе с просьбой о деньгах это повод остановиться.
Мимика. Человек улыбается, хмурится или двигает губами не так, как обычно. Вы знаете своих близких и коллег, и непривычное выражение лица должно насторожить.
Признаки помогают, но ничего не доказывают. Международный доклад о безопасности ИИИИ-безопасность. ИИ-безопасность (AI safety) это область исследований и практик, которая следит, чтобы системы ИИ не причиняли вреда: не ошибались опасно, не выходили из-под контроля и не служили злоумышленникам. 2026 пишет, что люди плохо распознают дипфейки и часто угадывают не точнее, чем наугад. Если признаков нет, это еще не значит, что перед вами настоящий человек.
Плохо: «Видео похоже на маму, голос ее, значит, это она».
Хорошо: «Видео похоже на маму, но я положу трубку и перезвоню ей сама».
Типовые схемы мошенников
Звонок или сообщение «от родственника». По данным Банка России, в коротком ролике знакомый человек рассказывает о проблеме: болезнь, ДТП, увольнение. Затем просит перевести деньги на определенный счет.
Звонок «от руководителя». Банк России предупреждает, что мошенники делают дипфейки работодателей. Международный доклад о безопасности ИИ 2026 приводит случаи, когда руководители компаний одобряли перевод мошенникам миллионов.
Звонок «от государства». Те же приемы применяют к образам сотрудников государственных органов: человек в форме или с удостоверением на видео еще не настоящий чиновник.
Видео известного человека. Мошенники берут образ знаменитости из той сферы, где работает жертва. Обращение звучит как совет от авторитета в вашей профессии.
Поддельная страница. Иногда для рассылки не взламывают аккаунт, а создают новую страницу с именем и фото человека.
Все это виды мошенничества с ИИ, и у них общий почерк: срочность, деньги и канал связи, который выбрал звонящий, а не вы.
Правила защиты
Правило 1. Не спешите переводить деньги. Банк России пишет об этом прямо: срочность нужна мошеннику, а у вас всегда есть время на проверку.
Правило 2. Перезвоните сами. Положите трубку и позвоните человеку, от имени которого пришло сообщение, по номеру, который у вас уже есть. Такой же совет дает Федеральная торговая комиссия США (FTC): если не дозвонились, проверьте через других родственников или друзей.
Плохо: «Номер незнакомый, но мама объяснила, что потеряла телефон, переведу».
Хорошо: «Звоню маме на ее старый номер, не дозвонилась, звоню папе».
Правило 3. Задайте личный вопрос. Если позвонить нельзя, спросите в переписке то, что знает только ваш знакомый. Банк России советует именно это.
Плохо: «Как тебя зовут?» Ответ есть в любом профиле.
Хорошо: «Как звали нашу собаку на даче?»
Правило 4. Помните, что аккаунт знакомого могли взломать. Сообщение пришло с его страницы, но пишет, возможно, не он.
Правило 5. Меньше открытых записей голоса. FTC предупреждает, что мошеннику хватает короткого фрагмента из записей, которые человек выложил в интернет.
Другие риски нейросетей для обычного человека собраны на странице «Опасен ли ИИ».
Если вы уже перевели деньги
Действуйте сразу. Банк России на странице для тех, у кого с карты незаконно списали деньги, советует такой порядок.
1. Как можно скорее позвоните в банк по номеру на обороте карты, сообщите о мошеннической операции и заблокируйте карту. Заблокировать ее можно и в приложении банка.
2. Придите в отделение банка, попросите выписку по счету и напишите заявление о несогласии с операцией. Сохраните свой экземпляр заявления с отметкой банка о приеме.
3. Подайте заявление о хищении в правоохранительные органы, то есть в полицию.
Банк рассмотрит заявление в течение 30 дней, а если операция была международной, в течение 60 дней.
С 25 июля 2024 года банк обязан задержать перевод на два дня, если получатель есть в базе Банка России о мошеннических операциях. Если банк этого не сделал, он вернет деньги в течение 30 календарных дней.
Для компаний: правило двух каналов
Схема «звонок от директора» бьет по бухгалтерии и финансам. Доклад о безопасности ИИ описывает случаи, когда мошенники с поддельным голосом и лицом руководителя выводили из компаний миллионы.
Правило двух каналов: просьбу о деньгах или доступах, которая пришла по одному каналу, подтверждают по другому. Пришло видео в мессенджере, значит, бухгалтер звонит директору на рабочий номер из справочника компании.
Плохо: «Директор в видеозвонке попросил срочно оплатить счет, оплачиваю».
Хорошо: «Перезваниваю директору на номер из справочника и оплачиваю только после подтверждения».
Запишите правило в порядок оплаты счетов и назовите сумму, выше которой без второго подтверждения не платят. Тогда сотруднику не нужно спорить с «директором»: он просто выполняет правило.
Как обучить сотрудников этим правилам, разобрано в курсе по безопасности ИИ.