Мошенничество с субсидиями, грантами и другой господдержкой видно в заявке еще до выплаты: чужой номер документа, общий банковский счет у разных заявителей, компания без всякой деятельности. ИИ сверяет каждую заявку с реестрами и с другими заявками и ставит признак риска, а решение о выплате остается за сотрудником. Ниже опыт США, Великобритании и ЕС с цифрами и датами.
Программы господдержки обычно запускают быстро, а проверку переносят на потом, чтобы не задерживать деньги. Цена такого решения видна позже: получателя нужно найти, доказать нарушение и вернуть средства, а компания к этому времени может быть ликвидирована.
После выплаты контролер работает с последствиями:
1. Возврат требует претензий, исков и исполнительного производства.
2. Часть получателей уже не существует или не имеет имущества.
3. Расследование идет годами, и деньги все это время не работают на цель программы.
ИИ против мошенничества в госсекторе США сместил проверку с момента после оплаты на момент до нее. Министерство финансов с машинным обучением в 2024 финансовом году предотвратило и вернуло больше 4 млрд долларов, а комитет PRAC подсчитал, что сверка заявок до выплаты могла предотвратить около 79 млрд долларов возможных мошеннических выплат пандемийной помощи.
Счетная палата Конгресса США (GAO) в апреле 2024 года оценила прямые годовые потери федерального правительства от мошенничества в 233-521 млрд долларов. Оценка построена на данных 2018-2022 финансовых годов.
Это 3-7% средних федеральных обязательств. GAO оговаривает, что этот процент нельзя переносить на отдельные ведомства или программы: у каждой программы свой риск. Административно-бюджетное управление Белого дома (OMB) с оценкой не согласилось.
Широкий диапазон говорит о главном: точной суммы не знает никто, потому что мошенничество скрыто, пока его не нашли. При этом GAO считает только прямые финансовые потери, а косвенный ущерб в оценку не входит.
В Великобритании ИИ против мошенничества проверяет госпрограмму еще на стадии проекта: ищет в правилах выплат слабые места, которыми воспользуются мошенники. Служба по борьбе с мошенничеством в госсекторе (Public Sector Fraud Authority, PSFA) сообщила, что в ранних испытаниях время поиска рисков сократилось на 80%. За год с апреля 2024 по апрель 2025 года правительство вернуло у мошенников 480 млн фунтов.
Цифру объявили 24 сентября 2025 года Кабинет министров и PSFA: за двенадцать месяцев с апреля 2024 года больше 480 млн фунтов не попали к мошенникам. Правительство назвало это рекордом.
Больше трети суммы, 186 млн фунтов, дали выявление и возврат денег, полученных мошенниками во время пандемии: кредитов малому бизнесу и других мер поддержки.
Остальное принесли обычные сверки данных. Остановлено больше 37 000 ложных заявок на скидку по муниципальному налогу для одиноко живущих, это 36 млн фунтов. Больше 2 600 человек исключены из очередей на социальное жилье, на которое не имели права. Предотвращены неправомерные пенсионные выплаты на 68 млн фунтов, в том числе выплаты после смерти получателя.
Опасен ли ИИ для обычного человека? Международный доклад о безопасности ИИ 2026, который подготовили больше 100 экспертов, называет вполне земные риски: выдуманные факты, мошенничество, кибератаки, привязанность к чат-ботам. Ниже пять таких рисков, и у каждого есть простое правило защиты.
Нейросеть может уверенно написать неправду. Доклад 2026 года отмечает, что даже сильные системы выдумывают несуществующие цитаты, биографии и факты. Такую ошибку называют галлюцинацией.
Кроме того, модели пишут код с ошибками и дают советы, которые вводят в заблуждение. А люди склонны верить ответу машины без проверки: доклад называет это предвзятостью автоматизации.
Правило защиты: проверяйте важное по первоисточнику. Цифры, даты, статьи законов, дозировки лекарств и цитаты сверяйте с официальным сайтом или документом.
Плохо: «Чат-бот назвал статью закона, вставляю ее в жалобу».
Хорошо: «Открываю текст закона на официальном портале и проверяю, есть ли там эта статья и что в ней написано».
Чтобы понять, как распознать дипфейк, мало разглядывать лицо на экране: подделку выдает просьба срочно перевести деньги. По Международному докладу о безопасности ИИ 2026, в одном исследовании люди принимали клон голоса за настоящего человека в 80% случаев. Поэтому главное правило Банка России простое: не спешите и перезвоните сами.
Дипфейк это видео, голос или фото человека, которые сделала нейросеть, чтобы выдать подделку за правду. Подробнее о термине и его истории в статье словаря о дипфейках.
Банк России описывает схему так: мошенники создают реалистичное видео человека и рассылают его друзьям и родным через мессенджеры или социальные сети. Голос в таком ролике иногда трудно отличить от настоящего.
Материал для копии берут в основном из взломанных аккаунтов: фото, видео и записи голоса. Чем больше ваших роликов и голосовых сообщений лежит в открытом доступе, тем проще сделать подделку.
Отдельный вид подделки это клонирование голоса: программа учится говорить голосом конкретного человека. Исследователи модели VALL-E в 2023 году показали синтез речи по записи длиной всего 3 секунды.
Можно ли отправлять данные в нейросеть, зависит от двух вещей: что в тексте и на чей сервер он уйдет. Утечки здесь редко начинаются со взлома: сотрудник вставляет договор или выгрузку клиентов в открытый чат, и текст оказывается на чужом сервере. С 30 мая 2025 года по закону 420-ФЗ штраф за утечку персональных данных составляет 3-15 млн ₽ в зависимости от объема. Ниже что сотрудники отправляют в ИИ, что отправлять нельзя и как дать им нейросети без этого риска.
Сотрудник открывает нейросеть, чтобы сэкономить час: пересказать договор, свести выгрузку клиентов в таблицу, проверить отчет или ответить на жалобу. Для этого он копирует в окно чата исходный текст целиком, с именами, телефонами, суммами и реквизитами.
Открытый сервис на личной почте не знает, что перед ним сведения компании. Текст уходит на сервер поставщика, часто за рубежом, и компания не контролирует, где он хранится, кто его видит и что с ним происходит дальше.
В мае 2023 года компания запретила сотрудникам использовать внешние генеративные сервисы на рабочих устройствах после того, как трое сотрудников загрузили в чат-бот исходный код и записи внутренних совещаний. Внутренняя записка предупреждала о дисциплинарных мерах вплоть до увольнения.
Запрет назван временным: до подготовки мер безопасности и защищенной среды для работы с генеративным ИИ; параллельно компания, по данным издания, разрабатывает собственные инструменты для внутреннего использования. Ключевая проблема, отмеченная в публикации: провайдер сохраняет загруженные данные для обучения своих систем, а потребовать их обратно у компании, по оценке издания, возможности нет.
Утечка через чат-бот произошла не из-за взлома, а из-за удобства. Локальная модель убирает саму возможность отправить код наружу.
Банк выпустил отчет о своем подходе к ИИ: потери от мошенничества снизились больше чем на 20% в первом полугодии 2026 финансового года.
Банк выпустил отчет о своем подходе к ИИ: потери клиентов от мошенничества снизились больше чем на 20% в первом полугодии 2026 финансового года, ИИ рассылает в среднем 40 355 предупреждений клиентам в день при более чем 20 млн платежей, внутренний помощник ответил больше чем на 500 000 вопросов с июля 2024 года, больше 27 600 сотрудников приняли участие в обучающей серии по ИИ к концу 2025 года.
Предупреждение клиенту в момент риска: ИИ-агент рассылает уведомления по событиям, а не по расписанию.
7 апреля 2026 года Anthropic показала модель Claude Mythos Preview и объявила, что не будет выпускать ее публично: модель слишком хорошо находит уязвимости в чужом коде. Вместо этого доступ по программе Project Glasswing получили 11 компаний и организаций-партнеров, среди них AWS, Apple, Google, Microsoft и Linux Foundation, и еще более 40 организаций, которые поддерживают важное ПО, чтобы закрыть дыры раньше, чем их найдут злоумышленники; 21 апреля Mozilla отчиталась о 271 уязвимости, исправленной в Firefox 150. Смысл для любой компании простой: инструменты поиска уязвимостей стали автоматическими, и рано или поздно они будут у всех. Ниже про безопасность ИИ-агента: почему это касается компании с агентом в CRM, какой доступ ему дать и как ограничить права, чтобы он не стал входной дверью.
Mythos Preview анонсирована 7 апреля 2026 года как модель мощнее всех предыдущих у компании, по ее собственному заявлению, но без публичного выпуска. Project Glasswing: 11 партнеров, среди них AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks, и еще более 40 организаций. Они используют модель, чтобы находить и исправлять уязвимости в своем ПО. 21 апреля Mozilla сообщила, что исправила в Firefox 150 271 уязвимость, найденную с помощью модели. 9 июня 2026 года Anthropic открыла всем пользователям Claude Fable 5, версию с усиленными ограничениями, а Mythos 5 получили только партнеры Project Glasswing. 12 июня власти США ввели экспортный контроль на обе модели: доступ нужно было закрыть для иностранцев. Проверять гражданство в реальном времени Anthropic не могла и приостановила доступ для всех. 30 июня контроль сняли, с 1 июля Fable 5 снова доступна пользователям по всему миру, а Mythos 5 вернули части американских организаций. Anthropic считает поиск уязвимостей настолько сильной способностью, что ограничивает к ней доступ.