ММООЗЗГГ.ru

Безопасность и охрана: кейсы, статьи и разборы

Охрана, видеонаблюдение, кибербезопасность и защита данных. Кейсы с цифрами, статьи, разборы и новости этой сферы, новые сверху.

РазборБезопасность и охрана

Мошенничество с субсидиями, грантами и господдержкой: проверка до выплаты

Мошенничество с субсидиями, грантами и другой господдержкой видно в заявке еще до выплаты: чужой номер документа, общий банковский счет у разных заявителей, компания без всякой деятельности. ИИ сверяет каждую заявку с реестрами и с другими заявками и ставит признак риска, а решение о выплате остается за сотрудником. Ниже опыт США, Великобритании и ЕС с цифрами и датами. Программы господдержки обычно запускают быстро, а проверку переносят на потом, чтобы не задерживать деньги. Цена такого решения видна позже: получателя нужно найти, доказать нарушение и вернуть средства, а компания к этому времени может быть ликвидирована. После выплаты контролер работает с последствиями: 1. Возврат требует претензий, исков и исполнительного производства. 2. Часть получателей уже не существует или не имеет имущества. 3. Расследование идет годами, и деньги все это время не работают на цель программы.

РазборБезопасность и охрана

США: ИИ против мошенничества в госсекторе и бюджетных выплатах

ИИ против мошенничества в госсекторе США сместил проверку с момента после оплаты на момент до нее. Министерство финансов с машинным обучением в 2024 финансовом году предотвратило и вернуло больше 4 млрд долларов, а комитет PRAC подсчитал, что сверка заявок до выплаты могла предотвратить около 79 млрд долларов возможных мошеннических выплат пандемийной помощи. Счетная палата Конгресса США (GAO) в апреле 2024 года оценила прямые годовые потери федерального правительства от мошенничества в 233-521 млрд долларов. Оценка построена на данных 2018-2022 финансовых годов. Это 3-7% средних федеральных обязательств. GAO оговаривает, что этот процент нельзя переносить на отдельные ведомства или программы: у каждой программы свой риск. Административно-бюджетное управление Белого дома (OMB) с оценкой не согласилось. Широкий диапазон говорит о главном: точной суммы не знает никто, потому что мошенничество скрыто, пока его не нашли. При этом GAO считает только прямые финансовые потери, а косвенный ущерб в оценку не входит.

РазборБезопасность и охрана

Великобритания: ИИ против мошенничества проверяет госпрограммы до запуска

В Великобритании ИИ против мошенничества проверяет госпрограмму еще на стадии проекта: ищет в правилах выплат слабые места, которыми воспользуются мошенники. Служба по борьбе с мошенничеством в госсекторе (Public Sector Fraud Authority, PSFA) сообщила, что в ранних испытаниях время поиска рисков сократилось на 80%. За год с апреля 2024 по апрель 2025 года правительство вернуло у мошенников 480 млн фунтов. Цифру объявили 24 сентября 2025 года Кабинет министров и PSFA: за двенадцать месяцев с апреля 2024 года больше 480 млн фунтов не попали к мошенникам. Правительство назвало это рекордом. Больше трети суммы, 186 млн фунтов, дали выявление и возврат денег, полученных мошенниками во время пандемии: кредитов малому бизнесу и других мер поддержки. Остальное принесли обычные сверки данных. Остановлено больше 37 000 ложных заявок на скидку по муниципальному налогу для одиноко живущих, это 36 млн фунтов. Больше 2 600 человек исключены из очередей на социальное жилье, на которое не имели права. Предотвращены неправомерные пенсионные выплаты на 68 млн фунтов, в том числе выплаты после смерти получателя.

РазборБезопасность и охрана

Опасен ли ИИ для человека: риски и правила защиты

Опасен ли ИИ для обычного человека? Международный доклад о безопасности ИИ 2026, который подготовили больше 100 экспертов, называет вполне земные риски: выдуманные факты, мошенничество, кибератаки, привязанность к чат-ботам. Ниже пять таких рисков, и у каждого есть простое правило защиты. Нейросеть может уверенно написать неправду. Доклад 2026 года отмечает, что даже сильные системы выдумывают несуществующие цитаты, биографии и факты. Такую ошибку называют галлюцинацией. Кроме того, модели пишут код с ошибками и дают советы, которые вводят в заблуждение. А люди склонны верить ответу машины без проверки: доклад называет это предвзятостью автоматизации. Правило защиты: проверяйте важное по первоисточнику. Цифры, даты, статьи законов, дозировки лекарств и цитаты сверяйте с официальным сайтом или документом. Плохо: «Чат-бот назвал статью закона, вставляю ее в жалобу». Хорошо: «Открываю текст закона на официальном портале и проверяю, есть ли там эта статья и что в ней написано».

ИнструкцияБезопасность и охрана

Как распознать дипфейк и не попасться мошенникам

Чтобы понять, как распознать дипфейк, мало разглядывать лицо на экране: подделку выдает просьба срочно перевести деньги. По Международному докладу о безопасности ИИ 2026, в одном исследовании люди принимали клон голоса за настоящего человека в 80% случаев. Поэтому главное правило Банка России простое: не спешите и перезвоните сами. Дипфейк это видео, голос или фото человека, которые сделала нейросеть, чтобы выдать подделку за правду. Подробнее о термине и его истории в статье словаря о дипфейках. Банк России описывает схему так: мошенники создают реалистичное видео человека и рассылают его друзьям и родным через мессенджеры или социальные сети. Голос в таком ролике иногда трудно отличить от настоящего. Материал для копии берут в основном из взломанных аккаунтов: фото, видео и записи голоса. Чем больше ваших роликов и голосовых сообщений лежит в открытом доступе, тем проще сделать подделку. Отдельный вид подделки это клонирование голоса: программа учится говорить голосом конкретного человека. Исследователи модели VALL-E в 2023 году показали синтез речи по записи длиной всего 3 секунды.

РазборБезопасность и охрана

Можно ли отправлять данные в нейросеть: что разрешить сотрудникам, а что нет

Можно ли отправлять данные в нейросеть, зависит от двух вещей: что в тексте и на чей сервер он уйдет. Утечки здесь редко начинаются со взлома: сотрудник вставляет договор или выгрузку клиентов в открытый чат, и текст оказывается на чужом сервере. С 30 мая 2025 года по закону 420-ФЗ штраф за утечку персональных данных составляет 3-15 млн ₽ в зависимости от объема. Ниже что сотрудники отправляют в ИИ, что отправлять нельзя и как дать им нейросети без этого риска. Сотрудник открывает нейросеть, чтобы сэкономить час: пересказать договор, свести выгрузку клиентов в таблицу, проверить отчет или ответить на жалобу. Для этого он копирует в окно чата исходный текст целиком, с именами, телефонами, суммами и реквизитами. Открытый сервис на личной почте не знает, что перед ним сведения компании. Текст уходит на сервер поставщика, часто за рубежом, и компания не контролирует, где он хранится, кто его видит и что с ним происходит дальше.

КейсБезопасность и охрана

Samsung Electronics: запрет внешних генеративных сервисов после утечки исходного кода, разработка собственных инструментов

Простой1 мин

В мае 2023 года компания запретила сотрудникам использовать внешние генеративные сервисы на рабочих устройствах после того, как трое сотрудников загрузили в чат-бот исходный код и записи внутренних совещаний. Внутренняя записка предупреждала о дисциплинарных мерах вплоть до увольнения. Запрет назван временным: до подготовки мер безопасности и защищенной среды для работы с генеративным ИИ; параллельно компания, по данным издания, разрабатывает собственные инструменты для внутреннего использования. Ключевая проблема, отмеченная в публикации: провайдер сохраняет загруженные данные для обучения своих систем, а потребовать их обратно у компании, по оценке издания, возможности нет. Утечка через чат-бот произошла не из-за взлома, а из-за удобства. Локальная модель убирает саму возможность отправить код наружу.

КейсБезопасность и охрана

Commonwealth Bank: потери от мошенничества минус 20%, 40 355 предупреждений в день

Простой1 мин

Банк выпустил отчет о своем подходе к ИИ: потери от мошенничества снизились больше чем на 20% в первом полугодии 2026 финансового года. Банк выпустил отчет о своем подходе к ИИ: потери клиентов от мошенничества снизились больше чем на 20% в первом полугодии 2026 финансового года, ИИ рассылает в среднем 40 355 предупреждений клиентам в день при более чем 20 млн платежей, внутренний помощник ответил больше чем на 500 000 вопросов с июля 2024 года, больше 27 600 сотрудников приняли участие в обучающей серии по ИИ к концу 2025 года. Предупреждение клиенту в момент риска: ИИ-агент рассылает уведомления по событиям, а не по расписанию.

НовостьБезопасность и охрана
Михаил Мозг

ИИ находит уязвимости на уровне сильных специалистов: какие права давать ИИ-агенту в CRM и телефонии

Сложный4 мин

7 апреля 2026 года Anthropic показала модель Claude Mythos Preview и объявила, что не будет выпускать ее публично: модель слишком хорошо находит уязвимости в чужом коде. Вместо этого доступ по программе Project Glasswing получили 11 компаний и организаций-партнеров, среди них AWS, Apple, Google, Microsoft и Linux Foundation, и еще более 40 организаций, которые поддерживают важное ПО, чтобы закрыть дыры раньше, чем их найдут злоумышленники; 21 апреля Mozilla отчиталась о 271 уязвимости, исправленной в Firefox 150. Смысл для любой компании простой: инструменты поиска уязвимостей стали автоматическими, и рано или поздно они будут у всех. Ниже про безопасность ИИ-агента: почему это касается компании с агентом в CRM, какой доступ ему дать и как ограничить права, чтобы он не стал входной дверью. Mythos Preview анонсирована 7 апреля 2026 года как модель мощнее всех предыдущих у компании, по ее собственному заявлению, но без публичного выпуска. Project Glasswing: 11 партнеров, среди них AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks, и еще более 40 организаций. Они используют модель, чтобы находить и исправлять уязвимости в своем ПО. 21 апреля Mozilla сообщила, что исправила в Firefox 150 271 уязвимость, найденную с помощью модели. 9 июня 2026 года Anthropic открыла всем пользователям Claude Fable 5, версию с усиленными ограничениями, а Mythos 5 получили только партнеры Project Glasswing. 12 июня власти США ввели экспортный контроль на обе модели: доступ нужно было закрыть для иностранцев. Проверять гражданство в реальном времени Anthropic не могла и приостановила доступ для всех. 30 июня контроль сняли, с 1 июля Fable 5 снова доступна пользователям по всему миру, а Mythos 5 вернули части американских организаций. Anthropic считает поиск уязвимостей настолько сильной способностью, что ограничивает к ней доступ.

Написать в Telegram