ММООЗЗГГ.ru

Разбор

Опасен ли ИИ для человека: риски и правила защиты

7 мин4 источника

Опасен ли ИИ для обычного человека? Международный доклад о безопасности ИИ 2026, который подготовили больше 100 экспертов, называет вполне земные риски: выдуманные факты, мошенничество, кибератаки, привязанность к чат-ботам. Ниже пять таких рисков, и у каждого есть простое правило защиты.

На странице · 7 разделов

Риск 1. Ошибки и выдуманные факты

Нейросеть может уверенно написать неправду. Доклад 2026 года отмечает, что даже сильные системы выдумывают несуществующие цитаты, биографии и факты. Такую ошибку называют галлюцинацией.

Кроме того, модели пишут код с ошибками и дают советы, которые вводят в заблуждение. А люди склонны верить ответу машины без проверки: доклад называет это предвзятостью автоматизации.

Правило защиты: проверяйте важное по первоисточнику. Цифры, даты, статьи законов, дозировки лекарств и цитаты сверяйте с официальным сайтом или документом.

Плохо: «Чат-бот назвал статью закона, вставляю ее в жалобу».

Хорошо: «Открываю текст закона на официальном портале и проверяю, есть ли там эта статья и что в ней написано».

Риск 2. Мошенничество с дипфейками

Доклад фиксирует: мошенники используют клоны голоса и дипфейки, то есть поддельные видео и голос, чтобы выдать себя за руководителя или родственника и выманить перевод.

Банк России описывает ту же схему в России: короткое видео знакомого человека с рассказом о болезни, ДТП или увольнении и просьбой перевести деньги на определенный счет.

Правило защиты: не спешите и перезвоните сами по номеру, который у вас уже есть. Если позвонить нельзя, задайте личный вопрос, ответ на который знает только этот человек.

Плохо: «Сын прислал видео, просит срочно, переведу».

Хорошо: «Перезвоню сыну на его номер и только потом решу».

Признаки подделки и что делать, если деньги уже ушли, разобраны в статье о том, как распознать дипфейк.

Риск 3. Утечка личных данных

Все, что вы пишете в чат с нейросетью, уходит в сервис, который ее запускает. OWASP, международное сообщество специалистов по безопасности, в списке главных рисков языковых моделей 2025 года ставит раскрытие чувствительной информации.

К такой информации OWASP относит персональные данные, финансовые сведения, медицинские записи и учетные данные для входа. Персональные данные это сведения, по которым можно узнать человека: имя, паспорт, адрес, телефон.

Пользователям OWASP советует понимать риск и не вводить чувствительные сведения. Подробнее о том, как происходит утечка данных через ИИ, в словаре.

Правило защиты: не отправляйте в чат то, что не показали бы постороннему. Паспорт, номер карты, коды из СМС, пароли, диагнозы и чужие данные убирайте или заменяйте условными.

Плохо: «Вот мой паспорт и СНИЛС, заполни заявление».

Хорошо: «Составь шаблон заявления, поля для паспорта оставь пустыми, я впишу их сам».

Риск 4. Зависимость от чат-ботов

Приложения-компаньоны это чат-боты, с которыми общаются как с другом или партнером. По докладу 2026 года, у них уже десятки миллионов пользователей.

У небольшой части пользователей исследователи видят рост одиночества и меньше живого общения. Некоторые сильно привязываются к собеседнику-программе, хотя данные о влиянии на психику пока ранние и противоречивые.

Есть и тихий риск: если все время отдавать думать машине, навык слабеет. Доклад приводит ранние данные, что опора на ИИ может ослаблять критическое мышление.

Правило защиты: используйте чат-бот как инструмент, а не как замену людям. Важные решения обсуждайте с живыми людьми, а в тяжелом состоянии обращайтесь к специалисту.

Плохо: «Только бот меня понимает, с ним и посоветуюсь».

Хорошо: «Набросаю мысли вместе с ботом, а решать буду после разговора с другом».

Риск 5. Кибератаки с помощью ИИ

По докладу, ИИ уже находит уязвимости в программах и пишет вредоносный код. В одном соревновании ИИ-агент нашел 77% уязвимостей в реальных программах.

Преступные группы и хакеры, связанные с государствами, применяют ИИ в своих операциях. Кто выиграет больше, атакующие или защитники, пока неясно.

Для обычного человека это прежде всего гладкие письма и сообщения, которые выманивают деньги или пароли. Доклад прямо пишет, что преступники используют созданный ИИ текст, чтобы убедить человека отправить деньги или чувствительные сведения.

Правило защиты: грамотный текст больше не признак честного письма. Не переходите по ссылкам из неожиданных сообщений, а в банк входите только через свое приложение.

Плохо: «Письмо от банка без единой ошибки, значит, настоящее, перейду по ссылке».

Хорошо: «Закрою письмо, сам открою приложение банка и проверю, есть ли там такое уведомление».

О чем спорят ученые

Доклад 2026 года готовили больше 100 экспертов при поддержке больше 30 стран и международных организаций. Руководил работой Йошуа Бенджио, лауреат премии Тьюринга.

Главный спор идет о потере контроля: так называют сценарии, где ИИ работает вне чьего-либо контроля и вернуть контроль нельзя. Оценки экспертов сильно расходятся. Одни считают такие сценарии неправдоподобными, другие достаточно вероятными, чтобы заниматься ими заранее.

Сегодня, по докладу, у систем нет способностей для такого риска, но они все увереннее работают самостоятельно. Поэтому авторы считают, что готовиться к нему нужно заранее, пока неясны сроки и вероятность.

Второй спор о скорости развития. Одни специалисты ждут замедления из-за нехватки данных и энергии, другие считают, что прогресс ускорится.

Практический вывод для вас: ошибки, обман и утечки происходят уже сегодня, и от них защищают простые правила с этой страницы.

Риски для компании

У компании те же риски, только цена ошибки выше. Сотрудник отправляет в чат договор с данными клиентов, бухгалтер оплачивает счет по видеозвонку «директора», отчет строят на выдуманной цифре.

OWASP относит к чувствительной информации не только персональные данные, но и конфиденциальные сведения бизнеса и учетные данные. А доклад о безопасности ИИ описывает случаи, когда руководителей подделывали голосом и видео, чтобы получить перевод.

Правило защиты для компании: письменная политика использования ИИ, подтверждение платежей по второму каналу и обучение сотрудников. Начать можно с курса по безопасности ИИ.

Как оценить риски для бизнеса и составить правила, разобрано в разделе о рисках ИИ для бизнеса.

Вопросы и ответы

Может ли ИИ выйти из-под контроля?

Сейчас нет: по Международному докладу о безопасности ИИ 2026, у нынешних систем нет нужных для этого способностей. Но они все увереннее работают самостоятельно, а оценки экспертов о будущем сильно расходятся. Поэтому авторы доклада советуют готовиться заранее, а вам полезнее всего защититься от рисков, которые есть уже сегодня.

Безопасно ли рассказывать чат-боту о себе?

Общие вопросы задавать можно, а паспорт, номер карты, пароли, коды из СМС и диагнозы в чат не отправляйте. OWASP называет раскрытие чувствительных данных одним из главных рисков языковых моделей и советует их не вводить. Если для задачи нужны личные сведения, замените их условными: «Иван И., город N».

Как отличить дипфейк от настоящего видео или звонка?

Банк России называет три признака подделки: монотонная неестественная речь, дефекты звука и изображения, мимика, которая человеку несвойственна. Полагаться только на них не стоит, поэтому главное правило другое: не спешите с переводом и сначала позвоните тому, от чьего имени пришло сообщение. Если позвонить нельзя, задайте личный вопрос, ответ на который знает только этот человек.

Заменит ли ИИ людей на работе?

Чаще он меняет работу, чем отменяет ее. По оценке Международной организации труда 2025 года, около 24% занятых в мире работают в профессиях, которых касается генеративный ИИ, и только 3,3% попадают в группу самого сильного влияния. Для большинства это новые задачи внутри своей профессии: часть рутины берет на себя нейросеть, а человек проверяет результат и отвечает за него.

С чего компании начать защиту от рисков ИИ?

С трех письменных правил для сотрудников. Не отправлять в публичные чат-боты персональные данные клиентов, договоры и пароли: OWASP относит их к чувствительной информации. Любой срочный платеж, о котором просят по звонку или видео «руководителя», подтверждать по второму каналу, а цифры и статьи законов из ответа нейросети сверять с первоисточником до того, как они попадут в отчет или договор.

Источники и проверка

Проверено редакцией 16 октября 2026.

  1. International AI Safety Report, 3 февраля 2026 (internationalaisafetyreport.org)
  2. OWASP, 2025 (genai.owasp.org)
  3. Банк России, 16 сентября 2024 (cbr.ru)
  4. Международная организация труда, рабочий доклад 140, 2025 (webapps.ilo.org)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин
Написать в Telegram