Опасен ли ИИ для человека: риски и правила защиты

Нейросеть может уверенно написать неправду. Доклад 2026 года отмечает, что даже сильные системы выдумывают несуществующие цитаты, биографии и факты. Такую ошибку называют галлюцинацией.

Кроме того, модели пишут код с ошибками и дают советы, которые вводят в заблуждение. А люди склонны верить ответу машины без проверки: доклад называет это предвзятостью автоматизации.

Правило защиты: проверяйте важное по первоисточнику. Цифры, даты, статьи законов, дозировки лекарств и цитаты сверяйте с официальным сайтом или документом.

Плохо: «Чат-ботчат-бот Чат-бот это программа, которая переписывается с человеком в окне чата: на сайте, в мессенджере или в приложении. Подробнее в словаре назвал статью закона, вставляю ее в жалобу».

Хорошо: «Открываю текст закона на официальном портале и проверяю, есть ли там эта статья и что в ней написано».

Доклад фиксирует: мошенники используют клоны голосаклонирование голоса Клонирование голоса это создание синтетической речи, которая звучит голосом конкретного человека; технология полезна в озвучке, но ее используют и мошенники, поэтому важно знать, как защититься. Подробнее в словаре и дипфейки, то есть поддельные видео и голос, чтобы выдать себя за руководителя или родственника и выманить перевод.

Банк России описывает ту же схему в России: короткое видео знакомого человека с рассказом о болезни, ДТП или увольнении и просьбой перевести деньги на определенный счет.

Правило защиты: не спешите и перезвоните сами по номеру, который у вас уже есть. Если позвонить нельзя, задайте личный вопрос, ответ на который знает только этот человек.

Плохо: «Сын прислал видео, просит срочно, переведу».

Хорошо: «Перезвоню сыну на его номер и только потом решу».

Признаки подделки и что делать, если деньги уже ушли, разобраны в статье о том, как распознать дипфейк.

Все, что вы пишете в чат с нейросетью, уходит в сервис, который ее запускает. OWASP, международное сообщество специалистов по безопасности, в списке главных рисков языковых моделейбольшая языковая модель Большая языковая модель (LLM) это нейросеть, обученная на огромном объеме текстов, которая пишет, пересказывает и разбирает текст по запросу. Подробнее в словаре 2025 года ставит раскрытие чувствительной информации.

К такой информации OWASP относит персональные данные, финансовые сведения, медицинские записи и учетные данные для входа. Персональные данные это сведения, по которым можно узнать человека: имя, паспорт, адрес, телефон.

Пользователям OWASP советует понимать риск и не вводить чувствительные сведения. Подробнее о том, как происходит утечка данных через ИИ, в словаре.

Правило защиты: не отправляйте в чат то, что не показали бы постороннему. Паспорт, номер карты, коды из СМС, пароли, диагнозы и чужие данные убирайте или заменяйте условными.

Плохо: «Вот мой паспорт и СНИЛС, заполни заявление».

Хорошо: «Составь шаблон заявления, поля для паспорта оставь пустыми, я впишу их сам».

Приложения-компаньоны это чат-боты, с которыми общаются как с другом или партнером. По докладу 2026 года, у них уже десятки миллионов пользователей.

У небольшой части пользователей исследователи видят рост одиночества и меньше живого общения. Некоторые сильно привязываются к собеседнику-программе, хотя данные о влиянии на психику пока ранние и противоречивые.

Есть и тихий риск: если все время отдавать думать машине, навык слабеет. Доклад приводит ранние данные, что опора на ИИ может ослаблять критическое мышление.

Правило защиты: используйте чат-бот как инструмент, а не как замену людям. Важные решения обсуждайте с живыми людьми, а в тяжелом состоянии обращайтесь к специалисту.

Плохо: «Только бот меня понимает, с ним и посоветуюсь».

Хорошо: «Набросаю мысли вместе с ботом, а решать буду после разговора с другом».

По докладу, ИИ уже находит уязвимости в программах и пишет вредоносный код. В одном соревновании ИИ-агентИИ-агент ИИ-агент это нейросеть, которая не просто отвечает, а сама выполняет задачу по шагам: ищет данные, пользуется программами и проверяет результат. Подробнее в словаре нашел 77% уязвимостей в реальных программах.

Преступные группы и хакеры, связанные с государствами, применяют ИИ в своих операциях. Кто выиграет больше, атакующие или защитники, пока неясно.

Для обычного человека это прежде всего гладкие письма и сообщения, которые выманивают деньги или пароли. Доклад прямо пишет, что преступники используют созданный ИИ текст, чтобы убедить человека отправить деньги или чувствительные сведения.

Правило защиты: грамотный текст больше не признак честного письма. Не переходите по ссылкам из неожиданных сообщений, а в банк входите только через свое приложение.

Плохо: «Письмо от банка без единой ошибки, значит, настоящее, перейду по ссылке».

Хорошо: «Закрою письмо, сам открою приложение банка и проверю, есть ли там такое уведомление».

Доклад 2026 года готовили больше 100 экспертов при поддержке больше 30 стран и международных организаций. Руководил работой Йошуа Бенджио, лауреат премии Тьюринга.

Главный спор идет о потере контроля: так называют сценарии, где ИИ работает вне чьего-либо контроля и вернуть контроль нельзя. Оценки экспертов сильно расходятся. Одни считают такие сценарии неправдоподобными, другие достаточно вероятными, чтобы заниматься ими заранее.

Сегодня, по докладу, у систем нет способностей для такого риска, но они все увереннее работают самостоятельно. Поэтому авторы считают, что готовиться к нему нужно заранее, пока неясны сроки и вероятность.

Второй спор о скорости развития. Одни специалисты ждут замедления из-за нехватки данных и энергии, другие считают, что прогресс ускорится.

Практический вывод для вас: ошибки, обман и утечки происходят уже сегодня, и от них защищают простые правила с этой страницы.

У компании те же риски, только цена ошибки выше. Сотрудник отправляет в чат договор с данными клиентов, бухгалтер оплачивает счет по видеозвонку «директора», отчет строят на выдуманной цифре.

OWASP относит к чувствительной информации не только персональные данные, но и конфиденциальные сведения бизнеса и учетные данные. А доклад о безопасности ИИИИ-безопасность ИИ-безопасность (AI safety) это область исследований и практик, которая следит, чтобы системы ИИ не причиняли вреда: не ошибались опасно, не выходили из-под контроля и не служили злоумышленникам. Подробнее в словаре описывает случаи, когда руководителей подделывали голосом и видео, чтобы получить перевод.

Правило защиты для компании: письменная политика использования ИИ, подтверждение платежей по второму каналу и обучение сотрудников. Начать можно с курса по безопасности ИИ.

Как оценить риски для бизнеса и составить правила, разобрано в разделе о рисках ИИ для бизнеса.