Галлюцинации ИИ в суде: нейросеть выдумала практику в 2 190 делах

Базу дел о галлюцинацияхгаллюцинации нейросети Галлюцинация это ответ нейросети, который звучит уверенно, но содержит выдуманные или неверные факты. Подробнее в словаре ИИ в судах ведет исследователь Дамьен Шарлотен. На 15 октября 2026 года в ней 2 190 дел, и больше двух третей из них приходится на США.

Распределение по странам на эту дату:

1. США: 1 492 дела.

2. Канада: 232.

3. Австралия: 112.

4. Великобритания: 76.

5. Израиль: 58.

6. Россия: 1.

Российская строка отстает от практики: о штрафах за выдуманную практику в 2026 году сообщили уже Арбитражный суд Западно-Сибирского округа, Суд по интеллектуальным правам и Арбитражный суд Вологодской области. Число дел растет, поэтому цифры на этой странице мы обновляем раз в месяц.

Первым делом, о котором узнал весь рынок, стало Mata v. Avianca. 22 июня 2023 года судья П. Кевин Кастел (Южный округ Нью-Йорка) оштрафовал двух юристов и их фирму на 5 000 $ за иск со ссылками на шесть несуществующих решений, которые выдал ChatGPT.

Штраф был небольшим, но суд обязал юристов написать каждому судье, которого ChatGPT назвал автором выдуманного решения. Признаваться юристы начали только 25 мая, после нескольких запросов суда, и именно это судья поставил им в вину.

В декабре 2023 года похожая история случилась с Майклом Коэном. Он передал своему адвокату ссылки на несуществующие решения, найденные через Google Bard, и ходатайство с ними попало к судье Джесси Фурману.

В июне 2025 года Высокий суд Англии рассмотрел два таких дела вместе. В Ayinde v Haringey юристы сослались на 5 несуществующих источников, в Al-Haroun v Qatar National Bank на 18 вымышленных дел.

Председатель отделения Королевской скамьи Виктория Шарп напомнила в этом решении, что за точность ссылок отвечает юрист. Программа, которой он пользовался, ответственность с него не снимает.

Во всех трех историях повторяется одна схема: ИИ выдал правдоподобные реквизиты, а документ ушел в суд без того, чтобы кто-то открыл решения по этим реквизитам.

В мае 2026 года Арбитражный суд Западно-Сибирского округа оштрафовал компанию на 50 000 руб. за ссылки в кассационной жалобе на несуществующие судебные акты, созданные нейросетью (дело № А27-7831/2025). По сообщениям СМИ, это первый такой штраф в России.

Суд прямо указал, что подготовка жалобы с помощью ИИ не оправдание. За достоверность сгенерированного текста отвечает лицо, участвующее в деле, по ч. 2 ст. 9 АПК РФ.

В октябре 2026 года Арбитражный суд Вологодской области наложил судебный штраф 30 000 руб. на истца, который сослался на четыре постановления Арбитражного суда Северо-Западного округа, сгенерированные нейросетью (дело № А13-14310/2025). Суд квалифицировал это как неуважение к суду.

Истец объяснил, что скопировал практику из открытых источников в интернете, но назвать источник не смог. Суд ответил, что стороны не вправе умышленно ссылаться на несуществующие разъяснения и приводить заведомо некорректные цитаты из судебных актов.

Это два штрафа компаниям. Между ними, по сообщению Право.ру от 28.08.2026, Суд по интеллектуальным правам оштрафовал на 5 000 руб. индивидуального предпринимателя за 12 ложных ссылок в кассационной жалобе (дело № А71-11377/2025).

Верховный Суд в определении № 301-ЭС21-23756 сформулировал общее правило: позицию, подготовленную с помощью программ, сторона готовит на свой риск и обязана проверить результат. Мотивы всех определений собраны на странице о штрафах российских судов.

Публичный чат-ботчат-бот Чат-бот это программа, которая переписывается с человеком в окне чата: на сайте, в мессенджере или в приложении. Подробнее в словаре не ищет ответ в базе судебных актов. Руководство для судей Англии и Уэльса объясняет это так: модель генерирует наиболее вероятное сочетание слов по запросу и по данным, на которых обучена, и это не обязательно точный ответ.

Поэтому выдуманные реквизиты выглядят убедительно: правильный формат номера, знакомое название суда, гладкая цитата. То же руководство прямо перечисляет, что ИИ может выдумать дела, ссылки, цитаты и несуществующие законы.

Отсюда и деление задач в руководстве. Пересказ больших текстов и письма оно называет потенциально полезными, а поиск новой информации, которую нельзя проверить, и юридический анализ публичными чат-ботами не рекомендует.

Специализированные юридические сервисы ошибаются реже, но тоже ошибаются. Stanford RegLab и HAI в мае 2024 года нашли ошибки больше чем в 17% ответов Lexis+ AI и Ask Practical Law AI и больше чем в 34% ответов Westlaw AI-Assisted Research.

Общие чат-боты в более раннем исследовании ошибались в 58-82% юридических вопросов. Разница объясняется доступом к базе: сервис, который опирается на реальные акты, выдумывает реже, но без проверки человеком ошибка все равно доходит до суда.

Верховный Суд РФ в своей концепции оценил вероятность галлюцинаций модели как высокую, а влияние как очень высокое. Меры для судов: ответ со ссылкой на источник, проверка результата судьей и запрет публичных ИИ-сервисов.

Выдуманную ссылку ловит не внимательность, а порядок, который юрист проходит перед каждой подачей. Вологодское дело показывает, почему мало проверить номер: номера дел в ссылках истца оказались реальными, но под ними рассматривались другие споры.

1. Открыть каждый акт по реквизитам в первоисточнике: «Картотека арбитражных дел», сайт суда, официальное опубликование нормы.

2. Сверить, что под номером тот же спор, те же стороны и та же инстанция, что указаны в документе.

3. Найти цитату в тексте акта дословно. Если ее нет, изложить вывод своими словами со ссылкой на пункт мотивировочной части или убрать.

4. Проверить, что акт не отменен вышестоящей инстанцией и норма действует в нужной редакции.

5. Записать в журнал проверки, кто и когда открыл каждую ссылку, и только после этого подписывать документ.

Суды уже спрашивают о проверке прямо. Судья Брэнтли Старр в Техасе с 30 мая 2023 года требует сертификат о том, что текст, подготовленный генеративным ИИгенеративный ИИ Генеративный ИИ (generative AI) это нейросети, которые создают новый контент: тексты, изображения, музыку, видео и программный код по описанию на обычном языке. Подробнее в словаре, проверил человек, а руководство для судей Англии и Уэльса допускает запрос подтверждения, что юрист сам проверил ссылки.

Суды строят тот же порядок у себя. В матрице рисков концепции Верховного Суда стоят автоматическая проверка ссылок на акты и НПА, обязательное декларирование использования ИИ при подаче документов и процессуальные санкции.

Первые два шага можно поручить ИИ-агентуИИ-агент ИИ-агент это нейросеть, которая не просто отвечает, а сама выполняет задачу по шагам: ищет данные, пользуется программами и проверяет результат. Подробнее в словаре в закрытом контуре фирмы: он сверяет каждую ссылку с базой актов и помечает ненайденные, а решение и подпись остаются за юристом. Как это устроено, разобрано на странице о поиске судебной практики.