Как проверить текст на ИИ и почему детекторы ошибаются

Детектор ИИ-текста это программа, которая оценивает, похож ли текст на написанный нейросетью. Она ищет предсказуемые слова и ровные фразы и выдает вероятность, например «скорее всего, написано ИИ».

Под нейросетью здесь понимают большую языковую модель: программу, которая пишет текст слово за словом и каждый раз выбирает вероятное продолжение. Человек тоже может писать ровно и предсказуемо, поэтому по одному стилю авторство не определить.

Показательный пример дала OpenAI. Компания выпустила классификатор ИИ-текста 31 января 2023 года. На проверочном наборе английских текстов он узнавал только 26% текстов ИИ и в 9% случаев принимал текст человека за ИИ.

20 июля 2023 года OpenAI закрыла классификатор из-за низкой точности. Еще при запуске компания предупреждала: на текстах короче тысячи знаков он очень ненадежен, на других языках работает заметно хуже, чем на английском, а отредактированный текст ИИ его обманывает.

Люди ошибаются не меньше. Международный доклад о безопасности ИИИИ-безопасность ИИ-безопасность (AI safety) это область исследований и практик, которая следит, чтобы системы ИИ не причиняли вреда: не ошибались опасно, не выходили из-под контроля и не служили злоумышленникам. Подробнее в словаре 2026 года приводит исследование, где участники в 77% случаев принимали текст ИИ за текст человека. Авторы доклада пишут, что инструменты распознавания не успевают за качеством генерации.

Ошибка в обе стороны значит две вещи. Детектор пропускает текст нейросети, который немного поправили. И он может обвинить человека, который пишет просто, коротко и без ярких оборотов.

Признаки ниже говорят только одно: текст стоит проверить внимательнее. Ни один из них не доказывает, что его написала нейросеть. Так пишут и люди, а пять минут правки убирают почти все следы.

Общие слова вместо деталей. Текст гладкий, но в нем нет имен, дат, мест, личного опыта и того, что знает только автор.

Одинаковый ритм. Абзацы одной длины, каждый заканчивается выводом, списки по три пункта, а вступление пересказывает вопрос.

Уверенные выдумки. Цифра без источника, цитата, которую нельзя найти, ссылка на несуществующую статью или закон. Такие ошибки называют галлюцинациями нейросети.

Ответ мимо задания. Сочинение по книге пересказывает ее общими словами, но путает героев или приводит детали, которых в книге нет.

Плохо: «Детектор показал высокий процент ИИ, значит, текст списан».

Хорошо: «В тексте три цифры без источника и путаница в датах. Проверю их и спрошу автора, откуда он их взял».

Вопрос «правда ли это» часто важнее вопроса «кто написал». Международный доклад о безопасности ИИ 2026 года отмечает, что системы ИИ до сих пор иногда выдают ложные сведения. Поэтому проверка фактов полезна для любого текста, кем бы он ни был написан.

Шаг первый: выпишите все цифры, даты, имена и цитаты. Каждую найдите в первоисточнике: на сайте ведомства, в тексте закона, в отчете с датой.

Шаг второй: откройте каждую ссылку. Нейросеть может дать правдоподобный адрес, который никуда не ведет, или настоящую статью, где нет нужной цифры.

Шаг третий: сверьте даты. Закон мог измениться, а цифра могла устареть, поэтому смотрите, когда вышел документ.

Плохо: «Ссылки в тексте есть, значит, все проверено».

Хорошо: «Открыл три ссылки из пяти: в одной нет этой цифры, вторая не открывается. Прошу автора дать первоисточник».

Если вы сами пользуетесь нейросетью, просите ее указывать источники и проверяйте их тем же способом. Как задавать такие вопросы, разбирают в бесплатном курсе.

Общее правило для всех трех: процент детектора не может быть единственным основанием для решения. Об этом писала и OpenAI: ее классификатор нельзя использовать как основной инструмент для решения, только вместе с другими способами проверки.

Учителю. Договоритесь с классом заранее, где нейросеть можно использовать, а где нет: например, для плана можно, для готового сочинения нельзя. Если текст вызывает сомнения, попросите ученика устно рассказать, как он его писал.

Плохо: «Детектор нашел ИИ, ставлю двойку».

Хорошо: «Расскажи, почему ты выбрал этот пример и откуда взял эту дату».

Редактору. Проверяйте факты, источники и собственную мысль автора. Запишите в договоре или правилах редакции, можно ли пользоваться нейросетью и нужно ли об этом сообщать.

Работодателю. Тестовое задание, сделанное с нейросетью, не всегда минус: важно, понимает ли кандидат результат. Задайте пару вопросов по решению на собеседовании, а правила работы с ИИ закрепите во внутреннем документе.

Если вы обвинили человека зря, скажите об этом прямо. У классификатора OpenAI ложные срабатывания на текстах людей были в 9% случаев, и у других программ они тоже бывают.

Маркировка ИИ-контента это пометка «создано с помощью ИИ», которую видит человек или считывает программа. В России ее задает Федеральный закон от 26 июля 2026 года № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации».

Законопроект внесло Правительство. По карточке в системе Госдумы его приняли 8 июля 2026 года, Совет Федерации одобрил закон 17 июля, а опубликован он 26 июля 2026 года. Еще на этапе законопроекта, 3 июля 2026 года, аппарат вице-премьера сообщал, что маркировка для пользователей будет добровольной.

Нормы о маркировке (статья 9) начнут действовать с 1 марта 2027 года. Тот, кто создает с помощью большой модели ИИ звук или изображение, получит возможность ставить пометку о применении ИИ. Площадки с персональными страницами и суточной аудиторией в России больше 500 тысяч человек обязаны дать пользователям такую возможность.

Обязанности для обычного человека помечать свой текст, написанный с нейросетью, в законе нет. Но правила школы, вуза, редакции или работодателя могут требовать об этом сообщать.

Поправки уже готовят: законопроект № 1317978-8 об изменении статьи 9 в части маркировки зарегистрирован в Госдуме 17 августа 2026 года и на 16 октября 2026 года находится на рассмотрении. Что закон значит для компаний, разобрано в статье о законе 243-ФЗ.