Риск-ориентированный контроль: модель выбирает, где проверка нужнее

Случайная проверка беспристрастна, но расточительна: инспектор с равной вероятностью попадает и в чистое, и в рискованное место. Когда проверяющих десятки, а закупок и выплат сотни тысяч, большая часть проверок уходит на объекты без нарушений.

Масштаб задачи хорошо видно по Бразилии. Робот ALICE контрольного ведомства CGU с 2015 года каждый день собирает больше 500 объявлений о закупках, а в 2023 году разобрал 190 923 закупки. Вручную такой поток не прочитать, поэтому машина проверяет около 40 типов рисков и рассылает сигналы больше чем 500 аудиторам.

Отбор по риску меняет порядок работы: машина смотрит все записи, человек смотрит верх списка. В карточке ОЭСР о системе указано, что в 2019-2022 годах приостановлены или отменены торги на сумму больше 9,7 млрд реалов.

Случайный отбор при этом не исчезает. Небольшая случайная выборка нужна, чтобы проверять саму модель: если в ней находятся нарушения, которые модель оценила низко, модель переобучают.

Экономисты Эллиотт Эш, Серджио Галлетта и Томмазо Джоммони обучили модель на бюджетных данных бразильских муниципалитетов. Это градиентный бустингградиентный бустинг Градиентный бустинг это метод машинного обучения, который строит много небольших деревьев решений одно за другим, и каждое новое дерево исправляет ошибки уже построенных. Подробнее в словаре на деревьях решений: алгоритм, который по статьям бюджета оценивает вероятность коррупции в муниципалитете. Работа вышла в American Economic Journal: Economic Policy в мае 2025 года.

Главный вывод получен в моделировании политики проверок. Если выбирать муниципалитеты по прогнозу модели, при той же доле проверок находится почти вдвое больше муниципалитетов с коррупцией, чем при случайных проверках. Проверяющих столько же, находок почти в два раза больше.

Авторы сверили прогноз с прежними исследованиями коррупции: повторили их выводы с баллом модели и расширили их. Так они показали, что балл измеряет то же явление, которое находили проверки на месте.

Оговорка: это моделирование, а не отчет о действующей программе. Результат показывает, сколько можно выиграть, если бюджетные данные полные, а модель обучена на делах, которые уже проверили люди.

Практический вывод для госоргана: начинать с данных, которые уже собираются. Бюджетную отчетность муниципалитеты сдают и так, и модель на ней не добавляет проверяемым новых обязанностей. Другие работы о прогнозе нарушений собраны на странице исследований.

Феликс Лопес-Итуррьяга и Иван Пастор Санс из Университета Вальядолида обучили нейросеть на реальных делах о коррупции в Испании 2000-2012 годов. Модель оценивает для каждой провинции вероятность, что дела появятся через год, два и до трех лет. Статья вышла в Social Indicators Research в ноябре 2017 года.

Среди признаков, которые, по словам авторов, связаны с коррупцией: налог на недвижимость, резкий рост цен на жилье, открытие отделений банков и создание новых компаний. Еще один фактор политический: чем дольше у власти одна партия, тем выше вероятность коррупции, и неважно, есть ли у нее большинство.

Такой прогноз нужен для планирования, а не для обвинения. Авторы сами пишут, что высокая вероятность не означает, что коррупция действительно случится. Прогноз подсказывает, где через год-два усилить профилактику и заранее собрать данные.

Разница с Бразилией в том, на какой вопрос отвечает модель. Бразильская модель говорит, кого проверить сейчас, испанская говорит, где риск вырастет в ближайшие 1-3 года.

Балл риска складывается из признаков, которые можно посчитать по данным. В закупках это красные флаги: один участник, короткий срок подачи заявок, рост цены контракта после торгов, большая доля одного поставщика у заказчика. Каждый флаг дает вклад, модель взвешивает их и выдает итоговую оценку.

Робот ALICE проверяет около 40 типов рисков в каждом объявлении о закупке. Это балл на правилах: каждый признак описан словами, и аудитор видит, какой из них сработал.

Модели машинного обучениямашинное обучение Машинное обучение (machine learning, ML) это раздел ИИ, в котором программа находит правила в данных сама, а не получает их готовыми от разработчика. Подробнее в словаре идут дальше и сами находят сочетания признаков, которые в прошлом предсказывали нарушения. В бразильской работе это статьи бюджета муниципалитета, в испанской налоги, цены на жилье, отделения банков, новые компании и срок у власти одной партии.

Чего в балле быть не должно: признаков, которые описывают человека, а не операцию. Гражданство, национальность, место рождения ничего не говорят о нарушении, но модель легко превращает их в повод для подозрения. Чем это кончается, показывает случай Нидерландов в следующем разделе.

Еще одно правило: модель учится на прошлых проверках. Если раньше проверяли одни и те же районы или группы, она запомнит эту привычку как закономерность. Поэтому в обучающие данные добавляют результаты случайных проверок, а признаки сверяют с перечнем красных флагов.

Объяснимость значит, что у каждого балла есть причина, понятная проверяющему: какие признаки сработали и с каким весом. Без нее сотрудник получает число и не может ни проверить его, ни возразить.

Нидерланды показали цену непрозрачной модели. Налоговая служба с 2013 года использовала алгоритм оценки риска при проверке заявлений на пособие по уходу за детьми, и гражданство было в нем фактором риска. По данным Amnesty International, заявители без нидерландского гражданства получали более высокий балл.

Алгоритм был самообучающимся, и его ошибки воспроизводились без заметного контроля человека. Сотрудник, который разбирал отмеченное заявление, не получал объяснения, почему балл высокий.

Итог: десятки тысяч родителей, в основном из семей с низким доходом, ложно обвинили в мошенничестве. Семьям приостанавливали пособия, у них появлялись долги. Скандал привел к отставке правительства в январе 2021 года.

Объяснение нужно и проверяемому. Если организация попала в верх списка, она вправе знать, по каким признакам, и представить документы, которые эти признаки снимают.

Урок для госоргана не в том, что модели опасны, а в том, что балл без объяснения нельзя проверить. Карточка сигнала с признаками и документами делает ошибку видимой до того, как она ударит по людям. Другие ошибки систем контроля разобраны на странице о рисках и ошибках.

Балл риска показывает, где проверка нужнее, а не кто виноват. Решение о нарушении принимает проверяющий, а в уголовном деле следователь и суд. Система только ставит объект в очередь.

После нидерландского скандала Amnesty International сформулировала требования к государственным алгоритмам оценки риска. Они подходят для любого риск-скоринга:

1. Не использовать данные о гражданстве и этнической принадлежности в оценке риска.

2. До запуска проводить обязательную оценку влияния системы на права человека.

3. Не применять закрытые самообучающиеся системы там, где решение сильно влияет на права людей.

К этому контрольный орган добавляет свои правила. Сигнал не становится основанием для санкций без проверки документов. Часть проверок назначают случайно, чтобы сравнивать с ними модель. Ошибки модели записывают и разбирают так же, как ошибки проверяющих.

Бразильский опыт показывает, что такие правила не мешают эффекту. ALICE не наказывает сама: она рассылает сигналы больше чем 500 аудиторам, и дальше работу ведут они.