ИИ против коррупции: вопросы и ответы

ИИ делает то, на что у людей не хватает времени: проверяет весь поток закупок и платежей каждый день. Бразильский робот ALICE ежедневно собирает больше 500 объявлений о закупках и проверяет их примерно по 40 типам рисков.

Он видит признаки, которые человек пропустит в таблице: одни и те же участники в разных торгах, общий телефон у конкурентов, рост цены после заключения контракта, связь заказчика и поставщика через руководителей компаний.

ИИ не решает, было ли нарушение, и не заменяет проверяющего. Его работа заканчивается сигналом с основанием: какой признак сработал и на каких документах.

Главное, что дает машина, это модель дела: люди, компании, счета, контракты и даты связаны в одном графе и обновляются с приходом новых данных. Человек не удержит в голове тысячу связей, а система собирает их за минуты.

Сигналы сортируются по риску, поэтому один аналитик может вести большой поток: он видит сначала крупные суммы и совпадения нескольких признаков, а не тысячи мелких отметок.

Как эти шаги складываются в цепочку от данных до дела у проверяющего, показано на главной странице раздела.

Для первой схемы обычно хватает того, что уже есть: реестр договоров, платежи, справочник контрагентов и открытые данные о закупках. ALICE работает на объявлениях о закупках, то есть на открытых данных.

Сведения о компаниях берут из открытых реестров: учредители, руководители, адреса. Без них не видны связи между заказчиком и поставщиком.

Качество данных важнее объема. Если ИНН записаны по-разному, а у части платежей нет дат, система даст ложные сигналы, поэтому перед пилотом данные проверяют и приводят к одному виду.

Данные не обязательно передавать подрядчику или за рубеж. Модели запускаются на серверах организации, этот вариант описан в разделе о суверенном ИИ.

Ошибки будут: система отметит честную закупку или пропустит нарушение. Поэтому отметка не решение, а повод проверить документы.

Цена неправильных правил видна на примере Нидерландов. Модель налоговой службы использовала гражданство как фактор риска, десятки тысяч родителей ложно обвинили в мошенничестве, и скандал привел к отставке правительства.

Чтобы такое не повторилось, до запуска исключают запрещенные признаки, каждую отметку связывают с документом и дают человеку право знать основание. Подробно эти правила разобраны на странице о рисках и ошибках.

Саму модель тоже проверяют: каждый квартал считают долю ложных сигналов, а на прошлых проверках сравнивают ее отбор со случайным выбором и с нынешней практикой.

Ответственность остается там же, где и без ИИ: у проверяющего, который принял решение, и у руководителя, который утвердил правила работы с сигналами. Система отвечает только за то, чтобы основание каждой отметки было видно.

Начинают с одной схемы и пилота на своих данных. Даже большие системы держатся на одном понятном потоке: ALICE с 2015 года работает с объявлениями о закупках и рассылает сигналы больше чем 500 аудиторам.

Для пилота нужны выгрузка данных, согласованный с проверяющими перечень признаков и один ответственный сотрудник для разбора спорных сигналов.

Правила работы с сигналами пишут до запуска: кто видит сигналы, в какой срок их разбирают, что сотрудник узнает об основании отметки. Без этих правил даже точная система встречает сопротивление.

Масштабируют после пилота, по одной схеме: к торгам добавляют платежи, к платежам связи компаний. Эффект считают по своим данным: сколько остановлено до оплаты, сколько возвращено и сколько часов сэкономлено.

Сроки, состав пилота и порядок масштабирования описаны на странице о том, как внедрить ИИ-контроль.