Словарь ИИ

Что такое обезличивание данных

Коротко

Обезличивание данных это обработка сведений о людях, после которой без дополнительной информации нельзя понять, к какому человеку они относятся.

Безопасность и право · anonymization

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Учитель хочет показать классу, какие ошибки чаще всего делают в диктанте, но не хочет никого стыдить. Он закрывает имена на тетрадках и раздает их перемешанными. Ошибки видно, а чья это работа, уже не угадать. Так поступают и со сведениями о людях, когда их дают умной программе: убирают все, по чему можно узнать человека.

Простыми словами

Чтобы научить модель или отправить переписку в нейросеть, имена и телефоны часто не нужны. Поэтому из данных убирают или заменяют все, что указывает на человека: ФИО, номер телефона, адрес, номер договора. Вместо них ставят условные метки или общие значения, например возрастную группу вместо точной даты рождения. Ключ, по которому метки можно вернуть обратно, хранят отдельно и под замком. Одного удаления имени мало: человека иногда узнают по редкому сочетанию города, должности и даты покупки.

Для бизнеса

Это основной способ дать ИИ поработать с клиентскими данными и не нарушить 152-ФЗ: обезличенные записи можно анализировать, размечать и отправлять в модель с меньшим риском. Применяют его в аналитике обращений, обучении моделей, тестовых базах для подрядчиков и при работе с внешними нейросетями. Цена зависит от объема и вида данных: таблицы обработать проще, свободный текст писем и записи звонков сложнее, там нужен отдельный распознаватель имен и номеров. Главный риск в повторной идентификации, когда человека узнают по сочетанию оставшихся полей или по сопоставлению с другой базой. Перед запуском проверьте, кто хранит ключ к меткам и можно ли восстановить личность по выгрузке. Такие проверки входят в разбор утечек данных через нейросети.

Для специалиста

По пункту 9 статьи 3 закона 152-ФЗ обезличивание это действия, после которых невозможно без дополнительной информации определить принадлежность персональных данных конкретному субъекту. В терминах защиты данных это ближе к псевдонимизации (pseudonymization), чем к необратимой анонимизации (anonymization). Методы: удаление прямых идентификаторов, замена токенами с ключом, обобщение и подавление квазиидентификаторов, перестановка, добавление шума. Формальные модели: k-анонимность, при которой каждая запись неотличима хотя бы от k-1 других по квазиидентификаторам, и дифференциальная приватность (differential privacy), которая ограничивает влияние одной записи на результат запроса через калиброванный шум (Dwork, Roth, 2014). Narayanan и Shmatikov показали на наборе Netflix Prize с оценками около 500 тысяч подписчиков, что запись человека находится по небольшому объему сведений о нем при сопоставлении с открытыми оценками на IMDb. Для текстов и диалогов применяют распознавание именованных сущностей (NER) и маскирование перед отправкой во внешний API.

Пример

Колл-центр хочет, чтобы нейросеть нашла частые причины жалоб в расшифровках звонков. Перед отправкой программа заменяет имена, телефоны и адреса метками, а таблица соответствия остается на сервере компании.

Связанные термины

Вопросы и ответы

Чем обезличивание отличается от анонимизации?

По 152-ФЗ обезличенные данные можно вернуть к человеку с помощью дополнительной информации, например ключа к меткам. Анонимизация в строгом смысле необратима: связать запись с человеком нельзя совсем.

Можно ли отправлять обезличенные данные во внешнюю нейросеть?

Риск заметно ниже, но проверьте, не остались ли в тексте косвенные признаки вроде редкой должности или адреса. Ключ к меткам не должен уходить вместе с данными.

Источники

Где это применяют в компании

Утечки данных через нейросети: что сотрудники отправляют в ИИ

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений