Утечка данных через нейросеть: Samsung, суды, регуляторы

Инженеры Samsung загрузили в ChatGPT внутренний исходный код. 2 мая 2023 года компания запретила сотрудникам пользоваться генеративным ИИгенеративный ИИ Генеративный ИИ (generative AI) это нейросети, которые создают новый контент: тексты, изображения, музыку, видео и программный код по описанию на обычном языке. Подробнее в словаре.

Взлома не было: сотрудники сами отправили код во внешний сервис, чтобы быстрее решить рабочую задачу. Для юридической фирмы аналог понятен: договор клиента, проект иска или справка по делу, вставленные в публичный чат ради экономии часа.

Запрет без замены не убирает причину. Задача остается, и сотрудник переходит на личный аккаунт или телефон, где фирма уже ничего не видит.

У юриста риск выше, чем у инженера: в исходном коде нет имен доверителей, а в договоре они есть. К коммерческой тайне клиента добавляются адвокатская тайна и 152-ФЗ.

В споре The New York Times с OpenAI 13 мая 2025 года судья Она Ванг обязала OpenAI сохранять журналы ответов ChatGPT, включая чаты, которые пользователи удалили.

Обязанность прекращена с 26 сентября 2025 года. Но 2 декабря 2025 года суд оставил в силе передачу выборки из 20 млн обезличенных журналов.

Урок для юриста: удаленный чат не значит удаленные данные. Переписка пользователей может стать материалом в чужом судебном споре, о котором сами пользователи не знают.

Утечки через ChatGPT в этом смысле шире ошибки сотрудника: текст может уйти дальше по решению суда в другой стране.

Поэтому в условиях сервиса смотрят не только срок хранения, но и то, может ли поставщика обязать сохранить или передать переписку по требованию суда.

20 декабря 2024 года итальянский регулятор персональных данных оштрафовал OpenAI на 15 млн евро за обработку данных при обучении ChatGPT.

Штраф получил поставщик, но вопрос тот же, что у любой фирмы: на каком основании обрабатываются данные людей и знают ли они об этом.

В России за данные доверителей отвечает фирма как оператор. По ч. 5 ст. 6 152-ФЗ, если обработку поручили другому лицу, перед субъектом за его действия отвечает оператор, а не поставщик сервиса.

Для поставщика спор шел об обучении модели, для фирмы вопрос в том, что юристы отправляют в сервис. Второй вопрос фирма контролирует сама.

С 30 мая 2025 года по 420-ФЗ за утечку персональных данных юрлицо штрафуют по ч. 12-14 ст. 13.11 КоАП в зависимости от числа субъектов:

Основание штрафа по ч. 12-14 это действия или бездействие оператора, повлекшие неправомерную передачу данных. Взлом для этого не нужен: хватит документа, который сотрудник сам вставил в чужой сервис.

1. От 1 000 до 10 000 субъектов: 3-5 млн руб.

2. От 10 000 до 100 000 субъектов: 5-10 млн руб.

3. Больше 100 000 субъектов: 10-15 млн руб.

4. Повторная утечка: 1-3% выручки, но не меньше 20 млн и не больше 500 млн руб. (ч. 15), со специальными категориями или биометрией не меньше 25 млн руб. (ч. 18).

Отдельно ч. 11 наказывает за то, что оператор не уведомил Роскомнадзор об утечке: 1-3 млн руб. Фирме нужно вовремя знать о каждом случае, когда документ с персональными данными ушел в чужой сервис без основания.

Число субъектов в документах юридической фирмы растет быстро: реестр требований кредиторов или список работников в трудовом споре легко содержит тысячи записей.

Первые дела арбитражных судов по этим штрафам разобраны в статье о штрафах за персональные данные.

Защита от утечек строится на устройстве работы, а не на запрете. Шесть мер для юридической фирмы:

1. Политика использования ИИ: какие сервисы разрешены, что в них нельзя отправлять, кто проверяет результат.

2. Разрешенный инструмент вместо личных аккаунтов: модель на сервере фирмы или в облаке в России.

3. Обезличивание документов до любой передачи за пределы фирмы.

4. Согласие доверителя на использование ИИ в соглашении об оказании юридической помощи.

5. Доступ по ролям: юрист видит свои дела, у ИИ отдельная учетная запись с правами только на свой процесс, действия пишутся в журнал.

6. Проверка того, какими сервисами юристы пользуются уже сейчас и какие документы туда ушли.

Технические правила, по которым мы ставим ИИ, в блоке «Как мы защищаем данные» ниже: персональные данные обрабатываем на серверах в России по 152-ФЗ, текст не уходит за рубеж и в сервисы без договора об обработке по поручению.

Меры 1, 3 и 4 фирма оформляет сама: это документы и правила. Меры 2, 5 и 6 требуют настройки инструмента и проверки того, что уже происходит у юристов.