ММООЗЗГГ.ru

Разбор

Утечка данных через нейросеть: Samsung, суды, регуляторы

7 мин10 источников

Утечка данных через нейросеть обычно начинается не со взлома, а с того, что сотрудник вставляет в чат внутренний документ. Так было в Samsung: после загрузки исходного кода в ChatGPT компания 2 мая 2023 года запретила сотрудникам генеративный ИИ. Ниже три случая, которые изменили отношение к публичным сервисам, условия крупных сервисов, российские штрафы за утечку и шесть мер защиты для юридической фирмы.

На странице · 6 разделов

Samsung, 2023

Инженеры Samsung загрузили в ChatGPT внутренний исходный код. 2 мая 2023 года компания запретила сотрудникам пользоваться генеративным ИИ.

Взлома не было: сотрудники сами отправили код во внешний сервис, чтобы быстрее решить рабочую задачу. Для юридической фирмы аналог понятен: договор клиента, проект иска или справка по делу, вставленные в публичный чат ради экономии часа.

Запрет без замены не убирает причину. Задача остается, и сотрудник переходит на личный аккаунт или телефон, где фирма уже ничего не видит.

У юриста риск выше, чем у инженера: в исходном коде нет имен доверителей, а в договоре они есть. К коммерческой тайне клиента добавляются адвокатская тайна и 152-ФЗ.

Иск NYT: хранение чатов

В споре The New York Times с OpenAI 13 мая 2025 года судья Она Ванг обязала OpenAI сохранять журналы ответов ChatGPT, включая чаты, которые пользователи удалили.

Обязанность прекращена с 26 сентября 2025 года. Но 2 декабря 2025 года суд оставил в силе передачу выборки из 20 млн обезличенных журналов.

Урок для юриста: удаленный чат не значит удаленные данные. Переписка пользователей может стать материалом в чужом судебном споре, о котором сами пользователи не знают.

Утечки через ChatGPT в этом смысле шире ошибки сотрудника: текст может уйти дальше по решению суда в другой стране.

Поэтому в условиях сервиса смотрят не только срок хранения, но и то, может ли поставщика обязать сохранить или передать переписку по требованию суда.

Штраф в Италии

20 декабря 2024 года итальянский регулятор персональных данных оштрафовал OpenAI на 15 млн евро за обработку данных при обучении ChatGPT.

Штраф получил поставщик, но вопрос тот же, что у любой фирмы: на каком основании обрабатываются данные людей и знают ли они об этом.

В России за данные доверителей отвечает фирма как оператор. По ч. 5 ст. 6 152-ФЗ, если обработку поручили другому лицу, перед субъектом за его действия отвечает оператор, а не поставщик сервиса.

Для поставщика спор шел об обучении модели, для фирмы вопрос в том, что юристы отправляют в сервис. Второй вопрос фирма контролирует сама.

Тариф и страна сервиса

Риск утечки зависит от того, где работает сервис и на каком тарифе им пользуются. Условия крупных поставщиков различаются, и их стоит прочитать до того, как юрист отправит первый документ.

1. Google в дополнительных условиях Gemini API от 28 апреля 2026 года пишет: в бесплатных сервисах запросы и ответы идут на развитие продуктов, их могут читать люди-проверяющие, поэтому конфиденциальные и персональные данные туда отправлять нельзя. В платных сервисах запросы для развития продуктов не используются и хранятся ограниченный срок.

2. Anthropic по умолчанию не использует для обучения входные данные и ответы коммерческих продуктов, по данным ее центра конфиденциальности на 18 августа 2026 года.

3. DeepSeek по политике конфиденциальности от 10 февраля 2026 года хранит персональные данные в КНР и использует данные для обучения моделей.

Платный тариф снимает вопрос обучения, но не вопрос страны. OpenAI, Anthropic и Google не включают Россию в списки стран, где работают их сервисы (проверено 16 октября 2026 года). Фирма из России официально не может стать их клиентом, значит, договора об обработке по поручению по ч. 3 ст. 6 152-ФЗ у нее с ними нет, а текст с данными доверителя уходит за рубеж.

Что требует закон, когда данные уходят в зарубежный сервис, разобрано в материале о трансграничной передаче данных.

Штрафы в России за утечку

С 30 мая 2025 года по 420-ФЗ за утечку персональных данных юрлицо штрафуют по ч. 12–14 ст. 13.11 КоАП в зависимости от числа субъектов:

Основание штрафа по ч. 12–14 это действия или бездействие оператора, повлекшие неправомерную передачу данных. Взлом для этого не нужен: хватит документа, который сотрудник сам вставил в чужой сервис.

1. От 1 000 до 10 000 субъектов: 3–5 млн руб.

2. От 10 000 до 100 000 субъектов: 5–10 млн руб.

3. Больше 100 000 субъектов: 10–15 млн руб.

4. Повторная утечка: 1–3% выручки, но не меньше 20 млн и не больше 500 млн руб. (ч. 15), со специальными категориями или биометрией не меньше 25 млн руб. (ч. 18).

Отдельно ч. 11 наказывает за то, что оператор не уведомил Роскомнадзор об утечке: 1–3 млн руб. Фирме нужно вовремя знать о каждом случае, когда документ с персональными данными ушел в чужой сервис без основания.

Число субъектов в документах юридической фирмы растет быстро: реестр требований кредиторов или список работников в трудовом споре легко содержит тысячи записей.

Первые дела арбитражных судов по этим штрафам разобраны в статье о штрафах за персональные данные.

Шесть мер защиты

Защита от утечек строится на устройстве работы, а не на запрете. Шесть мер для юридической фирмы:

1. Политика использования ИИ: какие сервисы разрешены, что в них нельзя отправлять, кто проверяет результат.

2. Разрешенный инструмент вместо личных аккаунтов: модель на сервере фирмы или в облаке в России.

3. Обезличивание документов до любой передачи за пределы фирмы.

4. Согласие доверителя на использование ИИ в соглашении об оказании юридической помощи.

5. Доступ по ролям: юрист видит свои дела, у ИИ отдельная учетная запись с правами только на свой процесс, действия пишутся в журнал.

6. Проверка того, какими сервисами юристы пользуются уже сейчас и какие документы туда ушли.

Технические правила, по которым мы ставим ИИ, в блоке «Как мы защищаем данные» ниже: персональные данные обрабатываем на серверах в России по 152-ФЗ, текст не уходит за рубеж и в сервисы без договора об обработке по поручению.

Меры 1, 3 и 4 фирма оформляет сама: это документы и правила. Меры 2, 5 и 6 требуют настройки инструмента и проверки того, что уже происходит у юристов.

Вопросы и ответы

Считается ли утечкой, если сотрудник сам вставил документ в нейросеть?

Основание штрафа по ч. 12–14 ст. 13.11 КоАП это действия или бездействие оператора, которые привели к неправомерной передаче персональных данных, поэтому взлом для него не нужен. По нашей оценке, документ доверителя, отправленный в сервис без договора об обработке и без согласия, под это описание подходит. Размер штрафа зависит от числа субъектов: от 1 000 до 10 000 человек это 3–5 млн руб.

Кто отвечает за утечку: сотрудник, фирма или поставщик нейросети?

Перед субъектом данных отвечает фирма как оператор: по ч. 5 ст. 6 152-ФЗ за действия обработчика перед субъектом отвечает оператор, а обработчик отвечает перед оператором. Если обработку поручили иностранному лицу, по ч. 6 ст. 6 перед субъектом отвечают оба. Штраф по ст. 13.11 КоАП платит юрлицо, поэтому ошибка одного юриста становится расходом фирмы.

Можно ли отправлять в нейросеть обезличенные документы?

Обезличивание снижает риск, если сделано по правилам. Приказ Роскомнадзора № 140, который действует с 1 сентября 2025 года, описывает методы: замену данных идентификаторами, удаление или искажение атрибутов, перемешивание; ключ соответствия хранится отдельно и третьим лицам не передается. В документах клиента человека часто выдает не имя, а сумма сделки, адрес объекта или номер дела, поэтому их проверяют до отправки.

Что делать, если документ клиента уже ушел в публичный сервис?

Сначала установить, какие данные и сколько людей затронуто, с какого аккаунта и на каком тарифе ушел документ. Если это неправомерная передача персональных данных, фирма уведомляет Роскомнадзор: за неуведомление ч. 11 ст. 13.11 КоАП предусматривает штраф 1–3 млн руб. Если в документе были сведения под адвокатской тайной, отдельно решают, как сообщить об этом доверителю.

Источники и проверка

Проверено редакцией 16 октября 2026.

  1. Bloomberg, 02.05.2023 (bloomberg.com)
  2. iTechGuides (обзор судебных документов), 12.2025 (itechguides.com)
  3. Euronews, 20.12.2024 (euronews.com)
  4. КонсультантПлюс, Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных», ст. 6, 27.07.2006 (consultant.ru)
  5. КонсультантПлюс, КоАП РФ, ст. 13.11, 04.08.2026 (consultant.ru)
  6. Google, дополнительные условия Gemini API, 28.04.2026 (ai.google.dev)
  7. Anthropic Privacy Center, 18.08.2026 (privacy.claude.com)
  8. DeepSeek, политика конфиденциальности, 10.02.2026 (cdn.deepseek.com)
  9. OpenAI, список поддерживаемых стран (platform.openai.com)
  10. КонсультантПлюс, приказ Роскомнадзора от 19.06.2025 № 140 (consultant.ru)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин

Как мы защищаем данные

  • Данные в России

    Персональные данные обрабатываем на серверах в России по 152-ФЗ. Текст сообщений не уходит за рубеж и в сервисы, с которыми нет договора об обработке по поручению.

  • Права только на свой процесс

    У агента отдельная учетная запись в CRM, 1С и телефонии. Агенту продаж достаточно заводить сделки, выгрузка базы и права администратора ему не нужны.

  • Действия видны

    Все, что агент делает в вашей CRM, пишется в ее журнал. Каждое изменение правил записано в отчете сопровождения, откатить его можно за минуту.

  • Команды из сообщений не выполняются

    Инструкция агента запрещает менять правила по просьбе из входящего сообщения. Если клиент просит «забыть правила» или прислать список клиентов, запрос уходит человеку.

  • Решения за людьми

    Агент не подписывает документы, не платит и не ведет переговоры. Сложные и спорные случаи он передает сотруднику вместе с историей.

  • Модель можно заменить

    Модель под процесс выбираем с учетом того, где она развернута, и можем заменить ее без переделки правил и подключений.

После внедрения система, бессрочная лицензия, данные и доступы у вас. Учетные записи агента заведены в ваших системах, и ваш администратор может отозвать любой доступ за минуту.

Безопасность данных: все правила
Написать в Telegram