Безопасный API нейросетей для компании: ваши данные, ваш контроль

Услуга рассчитана на компании с большим объемом запросов к модели: поддержку, обработку документов, внутренних ассистентов. Ниже то, что входит в нее сейчас. Остальные условия, от места серверов до цены, мы называем в расчете под ваш объем, а не обещаем заранее.

• Модели: DeepSeek, Qwen и другие модели с открытыми весамимодель с открытыми весами Модель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании. Подробнее в словаре, подобранные под вашу задачу.
• Формат: совместим с OpenAI, меняете адрес и ключ, код остается.
• Объем: под большие объемы, лимиты и мощности обсуждаем под вашу нагрузку.
• Контроль: доступ к инфраструктуре, журналам и процессам обработки запросов.
• Данные: ваши запросы не используются для обучения моделей.

Открытые веса означают, что модель можно скачать и запустить на своих мощностях по лицензии. 20 января 2025 года DeepSeek выпустила R1 с открытыми весами на лицензии MIT.

29 апреля 2025 года вышло семейство Qwen 3, восемь моделей на лицензии Apache 2.0. Веса обеих моделей опубликованы, поэтому их запускают на своих мощностях, без запросов к серверам авторов модели.

Модель выбираем по задаче, а не по названию. Для классификацииклассификация Классификация это задача машинного обучения, в которой модель относит объект к одному из заранее известных классов: спам или не спам, жалоба или вопрос, брак или норма. Подробнее в словаре обращений хватает небольшой модели, для разбора длинных договоров нужна крупная.

Серверы стоят в России: в вашем контуре или в центре обработки данных, который вы выбираете. Площадку фиксируем в договоре.

Кто видит запросы, вы проверяете сами: у вас есть доступ к инфраструктуре и журналам. Если нужна полная изоляция, открытую модель можно запустить на собственном сервере компании или в ее центре обработки данных. Как подобрать оборудование, разобрано в статье о сервере для ИИ.

У облачных провайдеров вы видите счет и статистику, но не их серверы. Здесь вы получаете доступ к инфраструктуре и видите журналы и процессы обработки запросов.

Это проверяемо: служба безопасности смотрит, куда уходят запросы, а не читает обещания поставщика. Какие вопросы задать любому поставщику, включая нас, собрано на странице о безопасности API.

Услуга рассчитана на большие объемы. Лимиты и мощности считаем под вашу нагрузку: число запросов, длину текста, требования к скорости ответа.

Модель отвечает через сервер, совместимый с OpenAI. vLLM, например, поднимает на своем сервере интерфейсы Chat, Completions, Responses и распознавание речираспознавание речи Распознавание речи (automatic speech recognition, ASR) это перевод устной речи в текст программой: из звонка, голосового сообщения или записи встречи. Подробнее в словаре, поэтому открытая модель подключается к готовому коду без переписывания.

Работаем по договору с ООО «ММООЗЗГГ», оплата в рублях по счету. Оператор персональных данных ваша компания, мы обрабатываем их по вашему поручению по ч. 3 ст. 6 152-ФЗ, и это поручение входит в договор.

По 152-ФЗ сбор и хранение персональных данных граждан России ведутся в базах на территории России (ч. 5 ст. 18). Перед трансграничной передачей оператор с 1 марта 2023 года подает уведомление в Роскомнадзор (ч. 3 ст. 12).

С 30 мая 2025 года за повторную утечку юрлицо платит от 1 до 3% выручки, но не меньше 25 млн и не больше 500 млн рублей. С 1 сентября 2026 года действует 243-ФЗ о технологиях ИИ: случаи обязательного применения суверенных и национальных моделей определяет Правительство.

Как устроен суверенный ИИсуверенный ИИ Суверенный ИИ это нейросети и инфраструктура под контролем страны или компании: разработка, серверы и данные находятся у себя, а не у иностранного поставщика. Подробнее в словаре и когда модель стоит держать у себя, описано в разделе о суверенном ИИ.

Модель подбираем по тесту на ваших запросах. Так видно качество ответов на ваших текстах до того, как вы перенесете рабочую нагрузку.

• Вы присылаете типичные запросы и ожидаемые ответы, без персональных данных.
• Мы прогоняем их на нескольких открытых моделях и показываем ответы рядом.
• Вы выбираете модель, мы считаем мощности под ваш объем.
• Вы меняете адрес и ключ в коде и подключаетесь.

Цену считаем под вашу модель, объем и требования к скорости и фиксируем в договоре до старта.

Чтобы сравнить с облаком, посчитайте свой объем в калькуляторе облачного API и сравните цены за токены по моделям. Для расчета напишите нам через страницу контактов.