1. Можно ли выпускать данные наружу
Если в данных исходный код, медкарты, кредитные документы или персональные данные, для которых нет договора поручения с провайдером, ответ нет. Оператор связи потребовал в тендере, чтобы код не покидал его дата-центрдата-центр для ИИ. Дата-центр для ИИ это здание с тысячами серверов на видеокартах и других ускорителях, мощным электропитанием и охлаждением, где обучают и запускают нейросети.; московское здравоохранение развернуло языковую модель локально для медицинских данных; девелопер и банк поставили ИИ-контролера кредитной документации в изолированный контур. По оценке, которую приводит отраслевая публикация, с большинством зарубежных провайдеров договора поручения по 152-ФЗ нет.
Обезличиваниеобезличивание данных. Обезличивание данных это обработка сведений о людях, после которой без дополнительной информации нельзя понять, к какому человеку они относятся. помогает не всегда: замена имен на метки вроде user_123 не спасает, если связь с человеком можно восстановить. Безопасные варианты по той же публикации: российская облачная платформа с договором, модель во внутренней инфраструктуре или обезличивание до отправки, при котором связь восстановить нельзя.
2. Сколько токенов в месяц
При 60 млн токеновтокен. Токен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель. в месяц облачные модели стоят от 1 013 ₽ до 101 289 ₽ в месяц по ценам на 29.09.2026. Видеокарта на 32 ГБ на 30.09.2026 стоит 749 990 ₽ у одного продавца. По нашему расчету, рабочая станция с этой картой, платформой, электричеством и инженером окупается против флагманов по 101 289 ₽ за 17 месяцев, против средних моделей по 20 258 ₽ никогда: расходы на нее выше счета. Против моделей среднего уровня локальный вариант, по нашему расчету, окупается при сотнях миллионов токенов в месяц; точку считает калькулятор.
3. Какая нужна задержка и доступность
Для автодополнения кода оператор связи вписал в тендер отклик не более 400 мс; локальная модельлокальная модель. Локальная модель это нейросеть, которая работает на вашем компьютере или сервере, а не в облаке поставщика, поэтому данные никуда не уходят. дает его без зависимости от интернет-канала и лимитов провайдера. Для чат-бота, где клиент готов подождать ответа несколько секунд, облака достаточно.
Доступность зависит не только от канала. Россия не входит в списки поддерживаемых стран у двух крупных зарубежных провайдеров, а один из них с 9 июля 2024 года блокирует трафик из неподдерживаемых стран: для бизнеса это операционный риск, канал может исчезнуть в любой день. Скорость на коротких задачах при этом бывает равной: в тесте сети строительных магазинов двухшаговую задачу все три модели, облачные и локальная, решили за 32–36 секунд.
4. Какое нужно качество
На коротких цепочках из 2–3 шагов локальная модель на 9 млрд параметров не уступила облачным моделям в тесте ИТ-подразделения сети магазинов из 27 прогонов; на цепочке из 15 шагов полностью проверяемого результата не дала ни одна модель. В том же тесте на 15 шагах крупная облачная модель на 235 млрд дала частичный успех в 2 прогонах из 3, локальная на 9 млрд в 1: на длинной цепочке крупная модель в этом тесте справлялась чаще, а крупные модели у себя требуют, по нашему расчету, сервера от 2,5 млн ₽ или облака по 10–50 долларов за миллион выходных токенов у флагманов.
5. Кто будет это обслуживать
Локальный сервер требует человека: медиана зарплаты DevOps-инженера в России 220 000–250 000 ₽ в месяц, в Москве middle до 315 000 ₽. По нашему расчету, часть ставки на обслуживание ИИ-сервера это крупнейшая статья после железа. Облако включает это в цену токена.
Для одного компьютера на 1–3 пользователя отдельный инженер не нужен. Для сервера отдела, по нашему расчету, нужна доля ставки 10–20%. Без человека сервер деградирует: обновление ломает совместимость, карта греется, логи никто не смотрит. Если нанимать некого, разумнее облако или аренда с поддержкой провайдера.
Третий путь: аренда видеокарт в России
Между покупкой сервера и зарубежным API есть аренда видеокартаренда GPU. Аренда GPU это оплата доступа к чужим видеокартам в дата-центре по часам или месяцам вместо покупки собственного сервера для нейросетей. в российском облаке. На 30.09.2026 агрегатор показывал 41 предложение аренды H100 от 242 ₽ в час, а карты попроще стоят в разы дешевле. Данные остаются в России, железо чужое, окупаемость считать не нужно: платите за часы.
Так поступил производитель косметики: открытая модельмодель с открытыми весами. Модель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании. Qwen и векторный поиск по каталогу работают на видеокартах российского облака, данные не уходят во внешние сервисы. Аренда хороша для пилота и сезонных пиков, а при круглосуточной нагрузке месяц H100 у первых по цене предложений стоит от 145 000 ₽, и тогда пора сравнить его с покупкой.
Гибридная схема: как она устроена
Между агентами и моделями ставят маршрутизатор с единым интерфейсом. Персональные данные и код всегда идут на локальную модель, цепочки от 10 шагов в облако, ночная пакетная обработка на локальную модель; при отказе одной модели запросы уходят на другую. Перед отправкой в облако маршрутизатор заменяет имена, номера и суммы на метки и возвращает их в ответ.
Пример на 60 млн токенов в месяц по нашему расчету: 80% простых запросов на рабочей станции с видеокартой на 32 ГБ за 66 156 ₽ в месяц с инженером, 20% сложных на облачной модели среднего уровня за 4 052 ₽, итого 70 208 ₽. Весь объем на флагмане стоил бы 101 289 ₽, на средней модели 20 258 ₽. Гибрид дешевле флагмана и дороже среднего облака: его берут ради данных и отказоустойчивости, а деньгами он выигрывает при росте объема.
Как проверить выбор за неделю
Соберите 50 реальных запросов с ожидаемыми ответами. Прогоните их на облачной модели среднего уровня и на открытой модели на 8–32 млрд параметров на арендованной карте, сравните качество и посчитайте токены. Подставьте объем в калькуляторы стоимости и окупаемости.
Если локальный итог выше облачного, а данные могут выходить наружу, ответ облако, и это хороший ответ. Если данные выходить не могут, вопрос только в размере железа. Такую проверку мы проводим в пилоте за 14 дней от 149 000 ₽ на вашем или арендованном железе.
Три ошибки при выборе
Купить железо до пилота: без своих 50 запросов и замера токенов это покупка вслепую. Купить сервер без инженера: через полгода он работает хуже облака, которое заменял. Купить видеокарту впритык под сегодняшнюю модель: следующая может не поместиться, поэтому память берут на ступень выше. Все три ошибки видны в калькуляторах до оплаты счета.
Итог
Данные решают первым вопросом; если они могут выйти наружу, дальше считают объем и людей. Гибридная схема, локальная модель для чувствительных данных и облако для остального, закрывает большинство случаев.