ММООЗЗГГ.ru

Разбор

Локальный или облачный ИИ: пять вопросов, которые решают выбор

7 мин22 источника

Спор «локальный или облачный ИИ» решается не идеологией, а пятью вопросами: можно ли выпускать данные, сколько токенов в месяц, какая нужна задержка, какое качество и кто будет обслуживать сервер. Ниже каждый с цифрой и с примером компании, которая выбрала одну из сторон, а затем третий путь, гибридная схема и проверка выбора за неделю.

На странице · 10 разделов

1. Можно ли выпускать данные наружу

Если в данных исходный код, медкарты, кредитные документы или персональные данные, для которых нет договора поручения с провайдером, ответ нет. Оператор связи потребовал в тендере, чтобы код не покидал его дата-центр; московское здравоохранение развернуло языковую модель локально для медицинских данных; девелопер и банк поставили ИИ-контролера кредитной документации в изолированный контур. По оценке, которую приводит отраслевая публикация, с большинством зарубежных провайдеров договора поручения по 152-ФЗ нет.

Обезличивание помогает не всегда: замена имен на метки вроде user_123 не спасает, если связь с человеком можно восстановить. Безопасные варианты по той же публикации: российская облачная платформа с договором, модель во внутренней инфраструктуре или обезличивание до отправки, при котором связь восстановить нельзя.

2. Сколько токенов в месяц

При 60 млн токенов в месяц облачные модели стоят от 1 013 ₽ до 101 289 ₽ в месяц по ценам на 29.09.2026. Видеокарта на 32 ГБ на 30.09.2026 стоит 749 990 ₽ у одного продавца. По нашему расчету, рабочая станция с этой картой, платформой, электричеством и инженером окупается против флагманов по 101 289 ₽ за 17 месяцев, против средних моделей по 20 258 ₽ никогда: расходы на нее выше счета. Против моделей среднего уровня локальный вариант, по нашему расчету, окупается при сотнях миллионов токенов в месяц; точку считает калькулятор.

3. Какая нужна задержка и доступность

Для автодополнения кода оператор связи вписал в тендер отклик не более 400 мс; локальная модель дает его без зависимости от интернет-канала и лимитов провайдера. Для чат-бота, где клиент готов подождать ответа несколько секунд, облака достаточно.

Доступность зависит не только от канала. Россия не входит в списки поддерживаемых стран у двух крупных зарубежных провайдеров, а один из них с 9 июля 2024 года блокирует трафик из неподдерживаемых стран: для бизнеса это операционный риск, канал может исчезнуть в любой день. Скорость на коротких задачах при этом бывает равной: в тесте сети строительных магазинов двухшаговую задачу все три модели, облачные и локальная, решили за 32–36 секунд.

4. Какое нужно качество

На коротких цепочках из 2–3 шагов локальная модель на 9 млрд параметров не уступила облачным моделям в тесте ИТ-подразделения сети магазинов из 27 прогонов; на цепочке из 15 шагов полностью проверяемого результата не дала ни одна модель. В том же тесте на 15 шагах крупная облачная модель на 235 млрд дала частичный успех в 2 прогонах из 3, локальная на 9 млрд в 1: на длинной цепочке крупная модель в этом тесте справлялась чаще, а крупные модели у себя требуют, по нашему расчету, сервера от 2,5 млн ₽ или облака по 10–50 долларов за миллион выходных токенов у флагманов.

5. Кто будет это обслуживать

Локальный сервер требует человека: медиана зарплаты DevOps-инженера в России 220 000–250 000 ₽ в месяц, в Москве middle до 315 000 ₽. По нашему расчету, часть ставки на обслуживание ИИ-сервера это крупнейшая статья после железа. Облако включает это в цену токена.

Для одного компьютера на 1–3 пользователя отдельный инженер не нужен. Для сервера отдела, по нашему расчету, нужна доля ставки 10–20%. Без человека сервер деградирует: обновление ломает совместимость, карта греется, логи никто не смотрит. Если нанимать некого, разумнее облако или аренда с поддержкой провайдера.

Третий путь: аренда видеокарт в России

Между покупкой сервера и зарубежным API есть аренда видеокарт в российском облаке. На 30.09.2026 агрегатор показывал 41 предложение аренды H100 от 242 ₽ в час, а карты попроще стоят в разы дешевле. Данные остаются в России, железо чужое, окупаемость считать не нужно: платите за часы.

Так поступил производитель косметики: открытая модель Qwen и векторный поиск по каталогу работают на видеокартах российского облака, данные не уходят во внешние сервисы. Аренда хороша для пилота и сезонных пиков, а при круглосуточной нагрузке месяц H100 у первых по цене предложений стоит от 145 000 ₽, и тогда пора сравнить его с покупкой.

Гибридная схема: как она устроена

Между агентами и моделями ставят маршрутизатор с единым интерфейсом. Персональные данные и код всегда идут на локальную модель, цепочки от 10 шагов в облако, ночная пакетная обработка на локальную модель; при отказе одной модели запросы уходят на другую. Перед отправкой в облако маршрутизатор заменяет имена, номера и суммы на метки и возвращает их в ответ.

Пример на 60 млн токенов в месяц по нашему расчету: 80% простых запросов на рабочей станции с видеокартой на 32 ГБ за 66 156 ₽ в месяц с инженером, 20% сложных на облачной модели среднего уровня за 4 052 ₽, итого 70 208 ₽. Весь объем на флагмане стоил бы 101 289 ₽, на средней модели 20 258 ₽. Гибрид дешевле флагмана и дороже среднего облака: его берут ради данных и отказоустойчивости, а деньгами он выигрывает при росте объема.

Как проверить выбор за неделю

Соберите 50 реальных запросов с ожидаемыми ответами. Прогоните их на облачной модели среднего уровня и на открытой модели на 8–32 млрд параметров на арендованной карте, сравните качество и посчитайте токены. Подставьте объем в калькуляторы стоимости и окупаемости.

Если локальный итог выше облачного, а данные могут выходить наружу, ответ облако, и это хороший ответ. Если данные выходить не могут, вопрос только в размере железа. Такую проверку мы проводим в пилоте за 14 дней от 149 000 ₽ на вашем или арендованном железе.

Три ошибки при выборе

Купить железо до пилота: без своих 50 запросов и замера токенов это покупка вслепую. Купить сервер без инженера: через полгода он работает хуже облака, которое заменял. Купить видеокарту впритык под сегодняшнюю модель: следующая может не поместиться, поэтому память берут на ступень выше. Все три ошибки видны в калькуляторах до оплаты счета.

Итог

Данные решают первым вопросом; если они могут выйти наружу, дальше считают объем и людей. Гибридная схема, локальная модель для чувствительных данных и облако для остального, закрывает большинство случаев.

Вопросы и ответы

Можно ли начать с облака и переехать на локальную модель?

Да, если агенты подключены к модели через единый интерфейс: тогда смена модели это настройка, а не новый проект. Мы так и проектируем. Перед переездом прогоните те же 50 запросов на новой модели: качество на вашей задаче может отличаться.

Законно ли использовать зарубежные облачные модели из России?

Россия не входит в списки поддерживаемых стран у двух крупных зарубежных провайдеров, а доступ через посредников нарушает их условия и может закончиться блокировкой аккаунта. Договора поручения по 152-ФЗ с ними нет, поэтому персональные данные туда отправлять нельзя. Для таких данных остаются российское облако с договором или локальная модель.

При каком счете за облако свое железо окупается?

По нашему расчету, от 70 000–100 000 ₽ в месяц или при сотнях миллионов токенов. Mac Studio со 128 ГБ за 886 757 ₽ против облачного счета 20 258 ₽ в месяц не окупается за срок жизни железа, а против счета 101 289 ₽ окупается за 10 месяцев.

Нужен ли локальной модели интернет?

Только чтобы скачать модель и обновления. После установки она работает без внешнего канала, поэтому ее ставят в закрытый контур, как оператор связи, который потребовал в тендере, чтобы код не покидал его дата-центр.

Источники и проверка

Проверено редакцией 29 сентября 2026.

  1. ЦБ РФ, курсы валют на 29.09.2026 (cbr.ru)
  2. Claude Platform, цены API (проверено 29.09.2026) (platform.claude.com)
  3. Sber Developers, тарифы GigaChat API для юрлиц, 16.09.2026 (developers.sber.ru)
  4. kalinkindev.ru, цены YandexGPT API по биллингу Yandex Cloud, 13.09.2026 (kalinkindev.ru)
  5. Регард, GeForce RTX 5090, цены на 29.09.2026 (regard.ru)
  6. Хабр (Slurm), зарплаты DevOps-инженеров, 03.09.2026 (habr.com)
  7. Anti-Malware, 152-ФЗ и нейросети, 17.06.2026 (anti-malware.ru)
  8. Tproger, облачные GPU для ML в 2026 году, 21.05.2026 (tproger.ru)
  9. Цифровые платформы, кейс №3148, февраль 2026: Т2 (Tele2) (platforms.su)
  10. Цифровые платформы, кейс №3570, 2 сентября 2026: Минюст России (platforms.su)
  11. Цифровые платформы, кейс №3509, 2 сентября 2026: Департамент здравоохранения Москвы (platforms.su)
  12. Цифровые платформы, кейс №3502, 2 сентября 2026: Аэропорт Пулково (platforms.su)
  13. Цифровые платформы, кейс №3534, 2 сентября 2026: Агрохолдинг «Степь» (platforms.su)
  14. ComNews, девелопер MR внедрил ГигаЧат в проверку условий проектного финансирования, 15.09.2026, 15 сентября 2026: Девелопер MR (comnews.ru)
  15. Цифровые платформы, кейс №4027, 2 сентября 2026: Фаберлик (platforms.su)
  16. Цифровые платформы, кейс №4085, 2 сентября 2026: Петрович-Тех (platforms.su)
  17. OpenAI, поддерживаемые страны API (проверено 29.09.2026) (developers.openai.com)
  18. Caixin, OpenAI блокирует API-трафик из неподдерживаемых стран с 09.07.2024, 26.06.2024 (caixinglobal.com)
  19. GPU Индекс, аренда H100 в России: 41 предложение, от 242 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  20. GPU Индекс, аренда RTX 4090 в России (проверено 30.09.2026) (gpuindex.ru)
  21. Intelion Cloud, аренда H100/H200 (проверено 29.09.2026) (intelion.cloud)
  22. store-apple.msk.ru, Mac Studio M4 Max 128 ГБ, 29.09.2026 (store-apple.msk.ru)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин

Кейсы по теме: 8

  • Кейс рынка · Россия

    Т2 (Tele2) тендер на ИИ-ассистента разработчика в закрытом ЦОД: 15 разработчиков, отклик не более 400 мс

    В феврале 2026 года оператор разместил тендер на автономного ИИ-ассистента для разработчиков, который разворачивается в закрытом дата-центре компании в Ростове-на-Дону, чтобы исходный код не покидал инфраструктуру. Требования: 15 пользователей, автодополнение с откликом не более 400 мс, шесть языков программирования.

    Связь

    2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Минюст России аватар-юрист с базой федеральных законов, для него обучают локальную языковую модель

    Первый отечественный аватар-юрист распознает разговорную речь и консультирует по правовым вопросам; в базе знаний федеральные законы, нормативные акты и информация с сайта министерства. По состоянию на июль 2026 года специалисты обучают локальную языковую модель, чтобы ускорить работу и улучшить ответы.

    Госсектор

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Департамент здравоохранения Москвы ИИ-помощник для аналитики стационаров на локальной языковой модели: данные не покидают периметр

    В витрины данных единой медицинской системы города встроен ИИ-помощник на локально развернутой большой языковой модели. Локальное развертывание выбрано для работы с чувствительными медицинскими данными без их передачи вовне.

    Госсектор

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Аэропорт Пулково ИИ-плагин безопасной разработки в закрытом контуре: точность более 90% на проверке находок и до 85% на исправлении

    Служба информационной безопасности аэропорта встроила анализ кода в среду разработки, а разбор уязвимостей и исправление кода передала обученному ИИ-плагину, который работает в закрытом контуре без выхода данных наружу. Точность модели более 90% на верификации находок и до 85% на исправлении уязвимостей.

    Промышленность и инфраструктура

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Агрохолдинг «Степь» собственная ИИ-экосистема на локальных нейросетях, чтобы не передавать данные в публичные сервисы

    Холдинг строит ИИ-экосистему на локальных нейросетях, агентах и чат-ботах, чтобы конфиденциальные данные не уходили в публичные сервисы. Реализована синхронизация данных управления стадом с государственной системой, развернут мониторинг правовой информации для бэк-офиса, запущено несколько аналитических проектов.

    Промышленность и инфраструктура

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Девелопер MR ИИ-контролер проектного финансирования в изолированном контуре: время на анализ кредитной документации меньше на 80%

    Девелопер вместе с банком внедрил ИИ-контролера на российской языковой модели для автоматической проверки условий проектного финансирования и мониторинга кредитных обязательств. По данным компании, время на анализ кредитной документации сократилось на 80%. Каждый крупный проект сопровождают сотни страниц кредитной документации и десятки дополнительных соглашений; система собирает мастер-версию каждого договора и ведет единый календарь обязательств.

    Промышленность и инфраструктура

    15 сентября 2026 · источник: comnews.ru

    Читать кейс
  • Кейс рынка · Россия

    Фаберлик нейросетевой поиск по каталогу на локальной модели Qwen и арендованных GPU

    Производитель косметики заменил классический поиск по каталогу нейросетевым: локальная языковая модель Qwen и векторный семантический поиск развернуты на GPU-инфраструктуре российского облака. Модель работает внутри контролируемой инфраструктуры, данные не передаются во внешние сервисы, затраты на обработку запросов под контролем.

    Ритейл и производство

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Петрович-Тех локальная модель на 9 млрд параметров сравнялась с облачными на задачах из 2–3 шагов: 27 прогонов

    ИТ-подразделение сети строительных магазинов сравнило три модели в единой агентной обвязке с 13 виджетами аналитической панели и около 30 инструментами: облачную западную модель, облачную открытую модель на 235 млрд параметров и локальную модель на 9 млрд параметров в 4-битной квантизации на одной видеокарте. Схема: 3 сценария, 3 модели, 3 прогона, 27 запусков.

    Ритейл и производство

    2 сентября 2026 · источник: platforms.su

    Читать кейс
Написать в Telegram