ММООЗЗГГ.ru

Разбор

ИИ на своих серверах (on-premise): три уровня и что выбрать

6 мин27 источников

ИИ на своих серверах (on-premise) означает, что модель работает на вашем железе, а сеть при этом может быть открытой: обновления и внешние источники доступны. Ниже три уровня по числу пользователей, от компьютера за 886 757 ₽ до сервера от 10 млн ₽, с расходами в месяц, кто на каком уровне работает и когда свое железо выгоднее облака.

На странице · 9 разделов

Чем отличается

От закрытого контура: есть интернет, значит проще обновлять и можно гибридно ходить в облако для обезличенных задач; требования безопасности мягче. От аренды GPU: железо ваше, против аренды окупается только при высокой постоянной загрузке, срок покажет калькулятор окупаемости; требует инженера и места. От российского облака: контур ваш, третьих лиц нет, договор поручения не нужен.

Когда свои серверы выгоднее облака

Свое железо начинает окупаться при сотнях миллионов токенов в месяц или при облачном счете от 70 000–100 000 ₽ в месяц. По нашему расчету Mac Studio за 886 757 ₽ против облачного счета 101 289 ₽ в месяц окупается за 10 месяцев, против счета 20 258 ₽ за 71 месяц. Правило покупки: если точки окупаемости нет в пределах 36 месяцев, а данные могут выходить наружу, счет за железо не оплачивайте.

Второй довод не про деньги. Россия не входит в список поддерживаемых стран у двух крупнейших зарубежных провайдеров, один из них блокирует трафик из таких стран с 9 июля 2024 года, а доступ через посредников нарушает его условия. Канал к зарубежной модели может закрыться в любой день, модель на своих серверах никто не отключит.

Уровень 1: один компьютер, 1–3 пользователя

Mac Studio M4 Max со 128 ГБ за 886 757 ₽ или рабочая станция с RTX 5090 около 1,1 млн ₽. Модели до 70 млрд на Mac и до 32 млрд на RTX 5090, LM Studio или Ollama, около 32 400–66 200 ₽ в месяц полной стоимости по нашему расчету. ИТ-руководитель банка гоняет персонального агента на Mac при скорости около 70 токенов в секунду.

Уровень 2: сервер отдела, 10–20 пользователей

Сервер с двумя RTX PRO 6000 по 96 ГБ около 2,5 млн ₽, vLLM, около 176 000 ₽ в месяц с размещением и инженером по нашему расчету. Модели 70 млрд в 16 битах или 235 млрд в 4 битах, очередь агентов. Юридический департамент ИТ-холдинга на своей модели сократил согласование договоров с двух недель до трех дней.

Уровень 3: серверные карты, сотни пользователей

Сервер с четырьмя H100 от 10 млн ₽, около 507 000 ₽ в месяц по нашему расчету, или несколько таких серверов. Банк на собственных моделях решает около 45% обращений без оператора и оценивает снижение затрат на поддержку минимум на 25%. По оценке из отраслевой публикации, сервер на 1 000 одновременных пользователей стоит порядка 55 млн ₽ и окупается при загрузке 80–90%.

Платформа или сборка

Интеграторы продают локальный ИИ как платформу с интерфейсом, конвейерами и правами доступа; так один из крупных российских интеграторов представил платформу для развертывания моделей на инфраструктуре заказчика. Сборка из открытых компонентов дешевле в лицензиях и требует инженера. Мы собираем из открытых компонентов и передаем вашему инженеру с документацией.

Из чего складывается стоимость владения

Цена железа только первая строка. В нашем калькуляторе она делится на 36 месяцев, к ней добавляются электричество, размещение, обслуживание и доля инженера. Одна RTX 5090 под круглосуточной нагрузкой расходует около 3 260 ₽ электричества в месяц по тарифу 7,87 ₽ за кВт·ч. Размещение в дата-центре стоит от 7 500 ₽ за сервер до 300 Вт и по 2 000 ₽ за каждые следующие 100 Вт. Обслуживание по практическому правилу 10% цены железа в год.

Самая заметная строка у сервера отдела это люди: 10–20% ставки инженера по эксплуатации при медиане 220 000–250 000 ₽ в месяц, то есть 25 000–60 000 ₽. Резерв на случай отказа карты дешевле всего держать через аренду: H100 от 242 ₽ в час, RTX 4090 от 43 ₽ в час в российских облаках с почасовой оплатой. Договор аренды заключите заранее, чтобы включить резерв за час, а не за неделю.

Что дают свои серверы по закону

По 152-ФЗ персональные данные не уходят к третьим лицам и за рубеж: трансграничной передачи нет, договор поручения с провайдером модели не нужен. Обязанности оператора данных, включая уведомление Роскомнадзора, остаются прежними. С 1 сентября 2026 года действует закон 243-ФЗ о статусах суверенной и национальной модели, критерии вступят в силу 1 марта 2027 года; модель на своих серверах с данными в России может претендовать на статус национальной. Юридическое заключение дает ваш юрист, мы отвечаем за архитектуру и документацию.

С чего начать

Соберите 50 реальных запросов с ожидаемыми ответами: это экзамен для любой модели. Арендуйте карту в российском облаке и прогоните запросы на двух-трех открытых моделях на 8–9, 30 и 70 млрд параметров: неделя проб стоит 7 200–40 700 ₽ и заменяет покупку вслепую на миллион. Выберите наименьшую модель, которая прошла экзамен, и уже под нее подберите уровень железа по калькулятору памяти.

Агентов подключайте через единый интерфейс модели, тогда переезд с облака на свои серверы и обратно станет настройкой, а не новым проектом. Пилотного агента мы собираем за 14 дней от 149 000 ₽, ИИ-отдел из 3–5 агентов за 4–6 недель от 390 000 ₽. Железо покупаете вы по нашей спецификации, комиссий с продавцов мы не берем.

Вопросы и ответы

Нужен ли свой дата-центр?

Для уровней 1 и 2 нет: Mac стоит на столе, сервер отдела можно разместить в коммерческом дата-центре от 7 500 ₽ в месяц за сервер до 300 Вт. Сервер уровня 3 на 3,8 кВт по тому же тарифу обойдется примерно в 77 500 ₽ в месяц по нашему расчету; закрытый контур требует отдельной сети без интернета.

Как считать окупаемость?

Калькулятор точки окупаемости: цена железа, расходы в месяц, счет за облако. Для уровня 1 окупаемость есть только против дорогих моделей, для крупного сервера, по оценке из отраслевой публикации, при загрузке 80–90%.

Что выгоднее: свои серверы или аренда GPU?

Аренда H100 в российском облаке стоит около 145 000–246 000 ₽ в месяц, одна такая карта в покупку 2,29 млн ₽ без сервера. При сезонной нагрузке выигрывает аренда: два месяца H100 в сезон обходятся в 290 000–492 000 ₽, и при пике два месяца в году покупка проигрывает 5 лет. Свое железо выгоднее при высокой постоянной загрузке.

Какую модель ставить на свои серверы?

Открытую с русским языком: российскую модель на 32 млрд по лицензии Apache 2.0 или российскую модель на 8 млрд с открытыми весами. В 4 битах модель на 8 млрд занимает около 5 ГБ памяти, на 32 млрд около 20 ГБ, на 70 млрд около 40 ГБ. Выбирайте по своим 50 запросам, а не по рейтингам.

Сколько времени занимает установка?

На Mac или ноутбуке 10–30 минут. На сервере с vLLM день-два с настройкой и тестами, если инженер уже работал с видеокартами. Весь путь от политики данных до работающих агентов по нашей оценке занимает 4–8 недель плюс срок поставки железа.

Источники и проверка

Проверено редакцией 29 сентября 2026.

  1. store-apple.msk.ru, Mac Studio M4 Max 128 ГБ, 29.09.2026 (store-apple.msk.ru)
  2. Регард, GeForce RTX 5090, цены на 29.09.2026 (regard.ru)
  3. iXBT, RTX PRO 6000 Blackwell 96 ГБ за 1,08 млн ₽ в DNS, 02.02.2026 (ixbt.com)
  4. Servermall, NVIDIA H100 SXM5 80 ГБ, цена на 29.09.2026 (servermall.ru)
  5. HOSTKEY, colocation в Москве, 2026 (hostkey.ru)
  6. ComNews, локальные ИИ и стоимость автоматизации, 19.02.2026 (comnews.ru)
  7. Хабр (Slurm), зарплаты DevOps-инженеров, 03.09.2026 (habr.com)
  8. Цифровые платформы, кейс №2447, октябрь 2025: Т-Банк (platforms.su)
  9. Цифровые платформы, кейс №3855, 2 сентября 2026: Т-Технологии (platforms.su)
  10. Цифровые платформы, кейс №4067, 2 сентября 2026: Альфа-Банк, ИТ-руководитель (platforms.su)
  11. Цифровые платформы, кейс №2929, 2025: ИТ-холдинг Т1 (platforms.su)
  12. Цифровые платформы, кейс №3475, 2 сентября 2026: НСИС, оператор АИС страхования (platforms.su)
  13. Цифровые платформы, кейс №3661, 2 сентября 2026: Digital Sector и заказчик из ИТ-инфраструктуры (platforms.su)
  14. Цифровые платформы, кейс №4084, 2 сентября 2026: VK Tech (platforms.su)
  15. Цифровые платформы, кейс №2874, 2025: ЛАНИТ (platforms.su)
  16. Claude Platform, поддерживаемые регионы (проверено 29.09.2026) (platform.claude.com)
  17. OpenAI, поддерживаемые страны API (проверено 29.09.2026) (developers.openai.com)
  18. Caixin, OpenAI блокирует API-трафик из неподдерживаемых стран с 09.07.2024, 26.06.2024 (caixinglobal.com)
  19. CNews, какие модели ИИ получат статус суверенных, 28.09.2026 (corp.cnews.ru)
  20. Anti-Malware, 152-ФЗ и нейросети, 17.06.2026 (anti-malware.ru)
  21. RusCable, тарифы на электроэнергию в Москве с 01.01.2026 (ruscable.ru)
  22. GPU Индекс, аренда H100 в России: 41 предложение, от 242 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  23. GPU Индекс, аренда RTX 4090 в России: 173 предложения, от 31,75 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  24. Intelion Cloud, аренда H100/H200 (проверено 29.09.2026) (intelion.cloud)
  25. iXBT, Т-Банк выпустил T-Pro 2.0 (32B, Apache 2.0), 18.07.2025 (ixbt.com)
  26. Яндекс, открытые веса YandexGPT 5 Lite 8B, 25.02.2025 (yandex.ru)
  27. Claude Platform, цены API (проверено 29.09.2026) (platform.claude.com)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин

Кейсы по теме: 8

  • Кейс рынка · Россия

    Т-Банк собственные LLM решают 45% обращений, по оценке затраты на поддержку ниже минимум на 25% в год

    Банк встроил в чат-бот собственные языковые модели семейства Gen-T: около 45% обращений клиентов решаются без оператора. В октябре 2025 года запущены ИИ-копайлоты для операторов первой линии, ими ежедневно пользуются более 90% сотрудников поддержки. Модели развернуты в периметре банка, данные вовне не передаются.

    Банки и финансы

    источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Т-Технологии ИИ-ассистент для задач с деньгами на собственных моделях Gen-T, бета с 20 июля 2026

    Группа разработала ИИ-ассистента для задач, связанных с деньгами и покупками, на собственных больших языковых моделях семейства Gen-T. Чтобы избежать выдумок, система опирается на верифицированные источники данных, а не только на знания модели. Бета представлена 20 июля 2026 года, полноценный запуск запланирован на осень.

    Банки и финансы

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Альфа-Банк, ИТ-руководитель локальный агент на модели Qwen 3.6-35B-A3B: около 70 токенов в секунду на Mac

    Автономный рабочий агент работает на локально развернутой модели с 35 млрд параметров и примерно 3 млрд активных на токен через LM Studio, скорость около 70 токенов в секунду на Mac. Сначала агент запускался в Docker на Mac, затем переехал на виртуальную машину, что стало переломным моментом по удобству.

    Банки и финансы

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    ИТ-холдинг Т1 согласование договоров за 3 дня вместо двух недель, затраты на сравнение документов ниже на 40%

    Юридический департамент холдинга, более 70 юристов, больше года обучал собственную языковую модель на юридических данных компании. Согласование договоров сократилось с двух недель до трех дней, сравнение двух версий документа выполняется в пять раз быстрее, чем вручную.

    ИТ-компании

    источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    НСИС, оператор АИС страхования обработка обращений в 20 раз быстрее на локальной LLM, рост обращений в 1,5 раза без найма

    Оператор национальной страховой информационной системы развернул большую языковую модель локально и построил на ней три контура: автоматическую обработку обращений с множественными полями, RAG-сервис технической поддержки на документах компании и ИИ-агентов в процессе разработки, включая автоматический код-ревью.

    ИТ-компании

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Digital Sector и заказчик из ИТ-инфраструктуры ИИ-агент анализа договоров в закрытом контуре заказчика; во внутреннем тестировании интегратора агенты высвободили 20% времени команды

    Интегратор реализовал ИИ-агента для первичного анализа договоров в закрытом контуре заказчика, который проектирует и поставляет ИТ-инфраструктуру: агент извлекает и сопоставляет данные, выявляет расхождения и готовит результат для специалиста. Агентов интегратор внедрил и в собственные процессы тестирования: высвобождено 20% рабочего времени команды за спринт.

    ИТ-компании

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    VK Tech две модели уместились в 22,4 ГБ из 24 ГБ видеопамяти при контексте 65 536 токенов

    Команда собрала локального ИИ-агента в закрытом контуре на связке Ollama и агентной обвязки на арендованном GPU-сервере с картой NVIDIA A30 на 24 ГБ. Модели: gpt-oss 20b (13 ГБ) для текста и инструментов и qwen3-vl 8b (6,1 ГБ) для изображений; вместе с KV-кэшем на контекст 65 536 токенов занято 22,4 ГБ.

    ИТ-компании

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    ЛАНИТ сбор требований в 4 раза быстрее, время поиска документов на 66% меньше на платформе локальных LLM

    Группа разработала платформу для локального развертывания больших языковых моделей на инфраструктуре заказчика: чат и сложные конвейеры обработки документов, аудио и изображений. Дочерняя компания создала собственную модель, дообученную на русскоязычных данных, и пилотирует ее в CRM-, SRM- и HRM-проектах и корпоративных чат-ботах.

    ИТ-компании

    источник: platforms.su

    Читать кейс
Написать в Telegram