ММООЗЗГГ.ru

Разбор

Сервер для нейросети: три типовые конфигурации для задач бизнеса

7 мин17 источников

Чтобы поставить локальную модель, не нужно проектировать кластер: сервер для нейросети можно собрать по одной из трех типовых схем. Ниже они с ценами компонентов на 29.09.2026: что тянут, во сколько обходятся в месяц с электричеством и размещением и как выбрать свою. Итоговые суммы это наши оценки по ценам компонентов.

На странице · 9 разделов

Как выбрать: сначала память, потом число пользователей

Конфигурацию подбирают от модели, а не от бюджета. Сначала посчитайте, сколько видеопамяти займут веса: число параметров, умноженное на байты на параметр, 2 байта в 16 битах, 1 байт в 8 битах и около 0,55 в 4 битах. Модель на 32 млрд параметров в 4 битах занимает около 18 ГБ и помещается в одну карту на 32 ГБ. Модели на 70 млрд в 4 битах нужно около 39 ГБ: это карта на 96 ГБ или две карты. К весам добавьте память на контекст каждого одновременного пользователя и запас 15%, так считает наш калькулятор памяти. Только после этого выбирайте между игровой, профессиональной и серверной картой.

Конфигурация 1: рабочая станция с одной картой, около 1,1 млн ₽

RTX 5090 на 32 ГБ за 749 990 ₽ на 30.09.2026 плюс платформа с 128 ГБ оперативной памяти и блоком питания от 1 000 Вт, по нашей оценке 300 000–350 000 ₽. Тянет модели до 32 млрд параметров для 1–3 пользователей, 70 млрд с выгрузкой части слоев медленно. Потребление под нагрузкой, по нашей оценке, около 800 Вт: 576 кВт·ч в месяц, около 4 500 ₽ по тарифу для населения Москвы 7,87 ₽. Стоит в офисе, шумит.

Конфигурация 2: две карты по 96 ГБ, около 2,5 млн ₽

Две RTX PRO 6000 по 1,08 млн ₽ плюс серверная платформа, по нашей оценке 300 000–400 000 ₽. По нашему расчету с контекстом 8 192 токена 192 ГБ видеопамяти хватает модели 70 млрд в 8 битах на 10–20 пользователей с пакетной выдачей; в 16 битах той же модели хватает до 3 пользователей, модели 235 млрд в 4 битах до 7. Потребление до 1 200 Вт на карты плюс 300 Вт платформа: около 1 080 кВт·ч в месяц, 8 500 ₽ по тарифу 7,87 ₽. Размещение в дата-центре: от 7 500 ₽ в месяц за сервер до 300 Вт и по 2 000 ₽ за каждые дополнительные 100 Вт, итого около 31 500 ₽ в месяц за 1,5 кВт.

Конфигурация 3: четыре H100, от 10 млн ₽

Четыре H100 SXM5 по 2 287 329 ₽ плюс шасси с объединением карт: от 10 млн ₽ за сервер. 320 ГБ видеопамяти тянут модели до 400 млрд параметров в 4 битах, около 260 ГБ с кэшем и запасом, или модели 70–235 млрд для десятков одновременных диалогов: по нашему расчету с контекстом 8 192 токена около 80 для модели 70 млрд в 4 битах и около 45 для 235 млрд; модели на 671 млрд сюда уже не помещаются. Потребление до 2 800 Вт на карты и около 1 000 Вт на остальное: 2 736 кВт·ч в месяц, 21 500 ₽ электричества по тарифу 7,87 ₽ и около 80 000 ₽ за размещение 4 кВт. По оценке из отраслевой публикации сервер на 1 000 одновременных пользователей стоит порядка 55 млн ₽, а чтобы цена токена оставалась разумной, загрузку GPU нужно держать не ниже 80–90%.

Скорость: что получит один пользователь

По замеру 2024 года модель на 8 млрд параметров в 4 битах выдает 127,7 токена в секунду на RTX 4090, 138,3 на A100 и 144,5 на H100. Модель на 70 млрд в 4 битах: 19,1 токена в секунду на двух RTX 4090, 22,1 на A100 и 25 на H100. Вывод для покупки: на модели 8 млрд один сотрудник получает на серверной карте лишь на 8–13% больше скорости, чем на игровой. Серверные карты оправданы там, где много одновременных пользователей и нужна пакетная выдача, а не там, где отвечают одному человеку.

Сколько стоит сервер в месяц целиком

Цена карты это только первая строка. Разложим покупку на 36 месяцев и прибавим электричество при 50% нагрузки, размещение, обслуживание 10% цены в год и долю инженера. По нашему расчету в калькуляторе стоимости выходит: рабочая станция с RTX 5090 около 66 200 ₽ в месяц, сервер с двумя RTX PRO 6000 около 176 400 ₽, сервер с четырьмя H100 около 507 000 ₽. В первых двух суммах электричество занимает 2–4%, главные строки это амортизация и человек. Для сравнения, аренда в российских облаках на 30.09.2026: RTX 4090 от 26 000 ₽ в месяц, RTX PRO 6000 около 150 000 ₽, H100 от 145 000 ₽.

Как это выглядит в российских компаниях

Команда крупного российского разработчика ИИ собрала локального агента на арендованном сервере с одной картой A30 на 24 ГБ: две модели, на 20 и 8 млрд параметров, вместе с памятью на контекст в 65 536 токенов заняли 22,4 ГБ. Режим однопользовательский, и это потолок одной карты. ИТ-подразделение сети строительных магазинов, «Петрович-Тех», сравнило локальную модель на 9 млрд параметров в 4 битах на одной видеокарте с двумя облачными: на задачах из двух-трех шагов она справилась не хуже, а на задаче из 15 шагов проверяемого результата не дала ни одна из трех. Т2 в феврале 2026 года объявил тендер на ассистента для 15 разработчиков в закрытом дата-центре ; в описании тендера стоимость GPU-инфраструктуры названа существенной статьей затрат. Вывод: одна карта закрывает одного пользователя или узкую задачу, отделу нужен сервер с запасом памяти.

Что еще войдет в счет

Резервные диски и второй блок питания, ИБП, лицензии на систему мониторинга, запасная карта на замену, время администратора. Правило из практики: сервер без человека, который его ведет, дороже сервера с человеком, потому что простой стоит дороже зарплаты.

Что проверить до покупки

Пять вопросов до счета. Какая модель и в какой разрядности будет работать и сколько людей одновременно. Хватает ли памяти с запасом по расчету, а не по описанию продавца. Есть ли коррекция ошибок памяти, если сервис круглосуточный: производитель указывает ее у RTX PRO 6000, но не у игровых карт. Где сервер будет стоять: рабочая станция слышна в офисе, серверные карты с турбинами размещают в дата-центре. Кто будет вести сервер и что вы делаете, если карта откажет. Если на последний вопрос ответа нет, начните с аренды: месяц аренды дешевле ошибки в покупке.

Мы железо не продаем и комиссий с продавцов не берем: подбираем конфигурацию под вашу задачу по открытым ценам и запускаем на ней пилотного агента за 14 дней, от 149 000 ₽ без стоимости оборудования.

Вопросы и ответы

Можно ли собрать сервер из нескольких игровых карт?

Можно для одной команды, две RTX 4090 дают 19 токенов в секунду на модели 70 млрд в 4 битах по замеру 2024 года. Для круглосуточного сервиса игровые карты, у которых производитель не указывает коррекцию ошибок памяти, рискованны.

Сколько служит сервер?

Считайте 3 года амортизации: за это время меняются и модели, и карты. Калькулятор считает по 36 месяцам по умолчанию; для игровых карт под круглосуточной нагрузкой, по нашей оценке, честнее 24 месяца.

Какой сервер нужен для модели на 70 млрд параметров?

В 4 битах ее веса занимают около 39 ГБ, поэтому одной карты на 32 ГБ мало. На 3–5 пользователей подойдет RTX PRO 6000 на 96 ГБ или две карты по 32 ГБ; двух карт по 24 ГБ, по нашему расчету, не хватит. Для 10–20 пользователей той же модели в 8 битах нужен сервер с двумя картами по 96 ГБ.

Что выгоднее: купить сервер или арендовать?

Зависит от загрузки. При круглосуточной стабильной нагрузке покупка H100 сравнивается с арендой, по нашему расчету в калькуляторе окупаемости, за 18–54 месяца с учетом сервера, электричества и инженера. Для пилота, подбора модели и неравномерной нагрузки дешевле аренда: на 30.09.2026 H100 от 242 ₽ в час, RTX 4090 от 43 ₽ в час в российских облаках.

Можно ли поставить сервер для нейросети в офисе?

Рабочую станцию с одной картой можно: под нагрузкой она берет, по нашей оценке, около 800 Вт и шумит. Сервер с серверными картами на несколько киловатт греет помещение как несколько обогревателей, поэтому его размещают в дата-центре: от 7 500 ₽ в месяц за сервер до 300 Вт и по 2 000 ₽ за каждые 100 Вт сверх.

Источники и проверка

Проверено редакцией 29 сентября 2026.

  1. Регард, GeForce RTX 5090, цены на 29.09.2026 (regard.ru)
  2. iXBT, RTX PRO 6000 Blackwell 96 ГБ за 1,08 млн ₽ в DNS, 02.02.2026 (ixbt.com)
  3. Servermall, NVIDIA H100 SXM5 80 ГБ, цена на 29.09.2026 (servermall.ru)
  4. NVIDIA, GeForce RTX 5090: 575 Вт, 32 ГБ GDDR7 (nvidia.com)
  5. NVIDIA, RTX PRO 6000 Blackwell: 96 ГБ, 600 Вт (nvidia.com)
  6. NVIDIA, H100: SXM 80 ГБ до 700 Вт, NVL 94 ГБ 350–400 Вт (nvidia.com)
  7. RusCable, тарифы на электроэнергию в Москве с 01.01.2026 (ruscable.ru)
  8. HOSTKEY, colocation в Москве, 2026 (hostkey.ru)
  9. ComNews, локальные ИИ и стоимость автоматизации, 19.02.2026 (comnews.ru)
  10. GPU-Benchmarks-on-LLM-Inference, Llama 3 8B и 70B, май 2024 (github.com)
  11. GPU-Benchmarks-on-LLM-Inference, Llama 3 8B и 70B, май 2024 (github.com)
  12. GPU Индекс, аренда RTX 4090 в России: 173 предложения, от 31,75 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  13. GPU Индекс, аренда RTX PRO 6000 96 ГБ в России: 39 предложений, от 134,75 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  14. GPU Индекс, аренда H100 в России: 41 предложение, от 242 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  15. Цифровые платформы, кейс №4084: VK Tech, локальный агент на карте A30 24 ГБ (platforms.su)
  16. Цифровые платформы, кейс №4085: Петрович-Тех, локальная модель 9B против облачных (platforms.su)
  17. Цифровые платформы, кейс №3148: Т2, тендер на ИИ-ассистента в закрытом ЦОД (platforms.su)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин
Написать в Telegram