Сервер для нейросети: три типовые конфигурации для задач бизнеса

RTX 5090 на 32 ГБ за 749 990 ₽ на 30.09.2026 плюс платформа с 128 ГБ оперативной памяти и блоком питания от 1 000 Вт, по нашей оценке 300 000–350 000 ₽. Тянет модели до 32 млрд параметров для 1–3 пользователей, 70 млрд с выгрузкой части слоев медленно. Потребление под нагрузкой, по нашей оценке, около 800 Вт: 576 кВт·ч в месяц, около 4 500 ₽ по тарифу для населения Москвы 7,87 ₽. Стоит в офисе, шумит.

Две RTX PRO 6000 по 1,08 млн ₽ плюс серверная платформа, по нашей оценке 300 000–400 000 ₽. По нашему расчету с контекстом 8 192 токена 192 ГБ видеопамяти хватает модели 70 млрд в 8 битах на 10–20 пользователей с пакетной выдачей; в 16 битах той же модели хватает до 3 пользователей, модели 235 млрд в 4 битах до 7. Потребление до 1 200 Вт на карты плюс 300 Вт платформа: около 1 080 кВт·ч в месяц, 8 500 ₽ по тарифу 7,87 ₽. Размещение в дата-центре: от 7 500 ₽ в месяц за сервер до 300 Вт и по 2 000 ₽ за каждые дополнительные 100 Вт, итого около 31 500 ₽ в месяц за 1,5 кВт.

Четыре H100 SXM5 по 2 287 329 ₽ плюс шасси с объединением карт: от 10 млн ₽ за сервер. 320 ГБ видеопамяти тянут модели до 400 млрд параметров в 4 битах, около 260 ГБ с кэшем и запасом, или модели 70–235 млрд для десятков одновременных диалогов: по нашему расчету с контекстом 8 192 токена около 80 для модели 70 млрд в 4 битах и около 45 для 235 млрд; модели на 671 млрд сюда уже не помещаются. Потребление до 2 800 Вт на карты и около 1 000 Вт на остальное: 2 736 кВт·ч в месяц, 21 500 ₽ электричества по тарифу 7,87 ₽ и около 80 000 ₽ за размещение 4 кВт. По оценке из отраслевой публикации сервер на 1 000 одновременных пользователей стоит порядка 55 млн ₽, а чтобы цена токена оставалась разумной, загрузку GPU нужно держать не ниже 80–90%.

Резервные диски и второй блок питания, ИБП, лицензии на систему мониторинга, запасная карта на замену, время администратора. Правило из практики: сервер без человека, который его ведет, дороже сервера с человеком, потому что простой стоит дороже зарплаты.