Как выбрать: сначала память, потом число пользователей
Конфигурацию подбирают от модели, а не от бюджета. Сначала посчитайте, сколько видеопамятивидеопамять. Видеопамять (VRAM) это память видеокарты, в которой во время работы лежат веса нейросети и ее промежуточные данные; от ее объема зависит, какая модель поместится на карту. займут веса: число параметров, умноженное на байты на параметр, 2 байта в 16 битах, 1 байт в 8 битах и около 0,55 в 4 битах. Модель на 32 млрд параметров в 4 битах занимает около 18 ГБ и помещается в одну карту на 32 ГБ. Модели на 70 млрд в 4 битах нужно около 39 ГБ: это карта на 96 ГБ или две карты. К весам добавьте память на контекст каждого одновременного пользователя и запас 15%, так считает наш калькулятор памяти. Только после этого выбирайте между игровой, профессиональной и серверной картой.
Конфигурация 1: рабочая станция с одной картой, около 1,1 млн ₽
RTX 5090 на 32 ГБ за 749 990 ₽ на 30.09.2026 плюс платформа с 128 ГБ оперативной памяти и блоком питания от 1 000 Вт, по нашей оценке 300 000–350 000 ₽. Тянет модели до 32 млрд параметров для 1–3 пользователей, 70 млрд с выгрузкой части слоев медленно. Потребление под нагрузкой, по нашей оценке, около 800 Вт: 576 кВт·ч в месяц, около 4 500 ₽ по тарифу для населения Москвы 7,87 ₽. Стоит в офисе, шумит.
Конфигурация 2: две карты по 96 ГБ, около 2,5 млн ₽
Две RTX PRO 6000 по 1,08 млн ₽ плюс серверная платформа, по нашей оценке 300 000–400 000 ₽. По нашему расчету с контекстом 8 192 токенатокен. Токен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель. 192 ГБ видеопамяти хватает модели 70 млрд в 8 битах на 10–20 пользователей с пакетной выдачей; в 16 битах той же модели хватает до 3 пользователей, модели 235 млрд в 4 битах до 7. Потребление до 1 200 Вт на карты плюс 300 Вт платформа: около 1 080 кВт·ч в месяц, 8 500 ₽ по тарифу 7,87 ₽. Размещение в дата-центредата-центр для ИИ. Дата-центр для ИИ это здание с тысячами серверов на видеокартах и других ускорителях, мощным электропитанием и охлаждением, где обучают и запускают нейросети.: от 7 500 ₽ в месяц за сервер до 300 Вт и по 2 000 ₽ за каждые дополнительные 100 Вт, итого около 31 500 ₽ в месяц за 1,5 кВт.
Конфигурация 3: четыре H100, от 10 млн ₽
Четыре H100 SXM5 по 2 287 329 ₽ плюс шасси с объединением карт: от 10 млн ₽ за сервер. 320 ГБ видеопамяти тянут модели до 400 млрд параметров в 4 битах, около 260 ГБ с кэшем и запасом, или модели 70–235 млрд для десятков одновременных диалогов: по нашему расчету с контекстом 8 192 токена около 80 для модели 70 млрд в 4 битах и около 45 для 235 млрд; модели на 671 млрд сюда уже не помещаются. Потребление до 2 800 Вт на карты и около 1 000 Вт на остальное: 2 736 кВт·ч в месяц, 21 500 ₽ электричества по тарифу 7,87 ₽ и около 80 000 ₽ за размещение 4 кВт. По оценке из отраслевой публикации сервер на 1 000 одновременных пользователей стоит порядка 55 млн ₽, а чтобы цена токена оставалась разумной, загрузку GPUGPU. GPU (graphics processing unit) это графический процессор: чип, который выполняет тысячи одинаковых вычислений одновременно, поэтому на нем обучают и запускают нейросети. нужно держать не ниже 80–90%.
Скорость: что получит один пользователь
По замеру 2024 года модель на 8 млрд параметров в 4 битах выдает 127,7 токена в секундутокены в секунду. Токены в секунду это скорость, с которой нейросеть пишет ответ: сколько кусочков текста она выдает за одну секунду. на RTX 4090, 138,3 на A100 и 144,5 на H100. Модель на 70 млрд в 4 битах: 19,1 токена в секунду на двух RTX 4090, 22,1 на A100 и 25 на H100. Вывод для покупки: на модели 8 млрд один сотрудник получает на серверной карте лишь на 8–13% больше скорости, чем на игровой. Серверные карты оправданы там, где много одновременных пользователей и нужна пакетная выдача, а не там, где отвечают одному человеку.
Сколько стоит сервер в месяц целиком
Цена карты это только первая строка. Разложим покупку на 36 месяцев и прибавим электричество при 50% нагрузки, размещение, обслуживание 10% цены в год и долю инженера. По нашему расчету в калькуляторе стоимости выходит: рабочая станция с RTX 5090 около 66 200 ₽ в месяц, сервер с двумя RTX PRO 6000 около 176 400 ₽, сервер с четырьмя H100 около 507 000 ₽. В первых двух суммах электричество занимает 2–4%, главные строки это амортизация и человек. Для сравнения, аренда в российских облаках на 30.09.2026: RTX 4090 от 26 000 ₽ в месяц, RTX PRO 6000 около 150 000 ₽, H100 от 145 000 ₽.
Как это выглядит в российских компаниях
Команда крупного российского разработчика ИИ собрала локального агента на арендованном сервере с одной картой A30 на 24 ГБ: две модели, на 20 и 8 млрд параметров, вместе с памятью на контекст в 65 536 токенов заняли 22,4 ГБ. Режим однопользовательский, и это потолок одной карты. ИТ-подразделение сети строительных магазинов, «Петрович-Тех», сравнило локальную модельлокальная модель. Локальная модель это нейросеть, которая работает на вашем компьютере или сервере, а не в облаке поставщика, поэтому данные никуда не уходят. на 9 млрд параметров в 4 битах на одной видеокарте с двумя облачными: на задачах из двух-трех шагов она справилась не хуже, а на задаче из 15 шагов проверяемого результата не дала ни одна из трех. Т2 в феврале 2026 года объявил тендер на ассистента для 15 разработчиков в закрытом дата-центре ; в описании тендера стоимость GPU-инфраструктуры названа существенной статьей затрат. Вывод: одна карта закрывает одного пользователя или узкую задачу, отделу нужен сервер с запасом памяти.
Что еще войдет в счет
Резервные диски и второй блок питания, ИБП, лицензии на систему мониторинга, запасная карта на замену, время администратора. Правило из практики: сервер без человека, который его ведет, дороже сервера с человеком, потому что простой стоит дороже зарплаты.
Что проверить до покупки
Пять вопросов до счета. Какая модель и в какой разрядности будет работать и сколько людей одновременно. Хватает ли памяти с запасом по расчету, а не по описанию продавца. Есть ли коррекция ошибок памяти, если сервис круглосуточный: производитель указывает ее у RTX PRO 6000, но не у игровых карт. Где сервер будет стоять: рабочая станция слышна в офисе, серверные карты с турбинами размещают в дата-центре. Кто будет вести сервер и что вы делаете, если карта откажет. Если на последний вопрос ответа нет, начните с аренды: месяц аренды дешевле ошибки в покупке.
Мы железо не продаем и комиссий с продавцов не берем: подбираем конфигурацию под вашу задачу по открытым ценам и запускаем на ней пилотного агента за 14 дней, от 149 000 ₽ без стоимости оборудования.