ММООЗЗГГ.ru

Инструкция

Чек-лист перед покупкой железа для ИИ

7 мин17 источников

Чек-лист перед покупкой железа для ИИ нужен потому, что ошибку в железе не исправить обновлением: Mac Studio стоит от 650 000 ₽, сервер отдела около 2,5 млн ₽, сервер с четырьмя H100 от 10 млн ₽. Ниже пятнадцать вопросов, на которые стоит ответить письменно до оплаты счета, с числами из этого раздела на 29.09.2026. Если на один из них нет ответа, покупку лучше отложить на неделю и закрыть его пробой на арендованной карте.

На странице · 7 разделов

Задача и модель

1. Какая модель прошла экзамен на ваших 50 запросах и на какой квантизации. Экзамен это 50 реальных запросов с ожидаемыми ответами, и он важнее любого рейтинга. Берите наименьшую модель, которая его прошла: она дешевле по памяти и быстрее. Сеть строительных магазинов сравнила три модели за 27 запусков, и локальная модель на 9 млрд в 4 битах на одной видеокарте сравнялась с облачными на задачах из 2–3 шагов.

2. Сколько одновременных пользователей и агентов в пике. От этого зависят и память, и программа выдачи: LM Studio или Ollama для одного человека, vLLM для отдела. Оператор связи вписал в тендер 15 пользователей и отклик не более 400 мс: по такому требованию железо уже можно подобрать.

3. Какая длина контекста: документ на 10 страниц по 1 800 знаков это около 4 500–6 000 токенов у одной из российских облачных моделей, у других моделей замерьте счетчиком провайдера. 4. Есть ли рядом модель зрения или речи: это плюс память. В облаке одна модель принимает картинку, документ и текст, локально это три модели и память под каждую.

Память и скорость

5. Сколько памяти по калькулятору с запасом 15% и с кэшем на всех пользователей: модель 32 млрд на 10 диалогов по 8 000 токенов требует около 43 ГБ, а не 22, как на один диалог. Считается так: веса модели плюс кэш контекста на каждого пользователя, к итогу 15% запаса. У Mac из единой памяти вычитайте 8 ГБ на систему.

6. Влезет ли следующая модель через год: берите память на ступень выше. Карта, которой не хватит памяти под следующую модель, самая частая покупка зря.

7. Замерили ли скорость на арендованной карте за 43–565 ₽ в час при 1, 4 и 16 потоках. Для ориентира: модель на 8 млрд в 4 битах выдает около 128 токенов в секунду на RTX 4090 и около 145 на H100, модель на 70 млрд около 25 на H100. Неделя таких замеров стоит 7 200–40 700 ₽.

Железо и место

8. Питание: RTX 5090 575 Вт, RTX PRO 6000 600 Вт, H100 до 700 Вт, плюс платформа: 200–400 Вт у рабочей станции и до 1 000 Вт у сервера с четырьмя картами. Хватит ли блока питания и розетки, нужна ли трехфазная сеть: для одной-двух карт обычно нет, для сервера с четырьмя серверными картами и ИБП обычно да.

9. Тепло и шум: вся потребленная мощность уходит в тепло, сервер на 3,8 кВт греет как два-три масляных обогревателя, и офисный кондиционер его не вывезет. Рабочая станция в офисе слышна, серверные карты живут в дата-центре от 7 500 ₽ в месяц за сервер до 300 Вт и по 2 000 ₽ за каждые 100 Вт сверх. Mac Studio на 145–270 Вт стоит на столе и не слышен.

10. Гарантия и замена: срок гарантии в счете, замена вне гарантии по цене новой карты 0,54–2,29 млн ₽; есть ли у продавца карты на замену. У части первых RTX 5090, менее 0,5% по заявлению производителя, нашли заводской дефект чипа, и такие карты меняли по гарантии: без гарантии в счете это был бы ваш расход.

Люди и процессы

11. Кто ведет сервер: 10–20% ставки инженера по нашей оценке при медиане 220 000–250 000 ₽, то есть 25 000–60 000 ₽ в месяц, или подрядчик. Для одного Mac или ноутбука хватит сотрудника, который умеет обновлять программы; для сервера отдела нет.

12. План на отказ: запасная карта, договор аренды, переключение на облако для незакрытых данных. Договор аренды заключают заранее, чтобы включить замену за час, а не за неделю: H100 от 242 ₽ в час, RTX 4090 от 43 ₽ в час. По нашему пересчету отчета об обучении на 16 384 картах H100 сервер на 4 карты получает один серьезный сбой примерно раз в полтора года.

13. Регламент обновлений с повторным экзаменом: версии модели и программы выдачи зафиксированы, обновление это отдельное событие с прогоном тех же 50 запросов. 14. Мониторинг температуры, ошибок памяти и времени ответа с первого дня: ошибки памяти в журналах и рост температуры при той же нагрузке первыми показывают, что карта начинает отказывать.

Деньги

15. Точка окупаемости против облака и против аренды по калькулятору: если ее нет в пределах 36 месяцев и данные могут выходить наружу, счет не оплачивать. Mac Studio за 886 757 ₽ против облачного счета 20 258 ₽ в месяц по нашему расчету окупается за 71 месяц, против 101 289 ₽ за 10.

Окупаемость считают по полной месячной стоимости, а не по цене карты: амортизация на 36 месяцев, электричество, размещение, 10% цены железа в год на обслуживание и доля инженера. Если данные не могут покидать периметр компании даже в российское облако, окупаемость перестает быть главным вопросом: тогда сравнивают между собой только варианты своего железа.

Что спросить у продавца или интегратора

До договора попросите письменно пять ответов. Цену за первый год со всеми лицензиями и поддержкой. Конфигурацию железа с ценой каждой позиции. Что происходит при выходе новой модели и кто платит за переход. Кто чинит сервер, за какой срок и за сколько. Три кейса с числами, а не только с названиями компаний: на рынке есть платформы с кейсами без единого числового результата и с ценами только по запросу.

Как пройти чек-лист за неделю

Дни 1–2: соберите 50 запросов и запишите ожидаемые ответы. Дни 3–5: арендуйте карту в российском облаке, поставьте Ollama или vLLM и прогоните запросы на двух-трех открытых моделях на 8–9, 30 и 70 млрд параметров. День 6: подставьте модель, контекст и число пользователей в калькулятор памяти, затем в калькулятор стоимости и окупаемости. День 7: ответьте письменно на 15 вопросов.

Для типовой задачи на модели до 32 млрд пробу можно пропустить: рабочая станция или Mac Studio подойдут почти наверняка. Для сервера от 2 млн ₽ проба обязательна.

Вопросы и ответы

Что чаще всего покупают зря?

Карту с недостаточной памятью под следующую модель и сервер без инженера. Обе ошибки видны в калькуляторах до покупки: первая в калькуляторе памяти с запасом 15%, вторая в полной месячной стоимости, где доля инженера стоит отдельной строкой.

Можно ли купить железо без пробы на аренде?

Можно, если задача типовая и модель до 32 млрд параметров: рабочая станция или Mac Studio подойдут почти наверняка. Для сервера от 2 млн ₽ проба обязательна. Неделя аренды стоит 7 200–40 700 ₽, это около 2% цены такого сервера.

Нужна ли трехфазная сеть?

Для одной-двух карт обычно нет: RTX 5090 берет 575 Вт, платформа рабочей станции еще 200–400 Вт. Для сервера с четырьмя серверными картами и ИБП обычно да, поэтому такой сервер проще сразу разместить в дата-центре.

Что делать, если окупаемости нет?

Если данные можно выпускать, оставайтесь на облаке: при 60 млн токенов в месяц средняя модель стоит около 20 258 ₽. Если данные нельзя отдавать за рубеж, но можно держать в России, подойдут российское облако с договором поручения по 152-ФЗ или аренда GPU. Свое железо нужно, когда данные не могут покидать периметр компании.

Источники и проверка

Проверено редакцией 29 сентября 2026.

  1. Регард, GeForce RTX 5090, цены на 29.09.2026 (regard.ru)
  2. NVIDIA, GeForce RTX 5090: 575 Вт, 32 ГБ GDDR7 (nvidia.com)
  3. NVIDIA, RTX PRO 6000 Blackwell: 96 ГБ, 600 Вт (nvidia.com)
  4. NVIDIA, H100: SXM 80 ГБ до 700 Вт, NVL 94 ГБ 350–400 Вт (nvidia.com)
  5. HOSTKEY, colocation в Москве, 2026 (hostkey.ru)
  6. Хабр (Slurm), зарплаты DevOps-инженеров, 03.09.2026 (habr.com)
  7. Tproger, облачные GPU для ML в 2026 году, 21.05.2026 (tproger.ru)
  8. store-apple.msk.ru, Mac Studio M4 Max 128 ГБ, 29.09.2026 (store-apple.msk.ru)
  9. Sber Developers, подсчет токенов GigaChat: в среднем 3–4 символа на токен, 17.07.2026 (developers.sber.ru)
  10. GPU Индекс, аренда RTX 4090 в России: 173 предложения, от 31,75 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  11. GPU Индекс, аренда H100 в России: 41 предложение, от 242 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  12. Цифровые платформы, кейс №4085, 2 сентября 2026: Петрович-Тех (platforms.su)
  13. Цифровые платформы, кейс №3148, февраль 2026: Т2 (Tele2) (platforms.su)
  14. GPU-Benchmarks-on-LLM-Inference, Llama 3 8B и 70B, май 2024 (github.com)
  15. Tom's Hardware, NVIDIA: дефект менее 0,5% RTX 5090, без влияния на задачи ИИ, 22.02.2025 (tomshardware.com)
  16. Tom's Hardware, сбои при обучении Llama 3 на 16 384 H100, 2024 (tomshardware.com)
  17. Apple Support, энергопотребление Mac Studio (support.apple.com)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин
Написать в Telegram