Mac или видеокарта: что брать для локальной модели

Mac: единая память 96, 128, 256, 512 ГБ в одном корпусе, модель 671 млрд параметров в 4 битах помещается в 512 ГБ. Видеокарты: 24 ГБ у RTX 4090, 32 ГБ у RTX 5090, 96 ГБ у RTX PRO 6000, 80 ГБ у A100 и H100; больше только объединением карт. За объем памяти в одном устройстве Mac побеждает без вариантов.

Генерация в 4 битах: Mac на модели 7 млрд дает M4 Max 83,1 токена в секунду, M5 Max 119,9, M3 Ultra 92,1; карты на модели 8 млрд дают RTX 4090 127,7, A100 138,3, H100 144,5 (разные замеры, модели близкого размера). Для одного пользователя разница небольшая. Обработка длинного запроса: у видеокарт в разы быстрее; на Mac Studio модель 671 млрд читает 8 000 токенов 888 секунд. Десятки параллельных пользователей: здесь, по нашей оценке, сильнее видеокарта с пакетной выдачей запросов; суммарную скорость на своей нагрузке замерьте до покупки.

Mac Studio M4 Max 128 ГБ: 886 757 ₽. M3 Ultra 96 ГБ: 650 797 ₽. M3 Ultra 512 ГБ с 4 ТБ: 3 155 392 ₽. RTX 5090 32 ГБ: 639 990–654 990 ₽ плюс платформа 300 000–350 000 ₽ по нашей оценке. RTX 4090 24 ГБ: 488 150 ₽ в июле 2026 года, на 30.09.2026 у продавца из источника ее нет. RTX PRO 6000 96 ГБ: 1,08 млн ₽. A100 80 ГБ: 1 081 772 ₽. H100 80 ГБ: 2 287 329 ₽. За гигабайт памяти Mac дешевле: около 6 200–6 900 ₽ за ГБ против 11 250 ₽ у RTX PRO 6000 и 20 200 ₽ у RTX 5090 без платформы. При многих пользователях, по нашей оценке, выигрывает видеокарта за счет пакетной выдачи запросов.

Mac Studio M4 Max 145 Вт максимум, M3 Ultra 270 Вт, стоит на столе, не слышен, обновления ставит сотрудник. Рабочая станция с RTX 5090 по нашему расчету около 825 Вт (карта 575 Вт и платформа), слышна в офисе. Серверные карты с турбинами живут в дата-центре от 7 500 ₽ в месяц за сервер до 300 Вт и, по нашей оценке, требуют инженера на 10–20% ставки. При отказе карта вне гарантии стоит 0,6–2,3 млн ₽; Mac ремонтируется целиком.

По нашей оценке: один-три пользователя, модели до 70 млрд, тишина и простота: Mac Studio с 128 ГБ. Очень большие модели для одного пользователя, 235–671 млрд: Mac Studio с 512 ГБ за 3,16 млн ₽; модель 235 млрд в 4 битах помещается и на двух картах по 96 ГБ (около 2,5 млн ₽ с платформой), а 671 млрд требует больше 400 ГБ видеопамяти. Отдел из 10–20 человек и агенты с очередью: сервер с одной-двумя картами по 96 ГБ и vLLM. Сотни пользователей: серверные карты в дата-центре или аренда. Разработка и тесты перед покупкой: ноутбук с 36–64 ГБ.