Локальный ИИ или облако: расчет, через сколько месяцев окупится свое железо

Месяцев до окупаемости: цена железа, деленная на разницу между счетом за облако и расходами на локальный вариант в месяц без амортизации. Если расходы на локальный вариант выше облачного счета, окупаемости нет: облако дешевле при любом сроке. Калькулятор подставляет цену и расходы из калькулятора локального ИИ и счет из калькулятора API, любое поле можно ввести вручную.

Mac Studio M4 Max за 886 757 ₽ с расходами 7 800 ₽ в месяц против сценария с 60 млн токенов: на Sonnet 5.5 счет 20 258 ₽, окупаемость 72 месяца, дольше жизни железа; на GigaChat Pro 30 000 ₽, 40 месяцев; на YandexGPT Pro 72 000 ₽, 14 месяцев; на Fable 5.1 101 289 ₽, 10 месяцев. Рабочая станция с RTX 5090 за 1 074 990 ₽ с расходами 36 300 ₽ вместе с инженером против Fable 5.1: 17 месяцев. Сервер с двумя RTX PRO 6000 за 2,51 млн ₽ с расходами 107 000 ₽ окупается за 36 месяцев только при облачном счете выше 176 400 ₽ в месяц, то есть от 105 млн токенов в месяц на Fable 5.1 при том же соотношении входа и выхода.

Деньгами локальный вариант побеждает в трех случаях: объем в сотни миллионов токенов в месяц, дорогие облачные модели или российские облачные модели по 0,5–1,2 ₽ за 1 000 токенов, и задача, которую решает открытая модель до 70 млрд параметров. Если вы на дешевых моделях с малым объемом, свое железо оправдано только данными, задержкой или независимостью от провайдера, и калькулятор это покажет отрицательной разницей.

Качество: локальная модель на 9 млрд параметров не уступила облачным на цепочках из 2–3 шагов в тесте сети магазинов, а на цепочке из 15 шагов полностью проверяемого результата не дала ни одна из трех моделей; проверьте свою задачу до покупки. Рост объема: облачный счет растет линейно с токенами, локальный нет, пока хватает карты. Курс: счет в долларах меняется вместе с курсом ЦБ, введите свой прогноз. Срок жизни железа: в расчете карты служат 3 года, как срок амортизации, после чего модель следующего поколения может не поместиться.

Аренда GPU в российском облаке: H100 от 145 000 ₽ в месяц, RTX 4090 от 26 000 ₽. Данные в России, железо чужое, окупаемости считать не нужно. Калькулятор показывает аренду третьей строкой рядом с покупкой и облачным API.