Расходы на работу агента: облачная модель или свой сервер

Токентокен Токен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель. Подробнее в словаре это кусок слова, которым модель считает текст. Облачные модели берут плату отдельно за токены, которые читают (вход), и за токены, которые пишут (выход), и выход стоит в несколько раз дороже.

Агент тратит больше токенов, чем кажется по длине ответа. По документации Anthropic, на каждом новом шаге модель снова получает всю историю диалога, и в счет входят инструкция агента, сообщения, результаты инструментов, документы и описания самих инструментов.

Поэтому каждый шаг агента дороже предыдущего. Агент, который за один диалог 5 раз обращается к CRM и базе знанийбаза знаний для ИИ База знаний для ИИ это отобранные и подготовленные документы компании, по которым ИИ-ассистент ищет ответы: регламенты, инструкции, каталог, ответы на частые вопросы. Подробнее в словаре, 5 раз отправляет модели растущую историю, а длинная инструкция и найденные фрагменты базы знаний повторяются в каждом запросе.

Подключение инструментов тоже добавляет токены: у Sonnet 5.5 служебная инструкция для инструментов занимает 286 токенов в каждом запросе. Главные статьи расхода: длина инструкции, объем найденных фрагментов и число шагов в диалоге.

Каждый ответ облачной модели сообщает в поле «usage» (расход), сколько токенов он потратил. Числа из журнала за неделю работы точнее любой оценки по длине текста.

В облаке вы платите только за токены, без покупки железа. Разброс цен большой: GPT-6 Luna стоит 0,1 $ на входе и 0,5 $ на выходе за 1 млн токенов, Sonnet 5.5 2 $ и 10 $, Opus 5.5 4 $ и 20 $.

Два способа снизить счет описаны в ценах Anthropic. Пакетный режим, когда ответ не нужен сразу, дает скидку 50% на вход и выход. Кэш, то есть повторное использование одинакового начала запроса, снижает цену этой части до 10% от цены входа, у Sonnet 5.5 и Opus 5.5 до 5%.

Для агента кэш особенно выгоден: инструкция и описания инструментов одинаковы в каждом запросе. Пакетный режим подходит для ночной обработки: разбор писем, проверка документов, отчеты к утру.

Ограничения облака не в цене. Данные уходят провайдеру, а когда агент работает с данными клиентов, это вопрос закона: как его решаем мы, описано на странице о безопасности данных.

Сравнить счет у разных моделей на своих объемах можно в калькуляторе облачного API: он переводит доллары в рубли по курсу ЦБ.

На своем сервере работают открытые моделимодель с открытыми весами Модель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании. Подробнее в словаре: их веса можно скачать и запустить у себя. DeepSeek выпустила R1 с открытыми весами на лицензии MIT 20 января 2025 года, семейство Qwen 3 вышло 29 апреля 2025 года на лицензии Apache 2.0.

Счета за токены здесь нет. Есть покупка или аренда железа, электричество, место в серверной и время инженера, и эти расходы одинаковы, работает агент или простаивает.

Ориентиры по ценам на 29 сентября 2026: игровая видеокарта старшей серии стоит 749 990 ₽, компьютер Mac Studio с большой памятью 886 757 ₽, аренда игровой видеокарты в России от 43 ₽ в час. Модель на 7-8 млрд параметров помещается на одну такую карту.

Свой сервер выгоден при большом и ровном потоке запросов или когда данные нельзя выпускать наружу. При малом объеме облако дешевле, подробный разбор на странице о том, когда облако выгоднее.

Полную стоимость своего сервера в месяц, с электричеством и обслуживанием, считает калькулятор локального ИИ.

Расходы на облачную модель считают по журналу пилота в четыре шага:

1. Возьмите из журнала число токенов на входе и на выходе за 14 дней пилота и умножьте на 2: это оценка на месяц.

2. Переведите оба числа в миллионы токенов.

3. Умножьте миллионы входных токенов на цену входа, выходных на цену выхода и сложите.

4. Добавьте запас на рост: новые каналы и длинные диалоги увеличивают число шагов агента.

Пример: агент поддержки за месяц прочитал 30 млн токенов и написал 10 млн. На Sonnet 5.5 это 30 раз по 2 $ и 10 раз по 10 $, на GPT-6 Luna 30 раз по 0,1 $ и 10 раз по 0,5 $.

Разница в десятки раз при одном и том же агенте. Поэтому модель выбирают по доле верных ответов на ваших вопросах, а потом по цене, а не наоборот.

Кэш инструкции и пакетный режим для ночных задач снижают эту сумму. Свой сервер имеет смысл сравнивать, когда облачный счет становится заметной строкой бюджета или когда данные нельзя отдавать провайдеру.

Расходы на модель это только часть стоимости агента. Сборку, подключение к CRM и сопровождение мы разобрали в статье о стоимости ИИ-агента.