ММООЗЗГГ.ru

Кейс рынка · Банки и финансы · Россия

Альфа-Банк, ИТ-руководитель: локальный агент на модели Qwen 3.6-35B-A3B: около 70 токенов в секунду на Mac

1 мин1 источник

Автономный рабочий агент работает на локально развернутой модели с 35 млрд параметров и примерно 3 млрд активных на токен через LM Studio, скорость около 70 токенов в секунду на Mac. Сначала агент запускался в Docker на Mac, затем переехал на виртуальную машину, что стало переломным моментом по удобству.

На странице · 5 разделов
Результатлокальный агент на модели Qwen 3.6-35B-A3B: около 70 токенов в секунду на Mac
ИсточникЦифровые платформы, кейс №4067, 2 сентября 2026
Похожая задача у насПоддержка клиентов
ОтрасльБанки и финансы

Что сделали и что получили

  • Детерминированная обработка данных вынесена в отдельные приложения на Go с интеграцией к базе и векторному поиску, агенту оставлены задачи потребления.
  • Источники: почта, транскрипты встреч, мессенджеры.
  • Это персональный агент руководителя, не корпоративное развертывание; числовых результатов не раскрыто.
  • Публикация 21 августа 2026 года.

Что взять себе

Модель с малым числом активных параметров дает около 70 токенов в секунду на Mac. Для агента этого достаточно, если тяжелая обработка вынесена в код.

ИИ-агенты на локальной модели в вашем контуре: пилот на одном процессе. Пилотный ИИ-агент на локальной модели за 14 дней от 149 000 ₽ с метрикой в договоре, на вашем железе или арендованных GPU в России. ИИ-отдел из 3–5 агентов за 4–6 недель от 390 000 ₽. Железо покупаете вы по нашей спецификации.

ИИ-агенты на локальной модели

Посчитать стоимость

Банки и финансы: подробнее

Источники и проверка

Факты и числа на этой странице взяты из публикации. Тип данных: карточка каталога проектов. Компания не наш клиент: страница показывает, что из этого опыта можно повторить в компании меньшего размера. Проверено редакцией 30 сентября 2026.

  1. Цифровые платформы, кейс №4067 (platforms.su)· 2 сентября 2026

Нашли ошибку? Напишите нам

Похожие кейсы

Цены и замеры в разделе проверены 29.09.2026 по источникам внизу страниц. Мы собираем ИИ-агентов на облачных и локальных моделях и не продаем железо. Расчеты оценочные, юридические выводы по 152-ФЗ и 243-ФЗ дает ваш юрист.

Написать в Telegram