ММООЗЗГГ.ru

Кейс рынка · ИТ-компании · Россия

VK Tech: две модели уместились в 22,4 ГБ из 24 ГБ видеопамяти при контексте 65 536 токенов

1 мин1 источник

Команда собрала локального ИИ-агента в закрытом контуре на связке Ollama и агентной обвязки на арендованном GPU-сервере с картой NVIDIA A30 на 24 ГБ. Модели: gpt-oss 20b (13 ГБ) для текста и инструментов и qwen3-vl 8b (6,1 ГБ) для изображений; вместе с KV-кэшем на контекст 65 536 токенов занято 22,4 ГБ.

На странице · 5 разделов
Результатдве модели уместились в 22,4 ГБ из 24 ГБ видеопамяти при контексте 65 536 токенов
ИсточникЦифровые платформы, кейс №4084, 2 сентября 2026
Похожая задача у насКалькулятор памяти
ОтрасльИТ-компании

Что сделали и что получили

  • Агент правит тексты в заданных персонах, гоняет ночную очередь исследований по cron каждые 10 минут, ищет в вебе и работает с файлами в границах рабочей директории.
  • Надежная цепочка до примерно 6 последовательных вызовов инструментов; таймаут холодной загрузки поднят выше 300 секунд; на отладку двенадцати ошибок ушел один вечер.
  • Режим однопользовательский.
  • Публикация 21 августа 2026 года.

Что взять себе

Точная арифметика памяти из кейса: веса плюс KV-кэш должны уместиться в видеопамять с запасом. Наш калькулятор памяти считает по той же формуле.

ИИ-агенты на локальной модели для вашей команды: пилот за 14 дней. Пилотный ИИ-агент на локальной модели за 14 дней от 149 000 ₽ с метрикой в договоре, на вашем железе или арендованных GPU в России. ИИ-отдел из 3–5 агентов за 4–6 недель от 390 000 ₽. Железо покупаете вы по нашей спецификации.

ИИ-агенты на локальной модели

Посчитать стоимость

Источники и проверка

Факты и числа на этой странице взяты из публикации. Тип данных: карточка каталога проектов. Компания не наш клиент: страница показывает, что из этого опыта можно повторить в компании меньшего размера. Проверено редакцией 30 сентября 2026.

  1. Цифровые платформы, кейс №4084 (platforms.su)· 2 сентября 2026

Нашли ошибку? Напишите нам

Похожие кейсы

Цены и замеры в разделе проверены 29.09.2026 по источникам внизу страниц. Мы собираем ИИ-агентов на облачных и локальных моделях и не продаем железо. Расчеты оценочные, юридические выводы по 152-ФЗ и 243-ФЗ дает ваш юрист.

Написать в Telegram