| Результат | две модели уместились в 22,4 ГБ из 24 ГБ видеопамяти при контексте 65 536 токенов |
| Источник | Цифровые платформы, кейс №4084, 2 сентября 2026 |
| Похожая задача у нас | Калькулятор памяти |
| Отрасль | ИТ-компании |
Что сделали и что получили
- Агент правит тексты в заданных персонах, гоняет ночную очередь исследований по cron каждые 10 минут, ищет в вебе и работает с файлами в границах рабочей директории.
- Надежная цепочка до примерно 6 последовательных вызовов инструментоввызов функций. Вызов функций (function calling) это способ, которым языковая модель просит программу выполнить действие: модель выбирает функцию и заполняет ее параметры, а код приложения выполняет запрос и возвращает результат.; таймаут холодной загрузки поднят выше 300 секунд; на отладку двенадцати ошибок ушел один вечер.
- Режим однопользовательский.
- Публикация 21 августа 2026 года.
Что взять себе
Точная арифметика памяти из кейса: веса плюс KV-кэшKV-кэш. KV-кэш это память, в которой языковая модель хранит промежуточные результаты (ключи и значения внимания) для уже обработанных токенов, чтобы не пересчитывать их при генерации каждого нового. должны уместиться в видеопамять с запасом. Наш калькулятор памяти считает по той же формуле.
ИИ-агенты на локальной модели для вашей команды: пилот за 14 дней. Пилотный ИИ-агент на локальной модели за 14 дней от 149 000 ₽ с метрикой в договоре, на вашем железе или арендованных GPU в России. ИИ-отдел из 3–5 агентов за 4–6 недель от 390 000 ₽. Железо покупаете вы по нашей спецификации.
Источники и проверка
Факты и числа на этой странице взяты из публикации. Тип данных: карточка каталога проектов. Компания не наш клиент: страница показывает, что из этого опыта можно повторить в компании меньшего размера. Проверено редакцией 30 сентября 2026.
- Цифровые платформы, кейс №4084 (platforms.su)· 2 сентября 2026
Нашли ошибку? Напишите нам
Похожие кейсы
- Услуги для бизнеса: от агента на заявках к ИИ-отделу, который бережет лид за 15 000 ₽
- Услуги для бизнеса: ответ на каждую заявку, пока клиент не ушел
- ЛАНИТ: сбор требований в 4 раза быстрее, время поиска документов на 66% меньше на платформе локальных LLM
- Samsung Electronics: запрет внешних генеративных сервисов после утечки исходного кода, разработка собственных инструментов
- ETH Zurich, EPFL и CSCS, Швейцария: полностью открытая суверенная модель Apertus: 8 и 70 млрд параметров, 15 трлн токенов, более 1 000 языков
- Петрович-Тех: локальная модель на 9 млрд параметров сравнялась с облачными на задачах из 2–3 шагов: 27 прогонов
- Девелопер MR: ИИ-контролер проектного финансирования в изолированном контуре: время на анализ кредитной документации меньше на 80%
Цены и замеры в разделе проверены 29.09.2026 по источникам внизу страниц. Мы собираем ИИ-агентов на облачных и локальных моделях и не продаем железо. Расчеты оценочные, юридические выводы по 152-ФЗ и 243-ФЗ дает ваш юрист.