ММООЗЗГГ.ru

Разбор

Какую открытую модель выбрать для ИИ-агента

6 мин13 источников

Открытая модель для ИИ-агента это модель, которую можно скачать и запустить на своем компьютере или сервере, не отправляя данные наружу. Для агента ей нужно уметь вызывать инструменты, помещаться в вашу память и иметь лицензию для бизнеса: Qwen 3 вышла под Apache 2.0, DeepSeek R1 под MIT.

На странице · 5 разделов

Соберете сами за неделю

Что агенту нужно от модели

Чат-боту хватает модели, которая хорошо пишет. Агенту этого мало: он сам выбирает шаги, обращается к CRM, календарю или базе знаний и проверяет результат.

Поэтому модель для агента выбирают по четырем признакам. Она умеет вызывать инструменты, помещается в память вашего компьютера, ее лицензия разрешает коммерческое использование, и она держит ваши правила на ваших задачах.

Русский язык проверяют в последнем пункте. Семейство Qwen 3, по заявлению разработчика, поддерживает 119 языков и диалектов, но качество ответов на русском в вашей теме покажет только проверка.

Если агент работает с данными клиентов, модель на своем сервере в России упрощает выполнение 152-ФЗ: сбор и хранение данных граждан РФ ведутся в базах на территории России, а для передачи за рубеж нужно уведомление в Роскомнадзор. Как мы это устраиваем, описано на странице о безопасности данных.

Полный список открытых моделей с размерами и датами выхода собран на странице об открытых языковых моделях. Здесь только то, что важно для агента.

Вызов инструментов

Вызов инструментов (function calling) это умение модели ответить не фразой, а командой: какую функцию вызвать и с какими параметрами. Например, «найти клиента по телефону» или «создать сделку». Без этого умения агент не сможет работать с вашими системами.

Ollama, программа для запуска открытых моделей на своем компьютере, поддерживает вызов инструментов: список функций передают в поле «tools» запроса к модели. Все примеры в документации Ollama построены на модели qwen3.

В каталоге моделей на сайте Ollama есть фильтр «Tools» (инструменты): он оставляет только модели, которые умеют вызывать функции. 16 октября 2026 года в нем 99 моделей, и выбор стоит начинать с этого списка.

Разработчики Qwen 3 отдельно пишут, что усилили вызов инструментов и поддержку MCP, протокола для подключения ИИ к сервисам. Открытые модели gpt-oss от OpenAI тоже заявлены для работы агентом: вызов функций, поиск в вебе, запуск кода на Python.

Сравнить модели по точности вызова функций можно в открытом рейтинге Berkeley Function Calling Leaderboard. Его четвертая версия оценивает и работу агента целиком, последнее обновление вышло 12 апреля 2026 года.

Размер модели и железо

Размер модели считают в параметрах: это числа, которые модель выучила при обучении. Чем больше параметров, тем больше модель знает и тем больше памяти ей нужно.

У Qwen 3 шесть обычных моделей от 0,6 до 32 млрд параметров и две модели со смесью экспертов. В такой модели на каждый ответ работает только часть параметров: у модели на 30 млрд работают 3 млрд, у модели на 235 млрд работают 22 млрд.

Модель gpt-oss-20b, по данным OpenAI, работает в 16 ГБ памяти, а gpt-oss-120b помещается на одну видеокарту с 80 ГБ. Такая серверная карта стоит 1 081 772 ₽, видеокарта на 32 ГБ стоит 749 990 ₽ (цены на 29 сентября 2026).

Покупать железо до проверки не нужно. Игровую видеокарту в России можно арендовать примерно за 43 ₽ в час и прогнать на ней свои задачи.

Сколько памяти займет конкретная модель, покажет калькулятор памяти. Для первого агента берите модель, которая помещается в ваше железо с запасом: агенту нужна память еще и на длинную историю диалога.

Лицензия

Открытые веса не всегда значат свободу для бизнеса. Лицензию читают до того, как строить на модели агента, а не после запуска.

Семейство Qwen 3 вышло 29 апреля 2025 года под лицензией Apache 2.0, модели gpt-oss тоже под Apache 2.0. DeepSeek R1 вышла 20 января 2025 года с открытыми весами на лицензии MIT. Обе лицензии разрешают коммерческое использование и изменения.

Ollama распространяется под лицензией MIT, но у каждой модели в ее каталоге своя лицензия. Ее смотрят на странице модели и сохраняют вместе с документами проекта.

Как проверить модель на своих задачах

Рейтинги показывают среднюю картину по чужим задачам. Решает проверка на ваших, и ее можно провести за неделю без программиста.

1. Выпишите 20-50 реальных задач агента из переписки и журналов: вопросы клиентов, запросы к CRM, переносы записей.

2. Для каждой задачи запишите правильный результат: какой инструмент агент должен вызвать и что ответить клиенту.

3. Отберите 2-3 модели из каталога с фильтром «Tools», которые помещаются в вашу память.

4. Прогоните задачи через каждую модель с одной и той же инструкцией и одним набором инструментов.

5. Посчитайте долю верных ответов, долю верных вызовов инструментов и время ответа. Побеждает модель с меньшим числом ошибок по вашим правилам, а не с громким названием.

Как устроить такую проверку и какие открытые программы считают метрики, разобрано на странице об оценке агента. Установка Ollama шаг за шагом описана на странице о локальном агенте.

Вопросы и ответы

Хватит ли небольшой модели на ноутбуке?

Для пробы хватит. Модель gpt-oss-20b, по данным OpenAI, работает в 16 ГБ памяти, а у Qwen 3 есть модели от 0,6 до 32 млрд параметров. Проверьте выбранную модель на 20-50 своих задачах: если доля верных вызовов инструментов низкая, берите модель крупнее или арендуйте сервер.

Можно ли поменять модель после запуска?

Да, если агент собран правильно: инструкция, инструменты и база знаний не зависят от модели. В запросе к Ollama модель задается одним полем с ее названием. После замены прогоните тот же набор задач, чтобы убедиться, что качество не упало.

Сколько памяти нужно, чтобы запустить Qwen 3 у себя?

Модель загружается в память целиком, поэтому памяти нужно не меньше, чем она весит, и еще запас на историю диалога. По каталогу Ollama qwen3:8b весит 5,2 ГБ, qwen3:14b 9,3 ГБ, qwen3:32b 20 ГБ. Для сравнения, стартовая модель из документации Ollama весит около 7,2 ГБ и требует 8 ГБ свободной видеопамяти.

Сколько клиентов агент на своей модели обслужит одновременно?

По умолчанию Ollama обрабатывает один запрос к модели за раз, остальные ждут в очереди, которая вмещает до 512 запросов. Для агента, который помогает одному отделу, этого хватает. Агента на сайте с потоком клиентов проверяют под нагрузкой: если ответы начинают ждать в очереди, нужен сервер с большей памятью.

Видит ли кто-то снаружи данные, которые обрабатывает своя модель?

Сама программа нет: в документации Ollama сказано, что при локальной работе она не видит запросов и данных пользователя. Данные уходят наружу только через инструменты агента, например веб-поиск или отправку писем. Поэтому список инструментов проверяют так же внимательно, как выбор модели.

Источники и проверка

Проверено редакцией 16 октября 2026.

  1. Alpine Linux packages, 2026 (pkgs.alpinelinux.org)
  2. Simon Willison, 20 января 2025 (simonwillison.net)
  3. Simon Willison, 29 апреля 2025 (simonwillison.net)
  4. Brace Law Firm, 9 июля 2023 (brace-lf.com)
  5. Qwen Blog, 29 апреля 2025 (qwenlm.github.io)
  6. GitHub, openai/gpt-oss, 2025 (github.com)
  7. Ollama Docs, Tool calling, 2026 (docs.ollama.com)
  8. Ollama, каталог моделей, 16 октября 2026 (ollama.com)
  9. UC Berkeley, BFCL, 12 апреля 2026 (gorilla.cs.berkeley.edu)
  10. Anthropic Engineering, 9 января 2026 (anthropic.com)
  11. Ollama Docs, Quickstart, 2026 (docs.ollama.com)
  12. Ollama Docs, FAQ, 2026 (docs.ollama.com)
  13. Ollama, Qwen 3 в каталоге моделей, 2026 (ollama.com)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин
Написать в Telegram