Какую открытую модель выбрать для ИИ-агента

Чат-ботучат-бот Чат-бот это программа, которая переписывается с человеком в окне чата: на сайте, в мессенджере или в приложении. Подробнее в словаре хватает модели, которая хорошо пишет. Агенту этого мало: он сам выбирает шаги, обращается к CRM, календарю или базе знанийбаза знаний для ИИ База знаний для ИИ это отобранные и подготовленные документы компании, по которым ИИ-ассистент ищет ответы: регламенты, инструкции, каталог, ответы на частые вопросы. Подробнее в словаре и проверяет результат.

Поэтому модель для агента выбирают по четырем признакам. Она умеет вызывать инструменты, помещается в память вашего компьютера, ее лицензия разрешает коммерческое использование, и она держит ваши правила на ваших задачах.

Русский язык проверяют в последнем пункте. Семейство Qwen 3, по заявлению разработчика, поддерживает 119 языков и диалектов, но качество ответов на русском в вашей теме покажет только проверка.

Если агент работает с данными клиентов, модель на своем сервере в России упрощает выполнение 152-ФЗ: сбор и хранение данных граждан РФ ведутся в базах на территории России, а для передачи за рубеж нужно уведомление в Роскомнадзор. Как мы это устраиваем, описано на странице о безопасности данных.

Полный список открытых моделеймодель с открытыми весами Модель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании. Подробнее в словаре с размерами и датами выхода собран на странице об открытых языковых моделях. Здесь только то, что важно для агента.

Вызов инструментоввызов функций Вызов функций (function calling) это способ, которым языковая модель просит программу выполнить действие: модель выбирает функцию и заполняет ее параметры, а код приложения выполняет запрос и возвращает результат. Подробнее в словаре (function calling) это умение модели ответить не фразой, а командой: какую функцию вызвать и с какими параметрами. Например, «найти клиента по телефону» или «создать сделку». Без этого умения агент не сможет работать с вашими системами.

Ollama, программа для запуска открытых моделей на своем компьютере, поддерживает вызов инструментов: список функций передают в поле «tools» запроса к модели. Все примеры в документации Ollama построены на модели qwen3.

В каталоге моделей на сайте Ollama есть фильтр «Tools» (инструменты): он оставляет только модели, которые умеют вызывать функции. 16 октября 2026 года в нем 99 моделей, и выбор стоит начинать с этого списка.

Разработчики Qwen 3 отдельно пишут, что усилили вызов инструментов и поддержку MCPMCP MCP (Model Context Protocol) это открытый стандарт, через который ИИ-приложения подключаются к инструментам и данным: файлам, CRM, базам, сервисам. Подробнее в словаре, протокола для подключения ИИ к сервисам. Открытые модели gpt-oss от OpenAI тоже заявлены для работы агентом: вызов функций, поиск в вебе, запуск кода на Python.

Сравнить модели по точности вызова функций можно в открытом рейтинге Berkeley Function Calling Leaderboard. Его четвертая версия оценивает и работу агента целиком, последнее обновление вышло 12 апреля 2026 года.

Размер модели считают в параметрах: это числа, которые модель выучила при обучении. Чем больше параметров, тем больше модель знает и тем больше памяти ей нужно.

У Qwen 3 шесть обычных моделей от 0,6 до 32 млрд параметров и две модели со смесью экспертовсмесь экспертов Смесь экспертов (mixture of experts, MoE) это устройство нейросети, в котором на каждое слово работает только небольшая часть модели, выбранная распределителем. Подробнее в словаре. В такой модели на каждый ответ работает только часть параметров: у модели на 30 млрд работают 3 млрд, у модели на 235 млрд работают 22 млрд.

Модель gpt-oss-20b, по данным OpenAI, работает в 16 ГБ памяти, а gpt-oss-120b помещается на одну видеокарту с 80 ГБ. Такая серверная карта стоит 1 081 772 ₽, видеокарта на 32 ГБ стоит 749 990 ₽ (цены на 29 сентября 2026).

Покупать железо до проверки не нужно. Игровую видеокарту в России можно арендовать примерно за 43 ₽ в час и прогнать на ней свои задачи.

Сколько памяти займет конкретная модель, покажет калькулятор памяти. Для первого агента берите модель, которая помещается в ваше железо с запасом: агенту нужна память еще и на длинную историю диалога.

Открытые веса не всегда значат свободу для бизнеса. Лицензию читают до того, как строить на модели агента, а не после запуска.

Семейство Qwen 3 вышло 29 апреля 2025 года под лицензией Apache 2.0, модели gpt-oss тоже под Apache 2.0. DeepSeek R1 вышла 20 января 2025 года с открытыми весами на лицензии MIT. Обе лицензии разрешают коммерческое использование и изменения.

Ollama распространяется под лицензией MIT, но у каждой модели в ее каталоге своя лицензия. Ее смотрят на странице модели и сохраняют вместе с документами проекта.

Рейтинги показывают среднюю картину по чужим задачам. Решает проверка на ваших, и ее можно провести за неделю без программиста.

1. Выпишите 20-50 реальных задач агента из переписки и журналов: вопросы клиентов, запросы к CRM, переносы записей.

2. Для каждой задачи запишите правильный результат: какой инструмент агент должен вызвать и что ответить клиенту.

3. Отберите 2-3 модели из каталога с фильтром «Tools», которые помещаются в вашу память.

4. Прогоните задачи через каждую модель с одной и той же инструкцией и одним набором инструментов.

5. Посчитайте долю верных ответов, долю верных вызовов инструментов и время ответа. Побеждает модель с меньшим числом ошибок по вашим правилам, а не с громким названием.

Как устроить такую проверку и какие открытые программы считают метрики, разобрано на странице об оценке агента. Установка Ollama шаг за шагом описана на странице о локальном агенте.