Где открытая модель не уступает
Короткие цепочки действий: в тесте ИТ-подразделения сети магазинов из 27 прогонов локальная модельлокальная модель. Локальная модель это нейросеть, которая работает на вашем компьютере или сервере, а не в облаке поставщика, поэтому данные никуда не уходят. на 9 млрд параметров не уступила облачным моделям на цепочках из 2–3 шагов. Извлечение полей из документов, классификацияклассификация. Классификация это задача машинного обучения, в которой модель относит объект к одному из заранее известных классов: спам или не спам, жалоба или вопрос, брак или норма. обращений, ответы по базе знаний с поиском, черновики писем: с этим, по нашей оценке, справляются модели 8–32 млрд; проверяйте на своих данных. Русский язык: российские открытые модели на 32 и 8 млрд параметров ориентированы на русский язык. Задачи с фиксированным форматом ответа, где модель дообучили на своих данных: юридический департамент ИТ-холдинга больше года обучал модель на своих договорах и сократил согласование с двух недель до трех дней.
Где проигрывает
Длинные цепочки: на 15 шагах полностью проверяемого результата не дала ни одна модель, но крупная облачная модель на 235 млрд дала частичный успех в 2 прогонах из 3, локальная на 9 млрд в 1 из 3 и 2 ложных рапорта о завершении. Сложный код и архитектурные решения, юридический анализ длинных договоров, рассуждение с десятками условий: за это платят 4 220 ₽ за миллион выходных токеновтокен. Токен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель. у Fable 5.1 и GPT-6 Astra. Модель зрения и речь одновременно: локально это две модели и память под обе. Скорость обработки длинного контекстадлинный контекст. Длинный контекст это способность языковой модели принять и учесть за один запрос очень большой объем текста: толстые документы, долгую переписку или целый репозиторий кода. на одном компьютере: модель 671 млрд на Mac Studio M3 Ultra с 512 ГБ в замере 2025 года читает 8 000 токенов почти 15 минут.
Цена за токены
При 60 млн токенов в месяц облачные модели стоят от 1 013 ₽ на GPT-6 Luna до 101 289 ₽ на флагманах и 72 000 ₽ на старшей российской облачной модели. Открытая модель на рабочей станции с RTX 5090 стоит около 66 200 ₽ в месяц с инженером при любом объеме до предела карты: 400 ₽ за миллион токенов на модели 8 млрд в один поток при загрузке 50%; модель 70 млрд на одну карту не помещается, на станции с двумя RTX 5090 около 94 900 ₽ в месяц это 3 833 ₽ за миллион. Открытая модель побеждает деньгами при объеме и средних моделях, проигрывает на малом объеме и дешевых облачных моделях.
Данные и закон
Открытая модель у себя: данные не покидают периметр, договор поручения с поставщиком модели не нужен, локализацию данных обеспечивает архитектура, остальные обязанности оператора по 152-ФЗ остаются за вами. Зарубежные флагманы: российские адреса не входят в поддерживаемые регионы, оплата через посредников, договора поручения с большинством из них нет. Российские облака: договор с российским юрлицом, данные в России, но контур чужой. По 243-ФЗ у суверенной и у национальной модели разработчик российское юрлицо, а ответы и данные обрабатываются в центрах обработки данных в России, принадлежащих российским юрлицам; национальная может включать компоненты под открытой лицензией, в том числе чужие открытые модели. Статус получает модель и ее разработчик, а не компания, которая запускает модель у себя; эти нормы вступают в силу 1 марта 2027 года.
Примеры из российских компаний
Один из крупнейших банков держит собственные модели в своем периметре и решает около 45% обращений без оператора; наружу веса этих моделей не открыты. Фаберлик заменил поиск по каталогу открытой моделью Qwen с семантическим поискомвекторный поиск. Векторный поиск это поиск по смыслу: запрос и документы переводят в наборы чисел и находят тексты, чьи числа ближе всего к запросу. на GPU российского облака и убрал пустые выдачи по нестандартным запросам. Оператор национальной страховой информационной системы развернул языковую модельбольшая языковая модель. Большая языковая модель (LLM) это нейросеть, обученная на огромном объеме текстов, которая пишет, пересказывает и разбирает текст по запросу. у себя и, по данным компании, обрабатывает обращения в 20 раз быстрее, а рост обращений в 1,5 раза за год закрыл без найма. Крупная российская ИТ-компания собрала агента на открытой gpt-oss 20b и модели зрения qwen3-vl 8b на арендованной карте с 24 ГБ: надежная цепочка держалась примерно до 6 вызовов инструментов подряд.
Вывод из этих кейсов: открытую модель берут там, где данные нельзя выпускать наружу, а задача повторяется тысячи раз. Длинные цепочки рассужденийцепочка рассуждений. Цепочка рассуждений (chain of thought) это пошаговое решение, которое языковая модель пишет перед ответом, чтобы точнее справиться со сложной задачей. либо дробят на короткие шаги, либо оставляют облаку.
Риски каждого варианта
У закрытой модели главный риск в зависимости от провайдера. Цены меняются его решением: российская облачная модель в феврале 2026 года подешевела втрое, цена Gemini 3.8 Flash действует по акции до 31.12.2026. Доступ тоже: OpenAI с 9 июля 2024 года блокирует трафик из неподдерживаемых стран, и Россия в их числе. Отправленные наружу данные назад не вернуть: в 2023 году Samsung запретил сотрудникам внешние чат-ботычат-бот. Чат-бот это программа, которая переписывается с человеком в окне чата: на сайте, в мессенджере или в приложении. после того, как трое из них загрузили туда исходный код и записи совещаний.
У открытой модели риск в эксплуатации. Обновления, мониторинг и проверка качества ложатся на вас: на сервер отдела, по нашей оценке, уходит 10–20% ставки инженера. Модель может отчитаться о работе, которую не сделала: в тесте сети магазинов локальная модель дала 2 ложных рапорта о завершении в 3 прогонах длинной задачи, поэтому результат агента проверяет отдельный шаг или человек. Лицензию смотрите у каждой модели: открытая модель одного из крупнейших банков выпущена под Apache 2.0, швейцарская Apertus тоже разрешает коммерческое применение, у других семейств условия свои.
Как выбирать
Разбейте задачу на шаги и посчитайте их длину: на цепочках до 3 шагов открытая модель в тесте не уступила облачным, для длинных цепочек проверяйте облако или гибрид. Возьмите 50 своих запросов и прогоните на трех моделях: открытой 8–9 млрд, открытой 30–70 млрд и облачной средней. Считайте не цену за токен, а цену решенной задачи: модель, которая ошибается в 10% случаев, стоит столько, сколько стоит разбор этих 10% человеком.
До сравнения ответьте на четыре вопроса: какие данные уходят в модель, сколько шагов в задаче, сколько токенов в месяц и кто будет вести сервер. Персональные данные или исходный код без договора поручения оставляют два пути: открытая модель у себя или российское облако с договором. Больше трех шагов и дорогая ошибка: сначала проверьте облачную модель. Объем около 60 млн токенов в месяц на дешевой модели: свое железо не окупится. Оператор связи Т2 в техзадании на ассистента для разработчиков потребовал возможность выбора модели; закладывайте ее в любой проект, чтобы смена модели не требовала переделки.