Российские открытые модели
Открытая модельмодель с открытыми весами. Модель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании. крупного российского банка: 32 млрд параметров, лицензия Apache 2.0, гибридный режим рассуждений, выложена 18 июля 2025 года; разработчик заявляет более высокое качество на сложных запросах и экономию вычислений в 2 раза на русскоязычных запросах по сравнению с открытыми Qwen3 и DeepSeek R1-Distil. Лицензия разрешает скачивать, использовать, адаптировать и дообучать модель. Открытая модель крупного российского разработчика ИИ: 8 млрд параметров, контекст 32 000 токеновтокен. Токен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель., открытые веса с 25 февраля 2025 года, разработчик отмечает, что модель не требует больших мощностей. Тот же банк держит собственное семейство моделей в своем периметре; по данным кейса, в него входят модели с открытой лицензией Apache 2.0.
У модели на 8 млрд параметров открыта базовая версия: ее обучали на 15 трлн токенов русских и английских текстов, кода и вычислений, а затем на 320 млрд токенов отобранных данных, и она предназначена для дообучениядообучение. Дообучение это настройка уже обученной модели на ваших примерах, чтобы она точнее выполняла конкретную задачу или писала в нужном стиле. под свои задачи. Флагманы российских провайдеров с открытыми весами не выкладываются: их ставят у себя только через лицензионную поставку.
Мировые открытые модели
Семейство Qwen используется российскими компаниями в локальных контурах: производитель косметики поставил Qwen для поиска по каталогу, ИТ-руководитель банка гоняет агента на Qwen 3.6-35B-A3B со скоростью около 70 токенов в секундутокены в секунду. Токены в секунду это скорость, с которой нейросеть пишет ответ: сколько кусочков текста она выдает за одну секунду. на Mac, ИТ-подразделение сети магазинов сравнило локальную Qwen3.5-9B с облачными. Открытая модель gpt-oss 20b занимает 13 ГБ и работает вместе с моделью зрения на карте с 24 ГБ. Швейцарская Apertus выложена в размерах 8 и 70 млрд параметров с полностью открытыми весами, данными и рецептом обучения, лицензия допускает коммерческое применение.
Часть мировых моделей устроена как смесь экспертовсмесь экспертов. Смесь экспертов (mixture of experts, MoE) это устройство нейросети, в котором на каждое слово работает только небольшая часть модели, выбранная распределителем.: у Qwen 3.6-35B-A3B 35 млрд параметров, но на каждый токен работают около 3 млрд, поэтому она быстрая даже на Mac. Команда облачного провайдера уместила на одной карте с 24 ГБ две модели, gpt-oss 20b для текста и модель зрения на 8 млрд, вместе с памятью под контекст 65 536 токенов: занято 22,4 ГБ. Apertus обучена на 15 трлн токенов на более чем 1 000 языках, 40% данных не на английском. Самые крупные открытые модели тяжелы для одного компьютера: модель на 671 млрд параметров на Mac Studio с 512 ГБ выдает 6,21 токена в секунду.
Как выбирать
Сначала память: модель на 8 млрд параметров в 4-битной квантизацииквантизация. Квантизация это сжатие нейросети, при котором ее числа хранят с меньшей точностью, чтобы модель занимала меньше памяти и работала быстрее. занимает около 5 ГБ, на 32 млрд около 20 ГБ, на 70 млрд около 40 ГБ. Затем задача: по нашей оценке, для извлечения данных из документов и коротких цепочек хватает 8–32 млрд, для длинных рассуждений нужны крупные модели или облако. Затем язык: проверяйте модель на своих 50 запросах, а не на бенчмаркахбенчмарк. Бенчмарк это стандартный набор заданий с известными ответами, по которому сравнивают нейросети между собой.. Затем лицензия: Apache 2.0 и аналоги допускают коммерческое использование без отчислений.
Квантизация
Квантизация сжимает веса с 16 бит до 8 или 4 бит: память падает в 2–4 раза, потери качества зависят от модели и задачи. Локальная модельлокальная модель. Локальная модель это нейросеть, которая работает на вашем компьютере или сервере, а не в облаке поставщика, поэтому данные никуда не уходят. в тесте сети магазинов работала в 4-битной квантизации на одной видеокарте и на коротких задачах не уступила облачным. Для агентов мы берем 4–8 бит и проверяем на своих данных.
Сколько стоит запустить
Сами веса бесплатны, платите за железо, электричество и время инженера. Модель на 8 млрд параметров в 4 битах работает на ноутбуке с 16 ГБ. Модель на 32 млрд помещается на видеокарту с 32 ГБ, которая на 30.09.2026 стоила 749 990 ₽ у одного продавца без компьютера, или на Mac с 48 ГБ. Для 70 млрд нужна карта на 96 ГБ, которая в феврале 2026 года стоила 1,08 млн ₽, или Mac Studio со 128 ГБ за 886 757 ₽.
Рабочая станция с картой на 32 ГБ с учетом износа, электричества и доли инженера, по нашему расчету, обходится около 66 156 ₽ в месяц при любом объеме до предела карты. Проверить модель до покупки можно на арендованной карте: H100 в российском облаке на 30.09.2026 сдавали от 242 ₽ в час, карты попроще дешевле в разы.
Где открытые модели справляются, а где нет
Справляются с потоком однотипной работы: извлечением полей из документов, классификациейклассификация. Классификация это задача машинного обучения, в которой модель относит объект к одному из заранее известных классов: спам или не спам, жалоба или вопрос, брак или норма. обращений, ответами по базе знаний, черновиками писем. Оператор страховой информационной системы на локальной модели ускорил обработку обращений в 20 раз и выдержал рост обращений в 1,5 раза без найма. Юридический департамент ИТ-холдинга, более 70 юристов, больше года обучал модель на своих договорах и сократил согласование с двух недель до трех дней. Интегратор держит модели на 8–14 млрд параметров на стандартном сервере.
Не справляются с длинными цепочками: на задаче из 15 шагов в тесте сети строительных магазинов полностью проверяемого результата не дала ни одна модель, а локальная на 9 млрд параметров в двух прогонах из трех ложно сообщила о завершении. Поэтому агентов на открытых моделях проектируют короткими шагами, а тяжелую детерминированную обработку выносят в обычный код.
Лицензия и статус по закону
Apache 2.0 разрешает коммерческое использование, доработку и дообучение без отчислений; лицензия Apertus тоже допускает коммерческое применение. У других моделей бывают свои условия, поэтому лицензию читают до пилота, а не после запуска. По закону 243-ФЗ национальная модель может включать компоненты с открытыми лицензиями, в том числе иностранные фундаментальные моделибазовая модель. Базовая модель (foundation model) это большая нейросеть, обученная на огромном объеме общих данных, которую потом приспосабливают к множеству конкретных задач., если серверы и данные в России. Критерии вступают в силу 1 марта 2027 года, так что выбор открытой модели сегодня не закрывает путь к статусу завтра.
Как проверить модель на своей задаче
Возьмите 50 реальных запросов с ожидаемыми ответами и прогоните их на трех моделях: открытой на 8–9 млрд, открытой на 30–70 млрд и облачной среднего уровня. Считайте не цену за токен, а цену решенной задачи: модель, которая ошибается в 10% случаев, стоит столько, сколько стоит разбор этих 10% человеком.
Выберите наименьшую модель, которая прошла экзамен: она дешевле по памяти и быстрее. Зафиксируйте версии модели и программы запуска, а каждое обновление проверяйте на тех же 50 запросах. Такой экзамен мы проводим в пилоте за 14 дней от 149 000 ₽.