Словарь ИИ

Что такое модель с открытыми весами

Коротко

Модель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании.

Языковые модели · open-weights model

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Бывают игры, в которые можно играть только в гостях у друга. А бывают такие, что друг дарит тебе копию: играй дома сколько хочешь и даже придумывай свои правила. С нейросетями так же. Некоторые можно забрать к себе и пользоваться ими, не спрашивая разрешения каждый раз.

Простыми словами

Умения нейросети хранятся в ее весах: огромном наборе чисел, который получился после обучения. У закрытых моделей веса остаются у разработчика, и пользоваться ими можно только через его сайт или программный интерфейс. Модель с открытыми весами публикует этот файл: его скачивают и запускают на своем компьютере или сервере, даже без интернета, и дообучают под свою задачу. При этом данные и код обучения часто остаются закрытыми. Похоже на готовый торт, который вам отдали целиком, но без рецепта и списка продуктов.

Для бизнеса

Открытые веса дают компании контроль: модель работает на ее серверах, данные клиентов никуда не уходят, а цена не зависит от тарифов внешнего сервиса. Это прямой путь к требованиям о локализации персональных данных и защита от того, что поставщик закроет доступ или поменяет условия. Взамен компания платит за оборудование, настройку и сопровождение, а на сложных задачах такие модели бывают слабее передовых закрытых. Главное до внедрения: прочитать лицензию. Одни модели выпущены под свободными лицензиями, у других есть ограничения на коммерческое использование, число пользователей или сферы применения. Как запустить такую модель у себя и во что это обойдется, разобрано в разделе о собственном ИИ.

Для специалиста

Модель с открытыми весами (open-weights model) публикует обученные параметры (weights) для скачивания, обычно вместе с архитектурой, токенизатором и кодом инференса. Это не то же самое, что открытый исходный код (open source) в строгом смысле. Open Source AI Definition 1.0 от Open Source Initiative требует свободы использовать, изучать, менять и распространять систему и доступа к трем компонентам: параметрам, полному коду обучения и запуска, достаточным сведениям об обучающих данных. Многие популярные модели публикуют только веса под собственной лицензией с ограничениями. Пример: Llama 2 (2023), семейство от 7 до 70 млрд параметров; ее лицензия требует отдельного разрешения Meta (деятельность Meta Platforms Inc. признана экстремистской и запрещена в России) для сервисов с аудиторией свыше 700 млн пользователей в месяц. Веса распространяют в форматах safetensors и GGUF, часто в квантованных вариантах; для дообучения применяют LoRA и QLoRA. Перед использованием изучают карточку модели (model card) и условия лицензии.

Пример

Клиника хочет, чтобы ИИ разбирал медицинские записи, но не может отправлять их во внешний сервис. Она скачивает модель с открытыми весами, запускает на своем сервере и дообучает на обезличенных примерах.

Связанные термины

Вопросы и ответы

Чем модель с открытыми весами отличается от open source?

Открытые веса значат, что опубликован готовый файл модели. Open source в строгом смысле требует еще кода обучения, сведений о данных и свободной лицензии. Многие открытые модели дают только веса.

Можно ли использовать открытую модель в коммерческих целях?

Зависит от лицензии конкретной модели. Часть моделей разрешает любое использование, у других есть ограничения по числу пользователей, сферам или требование указывать автора. Лицензию читают до запуска.

Источники

Где это применяют в компании

Свой ИИ на своих серверах: запуск, цены, калькуляторы

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений