Открытые и закрытые нейросети: сравнение, где равны, где нет

Короткие цепочки действий: в тесте ИТ-подразделения сети магазинов из 27 прогонов локальная модель на 9 млрд параметров не уступила облачным моделям на цепочках из 2–3 шагов. Извлечение полей из документов, классификация обращений, ответы по базе знаний с поиском, черновики писем: с этим, по нашей оценке, справляются модели 8–32 млрд; проверяйте на своих данных. Русский язык: T-Pro 2.0 на 32 млрд и YandexGPT 5 Lite ориентированы на русский язык. Задачи с фиксированным форматом ответа, где модель дообучили на своих данных: юридический департамент ИТ-холдинга больше года обучал модель на своих договорах и сократил согласование с двух недель до трех дней.

Длинные цепочки: на 15 шагах полностью проверяемого результата не дала ни одна модель, но крупная облачная модель на 235 млрд дала частичный успех в 2 прогонах из 3, локальная на 9 млрд в 1 из 3 и 2 ложных рапорта о завершении. Сложный код и архитектурные решения, юридический анализ длинных договоров, рассуждение с десятками условий: за это платят 4 220 ₽ за миллион выходных токенов у Fable 5.1 и GPT-6 Astra. Модель зрения и речь одновременно: локально это две модели и память под обе. Скорость обработки длинного контекста на одном компьютере: модель 671 млрд на Mac Studio M3 Ultra с 512 ГБ в замере 2025 года читает 8 000 токенов почти 15 минут.

При 60 млн токенов в месяц облачные модели стоят от 1 013 ₽ на GPT-6 Luna до 101 289 ₽ на флагманах и 72 000 ₽ на YandexGPT Pro. Открытая модель на рабочей станции с RTX 5090 стоит около 66 200 ₽ в месяц с инженером при любом объеме до предела карты: 400 ₽ за миллион токенов на модели 8 млрд в один поток при загрузке 50%; модель 70 млрд на одну карту не помещается, на станции с двумя RTX 5090 около 94 900 ₽ в месяц это 3 833 ₽ за миллион. Открытая модель побеждает деньгами при объеме и средних моделях, проигрывает на малом объеме и дешевых облачных моделях.

Открытая модель у себя: данные не покидают периметр, договор поручения с поставщиком модели не нужен, локализацию данных обеспечивает архитектура, остальные обязанности оператора по 152-ФЗ остаются за вами. Зарубежные флагманы: российские адреса не входят в поддерживаемые регионы, оплата через посредников, договора поручения с большинством из них нет. Российские облака: договор с российским юрлицом, данные в России, но контур чужой. По 243-ФЗ у суверенной и у национальной модели разработчик российское юрлицо, а ответы и данные обрабатываются в центрах обработки данных в России, принадлежащих российским юрлицам; национальная может включать компоненты под открытой лицензией, в том числе чужие открытые модели. Статус получает модель и ее разработчик, а не компания, которая запускает модель у себя; эти нормы вступают в силу 1 марта 2027 года.

Разбейте задачу на шаги и посчитайте их длину: на цепочках до 3 шагов открытая модель в тесте не уступила облачным, для длинных цепочек проверяйте облако или гибрид. Возьмите 50 своих запросов и прогоните на трех моделях: открытой 8–9 млрд, открытой 30–70 млрд и облачной средней. Считайте не цену за токен, а цену решенной задачи: модель, которая ошибается в 10% случаев, стоит столько, сколько стоит разбор этих 10% человеком.