Как устроено
Между агентами и моделями стоит маршрутизатор с единым интерфейсом: агент не знает, какая модель ответит. Правила маршрутизации: тип данных, персональные данные и код всегда локально; сложность, цепочки от 10 шагов в облако; время, ночная пакетная обработка на локальной моделилокальная модель. Локальная модель это нейросеть, которая работает на вашем компьютере или сервере, а не в облаке поставщика, поэтому данные никуда не уходят.; отказ, при недоступности одной модели запросы уходят на другую. Обезличивание перед отправкой в облако: маршрутизатор заменяет имена, номера и суммы на метки, а ответ возвращает с подстановкой.
Какие задачи куда направлять
Разделение строят по двум признакам: что в данных и сколько шагов в задаче. Разбор входящих обращений с именами и телефонами, сверка договоров и проверка кода идут на локальную модель: данные чувствительные, а задачи короткие. Ночная обработка накопленных документов тоже локальная: днем карта занята пользователями, ночью простаивает. Аналитика на обезличенных выгрузках и задачи из 10 и более шагов уходят в облако на крупную модель.
Границу по числу шагов подтверждает тест Петрович-Тех, ИТ-подразделения сети строительных магазинов: три модели в одной обвязке, 27 прогонов. На задаче из двух шагов все три справились во всех 9 прогонах за 32–36 секунд, на задаче из трех шагов локальная модель на 9 млрд параметров перенесла данные без единой ошибки. На цепочке из 15 шагов полностью проверяемого результата не дала ни одна модель, а локальная в двух прогонах из трех сообщила о завершении, которого не было. Вывод для схемы: короткие задачи локально, длинные в облако и с проверкой человеком.
Что дает по деньгам
Пример на 60 млн токеновтокен. Токен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель. в месяц: 80% простых запросов на локальной модели на рабочей станции с RTX 5090 за 66 156 ₽ в месяц с инженером, 20% сложных на Sonnet 5.5 за 4 052 ₽, итого 70 208 ₽ против 101 289 ₽ на Fable 5.1 для всего объема и 20 258 ₽ на Sonnet 5.5 для всего. Гибрид дешевле флагмана и дороже среднего облака: его берут ради данных и отказоустойчивости, а по деньгам, по нашему расчету, выигрывает при росте объема.
Что дает по закону
152-ФЗ: персональные данные не покидают контур, а обезличенные данные для облака остаются персональными, если метки можно связать с человеком, поэтому для них нужен российский провайдер с договором поручения; заключение дает юрист. 243-ФЗ: статусы суверенной и национальной модели закон дает модели ее разработчика, российского юрлица, при ответах и хранении данных в ЦОДдата-центр для ИИ. Дата-центр для ИИ это здание с тысячами серверов на видеокартах и других ускорителях, мощным электропитанием и охлаждением, где обучают и запускают нейросети. в России; для локальной части это повод выбрать модель, которая такой статус получит; критерии вступают в силу 1 марта 2027 года. Это важно, если примут проект постановления об обязательном использовании суверенных моделей в отдельных сферах, если они не более чем в полтора раза дороже национальных; о проекте сообщили 8 сентября 2026 года.
Какое облако подключать
Для облачной части в России есть два пути. Российские модели по договору с российским юрлицом: старшие модели двух крупных российских разработчиков ИИ стоят 0,50 ₽ и 1,20 ₽ за 1 000 токенов в синхронном режиме на сентябрь 2026 года, данные остаются в России. Один из них с марта 2026 года поставляет свою модель для бизнеса тремя способами: на серверах заказчика, в своем облаке и гибридно, то есть сам продавец модели предлагает ту же схему.
Зарубежные флагманы сильнее на длинных задачах, но Россия не входит в списки поддерживаемых стран у двух крупнейших провайдеров, и один из них с 9 июля 2024 года блокирует трафик из таких стран. Доступ через посредников нарушает условия провайдера, а договора поручения по 152-ФЗ с ним нет. Поэтому маршрутизатор настраивают так, чтобы облачного провайдера можно было сменить без переделки агентов.
Резерв при отказе карты
Гибрид страхует и от поломки железа. По отчету об обучении модели на 16 384 серверных картах за 54 дня случилось 419 незапланированных прерываний; наш пересчет на малый масштаб дает один серьезный сбой примерно на 2 100 дней работы карты, то есть для сервера на 4 карты раз в полтора года. Это оценка по чужим данным, а не обещание.
План на отказ готовят заранее: запасная карта, договор аренды в российском облаке, где RTX 4090 стоит от 43 ₽ в час, а H100 от 242 ₽, и правило маршрутизатора, которое переводит агентов на облачную модельоблачная модель. Облачная модель это нейросеть, которая работает на серверах поставщика, а вы пользуетесь ею через сайт, приложение или API и платите за объем запросов. для данных, которые можно выпускать наружу. Чувствительные запросы в это время ждут в очереди или идут на арендованную карту по договору поручения.
Как это выглядит в кейсах
Оператор связи в тендере потребовал, чтобы исходный код не покидал его дата-центр, с откликом автодополнения до 400 мс. Аэропорт встроил ИИ-плагин проверки и исправления кода в закрытом контуре с точностью более 90% на проверке находок. Сеть магазинов сравнила локальную модель 9 млрд с облачными в одной обвязке: на задаче из двух шагов все три модели справились во всех прогонах. Девелопер поставил российскую модель в изолированном контуре для проверки условий проектного финансирования и сократил анализ документации на 80%.
С чего начать
Собрать агентов через единый интерфейс модели, даже если сегодня все в облаке. Разметить данные: что не может выходить наружу. Поставить локальную модель на один класс задач, измерить качество на 50 запросах. Включить маршрутизацию и обезличивание. Мы собираем это в пилоте за 14 дней от 149 000 ₽ и в ИИ-отделеИИ-отдел. ИИ-отдел это команда ИИ-агентов, которые вместе ведут процесс компании: каждый агент выполняет свою роль, а человек задает правила и проверяет важные решения. за 4–6 недель от 390 000 ₽.