Словарь ИИ

Что такое облачная модель

Коротко

Облачная модель это нейросеть, которая работает на серверах поставщика, а вы пользуетесь ею через сайт, приложение или API и платите за объем запросов.

Инфраструктура · cloud model

Михаил МозгПроверено: 16 октября 20261 минута чтения

ПодробноЛокальный или облачный ИИ: пять вопросов, которые решают выбор

Ребенку

Есть два способа слушать сказки. Можно купить книжку и держать ее дома на полке. А можно позвонить бабушке, и она прочитает сказку по телефону из своей большой библиотеки. Второй способ похож на помощника, который живет далеко, на чужом большом компьютере. Ты задаешь вопрос через интернет, он отвечает. Без связи такой помощник молчит.

Простыми словами

Большинство людей пользуется нейросетями именно так: открывают чат в браузере или приложение, пишут вопрос и получают ответ. Сама модель при этом работает не на вашем телефоне, а в дата-центре компании, которая ее сделала. Вы не покупаете видеокарты и не обновляете программы, за все отвечает поставщик. Платите подпиской или за каждый запрос. Обратная сторона: текст вопроса уходит на чужой сервер, а без интернета ничего не работает. Например, бухгалтер просит чат сократить письмо партнеру, и это письмо на время попадает к поставщику сервиса.

Для бизнеса

Это быстрый старт: подключение за дни, доступ к сильным моделям, оплата по факту за токены. Расходы растут вместе с объемом, поэтому при большой ровной нагрузке свой сервер иногда обходится дешевле. Главный вопрос для российской компании: куда уходят данные. Если в запросах есть персональные данные, а серверы поставщика за границей, это трансграничная передача, и по статье 12 152-ФЗ о ней нужно заранее уведомить уполномоченный орган (Роскомнадзор). Второй риск: поставщик меняет цены, квоты и версии моделей или отключает сервис. Поэтому до выбора проверяют юрисдикцию серверов, условия использования ваших данных для обучения и возможность переключиться на другую модель. Что отдавать наружу, а что держать у себя, раскладывают по задачам в карте ИИ-решений.

Для специалиста

Облачная модель (cloud-hosted model) это модель, которую поставщик размещает на своей инфраструктуре и отдает как сервис: через веб-интерфейс по схеме SaaS или программный интерфейс с тарификацией за токены. NIST SP 800-145 (Mell, Grance, 2011) определяет облачные вычисления как модель повсеместного и удобного сетевого доступа по требованию к разделяемым ресурсам, которые выделяются и освобождаются с минимальными усилиями. Варианты размещения: публичный API разработчика модели, та же модель у крупного облачного провайдера в выбранном регионе, выделенный экземпляр (dedicated deployment) с зарезервированной пропускной способностью. Веса обычно закрыты, поэтому клиент управляет только промптом, параметрами генерации и иногда дообучением через API. Инженерные ограничения: квоты на запросы и токены, сетевая задержка, версионирование и вывод моделей из эксплуатации по графику поставщика, политика хранения запросов. Противоположный вариант: открытые веса на своем железе.

Пример

Агентство недвижимости подключает облачную модель к CRM, чтобы она писала описания объектов. Адреса и телефоны собственников из запроса убирают, и наружу уходят только площадь, район и особенности квартиры.

Связанные термины

Вопросы и ответы

Чем облачная модель отличается от локальной?

Облачная работает на серверах поставщика: вы платите за запросы и передаете ему текст. Локальная работает на вашем компьютере или сервере, данные остаются у вас, но железо, обновления и обслуживание тоже ваши.

Можно ли отправлять в облачную модель персональные данные?

Только при законном основании и с учетом того, где стоят серверы. Если они за границей, по 152-ФЗ нужно заранее уведомить Роскомнадзор о трансграничной передаче, поэтому многие компании обезличивают данные до отправки или выбирают модель в российском контуре.

Источники

Где это применяют в компании

ИИ и персональные данные по закону: 152-ФЗ и зарубежные API

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений