ММООЗЗГГ.ru

Словарь ИИ

Что такое развертывание в контуре

Коротко

Развертывание в контуре (on-premise) это установка ИИ-системы на серверы внутри сети компании, где модель, данные и доступы остаются под ее контролем.

Инфраструктура · on-premise

Михаил МозгПроверено: 1 минута чтения

ПодробноИИ на своих серверах (on-premise): три уровня, цены, отличия от контура

Ребенку

Представь, что у вашего класса есть своя библиотека, куда пускают только учеников. Книги из нее не выносят, и чужие люди не могут зайти и посмотреть, кто что читал. Если школа ставит умного помощника прямо в эту библиотеку, все вопросы и ответы остаются внутри. Так и работает помощник в своем контуре: за стены ничего не уходит.

Простыми словами

Контур это граница сети компании: ее серверы, компьютеры сотрудников и правила, кто куда может зайти. Когда ИИ разворачивают в контуре, модель и все программы вокруг нее ставят на эти внутренние серверы. Запросы сотрудников и документы не уходят к внешнему поставщику. Иногда контур полностью закрыт, и система работает вообще без выхода в интернет. Так поступают банки, заводы, госорганы и все, кому нельзя выносить данные наружу, например бухгалтерия с зарплатными ведомостями.

Для бизнеса

Такой вариант снимает главный вопрос службы безопасности: куда уходят данные. Он упрощает работу с персональными данными по 152-ФЗ, коммерческой тайной и требованиями регуляторов. На старте он дороже облачного сервиса: серверы с видеокартами, установка, мониторинг, обновления моделей и люди, которые за всем этим следят. Риски: модель устаревает без обновлений, мощности не хватает при росте нагрузки, вся система держится на одном внутреннем специалисте. Перед решением сравнивают три варианта: облако, выделенный сервер у российского провайдера и свое железо. Такое сравнение входит в карту ИИ-решений.

Для специалиста

On-premise (размещение на площадке заказчика) означает, что вычисления, хранение и управление системой находятся на инфраструктуре организации. В терминах NIST SP 800-145 (Mell, Grance, 2011) ближе всего частное облако (private cloud): инфраструктура для исключительного использования одной организацией, размещенная на ее площадке или вне ее. Типовой ИИ-стек в контуре: сервер инференса с моделью с открытыми весами, векторная база для RAG, шлюз с аутентификацией через корпоративный каталог, журналирование запросов и ролевой доступ. Варианты: изолированный контур без интернета (air-gapped), где веса и пакеты обновляют через проверенный перенос, и гибридная схема, когда чувствительные данные обрабатывает своя модель, а обезличенные задачи уходят в облако. Инженерные вопросы: емкость GPU под пиковую нагрузку, обновление моделей без простоя, контроль версий весов и повторная оценка качества после каждой замены.

Пример

Банк хочет дать операционистам ИИ-помощника по внутренним инструкциям. Модель ставят на сервер в собственном дата-центре, доступ выдают по корпоративным учетным записям, а каждый запрос пишут в журнал для службы безопасности.

Связанные термины

Вопросы и ответы

Чем развертывание в контуре отличается от облака?

В облаке модель работает на серверах поставщика, и данные уходят к нему. В контуре модель стоит на серверах компании, и данные остаются внутри ее сети.

Можно ли развернуть ИИ в закрытом контуре без интернета?

Да, если модель с открытыми весами скачана заранее и запускается на своих серверах. Обновления моделей и программ в таком случае переносят вручную после проверки.

Источники

Где это применяют в компании

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений
Написать в Telegram