Словарь ИИ

Что такое периферийный ИИ

Коротко

Периферийный ИИ (edge AI) это нейросети, которые работают прямо на устройстве или рядом с ним: в камере, станке, телефоне, а не в удаленном облаке.

Инфраструктура · edge AI

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Представь робота-пылесоса, который сам замечает носок на полу и объезжает его. Ему некогда звонить кому-то и спрашивать, что делать: пока ждешь ответа, уже наедешь. Поэтому маленький мозг стоит прямо внутри. Так же устроены умные камеры и игрушки, которые думают сами, а не просят помощи у большого компьютера где-то далеко.

Простыми словами

Обычно нейросеть живет в дата-центре: устройство отправляет туда фото или звук и ждет ответа. При периферийном подходе модель запускают там, где появляются данные: на камере у ворот склада, в контроллере станка, в смартфоне. Ответ приходит за доли секунды, интернет не нужен, а снимки и записи никуда не уходят. Цена этого: устройство слабее сервера, поэтому модели берут маленькие и сжатые. Например, камера на конвейере сама отличает бракованную бутылку от целой и сразу дает сигнал убрать ее с ленты.

Для бизнеса

Такой подход выбирают, когда важны скорость реакции, работа без связи или когда данных слишком много, чтобы гнать их в облако: видео с десятков камер, телеметрия станков, голос в машинах. Деньги уходят в устройства и их обслуживание, а не в счет за токены, зато трафик и облачные расходы падают. Риски: парк устройств надо обновлять, следить за версиями моделей и защищать каждое устройство, к которому есть физический доступ. Точность маленькой модели ниже, поэтому сложные случаи часто передают на сервер. До внедрения проверьте, хватает ли мощности железа на вашу модель и как вы будете обновлять ее на сотнях точек; это проверяют на пилоте на одной линии.

Для специалиста

Периферийный ИИ, или edge intelligence, переносит обучение и особенно инференс моделей из центра сети на ее край, ближе к источникам данных. Zhou и соавторы (2019) в обзоре для Proceedings of the IEEE описывают его как стык ИИ и периферийных вычислений (edge computing), которые выносят вычислительные задачи и сервисы из ядра сети на периферию, и разбирают архитектуры обучения и инференса глубоких моделей на краю. Типовые схемы: полностью локальный инференс на устройстве, разбиение модели между устройством и ближайшим узлом (model partitioning), каскад, где легкая модель отвечает сама, а неуверенные случаи отправляет на сервер. Модели готовят квантизацией, прунингом и дистилляцией, а запускают через рантаймы вроде LiteRT, построенного на основе TensorFlow Lite, с ускорением на CPU, GPU и NPU. Ограничения: память, энергопотребление и тепловой режим устройства, а также безопасная доставка обновлений на весь парк.

Пример

Сеть АЗС ставит у касс камеры, которые сами считают очередь и замечают оставленные без присмотра вещи. Видео не уходит в облако: на сервер отправляются только события и счетчики, поэтому канала связи хватает даже на дальних заправках.

Связанные термины

Вопросы и ответы

Что такое edge AI?

Это английское название периферийного ИИ: нейросети работают на самом устройстве или рядом с ним, а не в облаке. Так устроены умные камеры, голосовые функции телефонов и системы контроля качества на заводах.

Чем периферийный ИИ отличается от облачного?

Облачная модель мощнее, но требует связи и отправки данных на чужой сервер. Модель на устройстве отвечает без задержки сети и держит данные на месте, зато ограничена слабым железом, поэтому оба подхода часто совмещают.

Источники

Где это применяют в компании

ИИ в экономике и бизнесе: где работает и что дает по секторам

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений