ММООЗЗГГ.ru

Словарь ИИ

Что такое SLA

Коротко

SLA (service level agreement, соглашение об уровне сервиса) это договоренность между поставщиком и клиентом о том, как быстро и надежно должна работать услуга и что будет, если обещание нарушено.

Бизнес и внедрение · service level agreement

Михаил МозгПроверено: 1 минута чтения

Ребенку

Ты договорился с другом: он каждое утро заходит за тобой в восемь часов, и вы вместе идете в школу. Если друг опоздал больше чем на пять минут, он несет твой портфель до самого класса. Это ваше маленькое правило: оба знают, чего ждать и что будет, если обещание не выполнено. У взрослых компаний бывают такие же договоренности.

Простыми словами

Когда компания покупает услугу, например облачный сервис или техподдержку, ей важно не только что делают, но и как. Соглашение об уровне сервиса переводит это в цифры: сервис доступен определенную долю времени в месяц, на срочную заявку отвечают за час, исправляют за сутки. Обе стороны измеряют эти показатели одинаково. Если поставщик не уложился, клиент получает скидку или компенсацию. Так обещание «работаем надежно» превращается в проверяемое условие договора.

Для бизнеса

Для ИИ-решений такое соглашение нужно с двух сторон. Снаружи облачный поставщик модели обещает доступность API: проверьте, входят ли в обещание время ответа и качество и чем компенсируется сбой, деньгами или кредитами на будущие запросы. Внутри подрядчик, который сопровождает агента, отвечает за время реакции на инциденты, восстановление и обновление базы знаний. Посмотрите, что именно меряется, как считается простой, какие исключения записаны мелким шрифтом и есть ли запасная модель на случай отказа основной. Для клиентов, которых обслуживает агент, тоже нужен свой показатель, например доля обращений с ответом за минуту. Чем строже обещания, тем дороже резервирование и дежурства. Риски одного поставщика разбирают отдельно.

Для специалиста

Service level agreement (SLA) это явный или неявный контракт с пользователями, где записаны последствия выполнения или нарушения целевых уровней сервиса; чаще всего последствия финансовые: скидка или штраф. В книге Google «Site Reliability Engineering» (глава «Service Level Objectives», Jones, Wilkes, Murphy, Smith) показатель уровня сервиса (service level indicator, SLI) определен как количественная мера, например доля успешных запросов или задержка, а цель (service level objective, SLO) как целевое значение или диапазон для SLI. Внутреннюю цель ставят строже, чем обещают пользователям, чтобы оставался запас на реакцию, а допустимую долю промахов мимо SLO считают бюджетом ошибок (error budget). Для LLM-сервисов к доступности добавляют задержку до первого токена (time to first token), скорость генерации, долю отказов по лимитам запросов (rate limits) и метрики качества ответов, которые трудно формализовать в договоре. Для моделей в контуре компании те же показатели закладывают во внутреннее соглашение между ИТ и бизнесом.

Пример

Компания подключила ИИ-агента поддержки через облачную модель. В договоре с подрядчиком записали: агент доступен круглосуточно, сбой устраняют за четыре часа, а при отказе модели запросы автоматически уходят на резервную.

Связанные термины

Вопросы и ответы

Чем SLA отличается от SLO?

SLO это внутренняя цель команды, например доля успешных запросов за месяц. SLA это обещание клиенту в договоре с последствиями за нарушение, поэтому его обычно ставят мягче внутренней цели.

Что проверить в SLA поставщика ИИ?

Что считается простоем, как меряют доступность и задержку, какие исключения есть в договоре и какая компенсация положена. Отдельно уточните лимиты запросов и порядок уведомления об отключении моделей.

Источники

Где это применяют в компании

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений
Написать в Telegram