Словарь ИИ
Что такое TCO
Коротко
TCO (total cost of ownership, совокупная стоимость владения) это все деньги, которые компания тратит на систему за весь срок ее работы: покупка, внедрение, сопровождение, люди и простои.
Бизнес и внедрение · total cost of ownership
Редакция ММООЗЗГГ.ruПроверено: 1 минута чтения
Ребенку
Ты просишь щенка и думаешь, что он стоит столько, сколько за него заплатят в питомнике. Но щенку нужны корм, миска, поводок, прививки и прогулки каждый день. За несколько лет на заботу уйдет гораздо больше, чем на покупку. Взрослые тоже считают не только цену покупки, но и все, что придется тратить потом.
Простыми словами
Цена в счете показывает только начало расходов. Возьмем принтер: дешевая модель может требовать дорогих картриджей, и через два года она обойдется дороже солидной. Стоимость владения складывает все траты за срок службы: покупку, установку, обучение, обслуживание, ремонт, расходные материалы, электричество и время, когда вещь сломана и не работает. Так видно, какой вариант на самом деле дешевле, а не только какой дешевле сегодня.
Для бизнеса
ИИ-решения редко дороги в момент запуска и часто дороги в эксплуатации. В расчет входят разработка и интеграции, оплата токеновтокен. Токен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель. облачной модели или серверы с видеокартами для своей, мониторинг качества ответов, обновление базы знанийбаза знаний для ИИ. База знаний для ИИ это отобранные и подготовленные документы компании, по которым ИИ-ассистент ищет ответы: регламенты, инструкции, каталог, ответы на частые вопросы., время сотрудников на проверку и разбор ошибок. Даже у MVP есть стоимость владения: если бот понравился, расходы на него растут вместе с числом диалогов. Облако дешевле на старте, свой сервер выгоднее при большом и ровном потоке запросов, поэтому сценарии сравнивают на горизонте нескольких лет. Зависимость от одного поставщика тоже стоит денег: смена модели требует переделки промптов и повторной проверки. Такой расчет входит в карту ИИ-решений и делается до выбора архитектуры.
Для специалиста
Совокупная стоимость владения (total cost of ownership, TCO) суммирует капитальные (CapExкапитальные затраты. Капитальные затраты (capex) это деньги, которые компания тратит на долгосрочные активы: здания, серверы, оборудование, а не на текущие расходы месяца.) и операционные (OpEx) затраты на систему за горизонт планирования, иногда с дисконтированием. Для ИИ-систем расходы делят на прямые: лицензии или API по тарифу за токены, GPU и электроэнергию, хранилище, сеть; и косвенные: интеграции, MLOpsMLOps. MLOps это набор практик и инструментов, которые переводят модель машинного обучения из эксперимента в стабильную работу: сборку, выкладку, мониторинг и повторное обучение., оценку и мониторинг, повторную разметку, разбор инцидентов, требования регуляторов. Авторы статьи «Hidden Technical Debt in Machine Learning Systems» (Sculley и др., NIPS 2015) показали, что реальные системы машинного обучения накапливают большие постоянные расходы на сопровождение из-за запутанных зависимостей от данных, скрытых обратных связей и изменений внешней среды. Поэтому затраты считают на уровне всей системы, а не одной модели. Для собственной инфраструктуры оценивают стоимость миллиона токенов с учетом загрузки GPU, для облака прогнозируют объем запросов и длину контекста.
Пример
Компания сравнила два варианта ИИ-ассистентаИИ-ассистент. ИИ-ассистент это помощник на нейросети, который по просьбе человека отвечает на вопросы, готовит тексты и выполняет простые поручения в рабочих программах. поддержки. Облачная модель стоила меньше в первый год, но при росте обращений расходы на токены обогнали аренду собственного сервера уже на второй год.
Связанные термины
Вопросы и ответы
Источники
Где это применяют в компании
Не уверены, нужно ли это вашей компании?
Карта ИИ-решений