Какие задачи LLM закрывает в компании
LLMбольшая языковая модель. Большая языковая модель (LLM) это нейросеть, обученная на огромном объеме текстов, которая пишет, пересказывает и разбирает текст по запросу., большая языковая модель, читает и пишет текст на обычном языке. Для компании это значит простую вещь: модель разбирает то, что раньше читал сотрудник, и готовит черновик ответа, документа или сводки.
Чаще всего модель ставят на пять потоков: входящие заявки, вопросы в поддержку, письма, документы и отчеты руководителю. Общее у них одно: много однотипного текста и понятное правило, какой ответ считать хорошим. Подробнее о том, как устроена модель, на отдельной странице.
Письма. Сервис Deutsche Telekom разбирает около 5 000 писем клиентов в неделю моделью GPT. 80% писем сами попадают в одну из 60 категорий и уходят в нужную очередь, экономия около 2 млн евро в год.
Отчеты. Сервис Draft One компании Axon пишет черновик полицейского отчета по записи с нагрудной камеры, сотрудник проверяет и подписывает. В блоге Microsoft приводится сокращение времени на отчеты на 82%.
Модель не заменяет учетную систему и не принимает решения за руководителя. Цифры она берет из CRM и 1С, а спорные случаи передает человеку.
Такие задачи уже массовые. По главе «Экономика» отчета Stanford AI Index 2026 генеративный ИИгенеративный ИИ. Генеративный ИИ (generative AI) это нейросети, которые создают новый контент: тексты, изображения, музыку, видео и программный код по описанию на обычном языке. хотя бы в одной функции используют 70% организаций.
Примеры: что уже работает у компаний
Ниже открытые проекты из раздела кейсов рынка. Это не наши клиенты: цифры взяты из публикаций самих компаний и их подрядчиков, ссылка на источник стоит на странице каждого кейса.
Поддержка. Генеративный агент AI.g авиакомпании Air India отвечает примерно на 40 000 запросов в день, человеку уходит только 3% вопросов. С запуска агент провел больше 13 млн диалогов и знает больше 1 300 разных вопросов.
База знанийбаза знаний для ИИ. База знаний для ИИ это отобранные и подготовленные документы компании, по которым ИИ-ассистент ищет ответы: регламенты, инструкции, каталог, ответы на частые вопросы. для сотрудников. Verizon загрузил в ассистента на модели Gemini почти 15 000 внутренних документов для команды поддержки из 28 000 человек. Операторы быстрее находят ответ, а продажи через сервисную команду с июля 2024 года выросли почти на 40%.
Общее у этих проектов: один процесс, своя база знаний и цифра до и после. С этого же начинается пилот на любой модели, и неважно, какой поставщик стоит за ней.
Модель, агент или отдел: что внедрять
Модель сама по себе отвечает на вопросы в окне чата. Сотрудники пользуются ей как помощником, но в CRM и 1С ничего не меняется, а результат трудно посчитать в деньгах.
ИИ-агентИИ-агент. ИИ-агент это нейросеть, которая сама выполняет задачу по шагам: ищет данные и пользуется программами, а в конце проверяет результат. это модель плюс инструменты и правила. Он читает заявку, смотрит остаток в 1С, заводит сделку в CRM и передает сложный случай человеку. Агента ставят на один процесс и меряют одной метрикой.
ИИ-отдел это 3–5 агентов на общих данных: продажи, поддержка, запись, отчеты руководителю. Мы собираем его за 4–6 недель, от 390 000 ₽, с подключением к вашим системам.
Порядок обычно такой: сначала один агент на процессе с понятной метрикой, затем отдел. Если процессов много и неясно, с какого начать, сначала нужна карта: она показывает, где ИИ вернет деньги, а где он не нужен.
Интеграция с CRM, 1С и базой знаний
Интеграция LLM с корпоративными системами означает, что модель не живет в отдельном окне. Агент получает доступ к CRM, 1С, почте и базе знаний с правами только на свой процесс, а каждое его действие пишется в журнал.
Агент в 1С читает остатки, цены и долги, отвечает клиенту цифрами и по вашим правилам создает заказ или счет. Справочники он не меняет и документы без контроля не проводит.
Заявка из мессенджера становится сделкой в amoCRM или Битрикс24 с историей переписки в карточке. Менеджер видит разговор целиком и подключается, когда клиент готов покупать.
Регламенты, прайс и ответы поддержки модель находит поиском по смыслу и отвечает по ним со ссылкой на документ. Такой подход называют RAGRAG. RAG это схема, в которой ИИ сначала находит нужные фрагменты в ваших документах, а потом отвечает, опираясь на них.: модель не обучают заново, а к каждому вопросу дают ей нужные фрагменты ваших документов.
Как это выглядит вместе, показывает разбор оптовой компании на открытых данных: ответ на заявку за минуту вместо следующего дня, остатки из 1С, сделка в CRM. Это пример расчета, а не отчет клиента.
Данные и 152-ФЗ: облако или своя модель
Если модель работает с данными клиентов, действует 152-ФЗ. По части 5 статьи 18 запись, накопление и хранение персональных данных граждан России в базах за рубежом не допускаются, кроме случаев, которые закон перечисляет отдельно.
Поэтому главный вопрос не в том, какая модель умнее, а в том, куда уходят данные. Облачная модельоблачная модель. Облачная модель это нейросеть, которая работает на серверах поставщика, а вы пользуетесь ею через сайт, приложение или API и платите за объем запросов. за рубежом подходит для задач без персональных данных: тексты для сайта, разбор открытых документов, черновики писем.
Где есть имена, телефоны и история заказов, модель ставят в своем контуре или делят поток. Обезличенный запрос идет в облако, а персональные данные остаются на вашем сервере. Подробнее о требованиях закона и о гибридной схеме на страницах раздела о суверенном ИИсуверенный ИИ. Суверенный ИИ это нейросети и инфраструктура под контролем страны или компании: разработка, серверы и данные находятся у себя, а не у иностранного поставщика..
Своя модель уже рабочий вариант и для крупных компаний в России. Северсталь сама собрала 6 цифровых помощников для закупок на открытых языковых моделях: скорость получения данных и подготовки документов выросла в 10 раз.
Сколько стоит и как считать окупаемость
Цена внедрения складывается из трех частей: разработка агента, плата за модель и сопровождение. Наш пилот одного агента стоит от 149 000 ₽ за 14 дней, сопровождение от 40 000 ₽ в месяц.
Окупаемость считают от процесса, а не от модели. Возьмите часы сотрудников на процессе в месяц, умножьте на стоимость часа с налогами и сравните с сопровождением и расходом на модель. Пошаговый расчет с формулой есть на странице об окупаемости ИИ-агента.
Расход на модель зависит от объема текста. Если простые и сложные запросы идут вперемешку, простые можно отдать недорогой модели, а сильную держать для трудных случаев: так работает маршрутизация моделей.
Цены серверов и моделей меняются каждый месяц, поэтому мы не пишем их здесь. Свежие расчеты лежат в калькуляторах раздела о суверенном ИИ.
В договор пилота мы записываем метрику успеха. Если она не достигнута, вы видите это в отчете в цифрах, а не в ощущениях.
С чего начать: карта и пилот
Если процесс уже ясен, начинайте с пилота: один агент, один процесс, 14 дней, метрика в договоре. Если идете дальше, стоимость пилота засчитывается в цену отдела.
Если процессов много и непонятно, где ИИ вернет деньги, начните с карты ИИ-решений. За 7 недель мы разбираем компанию по процессам и считаем потери, решения, эффект в рублях и риски, включая 152-ФЗ. Карта для всей компании стоит от 7,7 млн ₽.
Чтобы выбрать первый процесс, ответьте на три вопроса: где больше всего однотипного текста, где ошибка дешевле и где результат легко посчитать. Процесс, который проходит по всем трем, и есть кандидат на пилот.