ММООЗЗГГ.ru

Инструкция

Как внедрить локальный ИИ в компании: восемь шагов

7 мин20 источников

Внедрить локальный ИИ в компании надежнее в таком порядке: сначала правила про данные, потом одна задача, потом железо. Ниже восемь шагов с тем, что сделать, сколько это стоит и как понять, что шаг пройден, а после них ошибки, на которых внедрение чаще всего срывается, и люди, без которых оно не работает.

На странице · 12 разделов

Шаг 1. Политика данных

Разделите данные на три класса: можно наружу, только в российское облако, только внутри периметра. Агрохолдинг из кейсов раздела проводит вебинары для сотрудников и до конца 2026 года утверждает внутреннюю политику по ИИ. Результат шага: одна страница правил, подписанная руководителем.

Шаг 2. Одна задача с измеримым результатом

Возьмите задачу с потоком: разбор обращений, проверка договоров, ответы по базе знаний, черновики документов. Запишите метрику до старта: минуты на документ, доля обращений без оператора, число ошибок. Оператор связи вписал в тендер отклик до 400 мс и точность рефакторинга не ниже 85%: так выглядит измеримая задача.

Шаг 3. 50 тестовых запросов

Соберите 50 реальных запросов с ожидаемыми ответами. Это ваш экзамен для любой модели, облачной или локальной, и он важнее любого рейтинга. Сеть магазинов прогнала 3 сценария на 3 моделях по 3 раза и получила ответ за 27 запусков.

Шаг 4. Проба на арендованной карте

Арендуйте RTX 4090 от 43 ₽ в час или H100 от 242 ₽ в час в российском облаке с почасовой оплатой, поставьте Ollama или vLLM, прогоните 50 запросов на двух-трех открытых моделях: 8–9 млрд, 30 млрд, 70 млрд. Считайте качество и скорость. Неделя проб стоит 7 200–40 700 ₽ и заменяет покупку вслепую на миллион.

Шаг 5. Модель и движок

Выберите наименьшую модель, которая прошла экзамен: она дешевле по памяти и быстрее. Движок по числу пользователей: LM Studio или Ollama для одного, vLLM для отдела. Зафиксируйте версии модели и движка: обновление это отдельное событие с повторным экзаменом.

Шаг 6. Железо по калькулятору

Введите модель, контекст и число пользователей в калькулятор памяти, получите список подходящего железа. Затем калькулятор стоимости в месяц и точка окупаемости против облака. Ориентиры на 29.09.2026 по нашему расчету: Mac Studio со 128 ГБ 886 757 ₽ для 1–3 пользователей, рабочая станция с RTX 5090 около 1,1 млн ₽, сервер с двумя картами по 96 ГБ около 2,5 млн ₽ для отдела. Если окупаемости нет, а данные могут выходить наружу, остановитесь на облаке или аренде.

Шаг 7. Агенты через единый интерфейс

Агенты подключаются к модели через единый интерфейс, чтобы модель менялась настройкой. Тяжелую детерминированную обработку выносите в код, как сделал ИТ-руководитель банка: детерминированную обработку он вынес в отдельные приложения, остальное оставил агенту. Проектируйте цепочки короткими: в тесте сети магазинов задачу из двух шагов все три модели решили во всех прогонах, а на 15 шагах полностью проверяемого результата не дала ни одна, ни локальная, ни облачные.

Шаг 8. Мониторинг и обслуживание

Мониторинг температуры, ошибок памяти и времени ответа с первого дня. Резервные копии настроек и базы документов. План на отказ: запасная карта, договор аренды или переключение на облако для незакрытых данных. Ответственный человек, по нашей оценке, на 10–20% ставки для сервера отдела. Повторный экзамен на 50 запросах после каждого обновления.

Кто нужен в команде

Внедрению нужны три роли, и ни одна не требует нового отдела. Владелец задачи из бизнеса записывает метрику до старта и принимает результат. Служба безопасности или юрист делят данные на три класса из шага 1 и решают, что можно отправлять в облако. Инженер ставит движок, следит за картой и проводит повторный экзамен после обновлений.

Инженеру сервера отдела не нужна полная ставка. Медиана зарплаты DevOps-инженера по рынку 220 000–250 000 ₽ в месяц по обзору от 03.09.2026; по нашей оценке, на один сервер уходит 10–20% ставки, то есть 25 000–60 000 ₽ в месяц, или поддержка подрядчика. Для рабочей станции на одну команду хватает сотрудника, который умеет обновлять программы.

Где внедрение срывается

Железо куплено до пробы. Сервер на двух картах стоит около 2,5 млн ₽, неделя аренды 7 200–40 700 ₽: экзамен на арендованной карте дешевле любой ошибки в спецификации.

Цепочки агента слишком длинные. В тесте сети строительных магазинов на задаче из 15 шагов локальная модель дала 1 успех из 3 прогонов и 2 ложных отчета о завершении, а облачные модели тоже не дали полностью проверяемого результата. Делите процесс на шаги по 2–3 действия и проверяйте результат каждого шага кодом.

Одна карта без плана на отказ. По нашему пересчету отчета об обучении модели на 16 384 серверных картах, одна карта под полной нагрузкой дает серьезный сбой примерно раз в 2 100 дней; для сервера на 4 карты это раз в полтора года. Договор аренды, подписанный заранее, включает резерв за час, а не за неделю.

Правила для данных пишут после запуска. В 2023 году крупный производитель электроники запретил сотрудникам внешние чат-боты только после того, как трое из них загрузили туда исходный код и записи внутренних совещаний. Политика из шага 1 нужна до того, как сотрудники начнут пользоваться любой моделью.

Как это выглядит в компании

Оператор национальной страховой информационной системы развернул одну языковую модель локально и построил на ней три направления: разбор обращений, ответы поддержки по базе документов и проверку кода. Обработка обращений ускорилась в 20 раз, рост обращений в 1,5 раза за год компания обработала без найма. Вывод для вас: железо окупается, когда одну модель нагружают несколькими задачами, поэтому после первой задачи из шага 2 ищите вторую для того же сервера.

Производитель косметики выбрал средний путь: открытая модель и смысловой поиск по каталогу работают на арендованных картах в российском облаке. Данные не уходят во внешние сервисы, а покупать сервер не пришлось. Если шаг 6 не показал окупаемости, такой вариант может закрыть и задачу, и требование к данным.

Сроки и наша роль

По нашей оценке, шаги 1–5 занимают 2–4 недели, шаг 6 зависит от поставки железа, шаги 7–8 еще 2–4 недели. Мы делаем шаги 2–5 и 7 в пилоте за 14 дней от 149 000 ₽ на вашем или арендованном железе, а ИИ-отдел из 3–5 агентов на локальной модели за 4–6 недель от 390 000 ₽; железо покупаете вы по нашему расчету.

Вопросы и ответы

Можно ли пропустить пробу на аренде и сразу купить?

Можно, если задача типовая и модель до 32 млрд: рабочая станция или Mac Studio подойдут почти наверняка. Для сервера от 2 млн ₽ проба обязательна.

Сколько времени занимает установка модели?

По нашей оценке, на Mac или ноутбуке 10–30 минут. На сервере с vLLM день-два с настройкой и тестами, если инженер уже работал с видеокартами.

Что делать, если ни одна локальная модель не прошла экзамен?

Сначала проверьте модель крупнее на арендованной карте, например 70 млрд параметров вместо 30 млрд: неделя аренды дешевле вывода по одной модели. Если и она не проходит, разделите поток: обезличенные запросы отправляйте в облачную модель, закрытые данные оставьте локальной. Если закрытых данных в задаче нет, локальная модель этой задаче не нужна.

Как обновлять модель, если сервер без доступа в интернет?

Новую версию скачивают на внешней машине, проверяют по контрольным суммам и переносят через шлюз по регламенту безопасности. Ее ставят рядом со старой, прогоняют 50 тестовых запросов и только потом делают основной; старая остается для отката. По нашей оценке, обновления раз в квартал достаточно, если задача уже решается.

Кто в компании отвечает за внедрение?

Владелец процесса из бизнеса: он ставит метрику и принимает результат. ИТ отвечает за железо и движок, служба безопасности за классы данных. Без владельца из бизнеса пилот остается технической пробой, по которой никто не принимает решение о масштабе.

Источники и проверка

Проверено редакцией 29 сентября 2026.

  1. Tproger, облачные GPU для ML в 2026 году, 21.05.2026 (tproger.ru)
  2. Intelion Cloud, аренда H100/H200 (проверено 29.09.2026) (intelion.cloud)
  3. store-apple.msk.ru, Mac Studio M4 Max 128 ГБ, 29.09.2026 (store-apple.msk.ru)
  4. Регард, GeForce RTX 5090, цены на 29.09.2026 (regard.ru)
  5. iXBT, RTX PRO 6000 Blackwell 96 ГБ за 1,08 млн ₽ в DNS, 02.02.2026 (ixbt.com)
  6. Хабр (Slurm), зарплаты DevOps-инженеров, 03.09.2026 (habr.com)
  7. GPU Индекс, аренда RTX 4090 в России: 173 предложения, от 31,75 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  8. GPU Индекс, аренда H100 в России: 41 предложение, от 242 ₽ в час (проверено 30.09.2026) (gpuindex.ru)
  9. Цифровые платформы, кейс №3502, 2 сентября 2026: Аэропорт Пулково (platforms.su)
  10. Цифровые платформы, кейс №3534, 2 сентября 2026: Агрохолдинг «Степь» (platforms.su)
  11. ComNews, девелопер MR внедрил ГигаЧат в проверку условий проектного финансирования, 15.09.2026, 15 сентября 2026: Девелопер MR (comnews.ru)
  12. Цифровые платформы, кейс №3148, февраль 2026: Т2 (Tele2) (platforms.su)
  13. Цифровые платформы, кейс №4027, 2 сентября 2026: Фаберлик (platforms.su)
  14. Цифровые платформы, кейс №4085, 2 сентября 2026: Петрович-Тех (platforms.su)
  15. Цифровые платформы, кейс №2447, октябрь 2025: Т-Банк (platforms.su)
  16. Цифровые платформы, кейс №3855, 2 сентября 2026: Т-Технологии (platforms.su)
  17. Цифровые платформы, кейс №4067, 2 сентября 2026: Альфа-Банк, ИТ-руководитель (platforms.su)
  18. Tom's Hardware, сбои при обучении Llama 3 на 16 384 H100, 2024 (tomshardware.com)
  19. Tech Monitor, Samsung запретил ChatGPT после утечки, 02.05.2023 (techmonitor.ai)
  20. Цифровые платформы, кейс №3475, 2 сентября 2026: НСИС, оператор АИС страхования (platforms.su)

Нашли ошибку? Напишите нам

Публикации

Как создать чат-бот в Максе: инструкция для компании

Чтобы создать чат-бот в Максе, компании нужно пройти четыре шага на платформе MAX для партнеров: проверить профиль организации через Госуслуги, заполнить карточку бота, дождаться модерации до 48 часов по рабочим дням и собрать сценарий в конструкторе или своим кодом. Ниже каждый шаг по документации MAX, проверенной 16 октября 2026 года, а также как связать бота с сайтом, CRM и командой и на чем бо

ИнструкцияИТСредний11 мин

Кейсы по теме: 9

  • Кейс рынка · Россия

    Аэропорт Пулково ИИ-плагин безопасной разработки в закрытом контуре: точность более 90% на проверке находок и до 85% на исправлении

    Служба информационной безопасности аэропорта встроила анализ кода в среду разработки, а разбор уязвимостей и исправление кода передала обученному ИИ-плагину, который работает в закрытом контуре без выхода данных наружу. Точность модели более 90% на верификации находок и до 85% на исправлении уязвимостей.

    Промышленность и инфраструктура

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Агрохолдинг «Степь» собственная ИИ-экосистема на локальных нейросетях, чтобы не передавать данные в публичные сервисы

    Холдинг строит ИИ-экосистему на локальных нейросетях, агентах и чат-ботах, чтобы конфиденциальные данные не уходили в публичные сервисы. Реализована синхронизация данных управления стадом с государственной системой, развернут мониторинг правовой информации для бэк-офиса, запущено несколько аналитических проектов.

    Промышленность и инфраструктура

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Девелопер MR ИИ-контролер проектного финансирования в изолированном контуре: время на анализ кредитной документации меньше на 80%

    Девелопер вместе с банком внедрил ИИ-контролера на российской языковой модели для автоматической проверки условий проектного финансирования и мониторинга кредитных обязательств. По данным компании, время на анализ кредитной документации сократилось на 80%. Каждый крупный проект сопровождают сотни страниц кредитной документации и десятки дополнительных соглашений; система собирает мастер-версию каждого договора и ведет единый календарь обязательств.

    Промышленность и инфраструктура

    15 сентября 2026 · источник: comnews.ru

    Читать кейс
  • Кейс рынка · Россия

    Т2 (Tele2) тендер на ИИ-ассистента разработчика в закрытом ЦОД: 15 разработчиков, отклик не более 400 мс

    В феврале 2026 года оператор разместил тендер на автономного ИИ-ассистента для разработчиков, который разворачивается в закрытом дата-центре компании в Ростове-на-Дону, чтобы исходный код не покидал инфраструктуру. Требования: 15 пользователей, автодополнение с откликом не более 400 мс, шесть языков программирования.

    Связь

    2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Фаберлик нейросетевой поиск по каталогу на локальной модели Qwen и арендованных GPU

    Производитель косметики заменил классический поиск по каталогу нейросетевым: локальная языковая модель Qwen и векторный семантический поиск развернуты на GPU-инфраструктуре российского облака. Модель работает внутри контролируемой инфраструктуры, данные не передаются во внешние сервисы, затраты на обработку запросов под контролем.

    Ритейл и производство

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Петрович-Тех локальная модель на 9 млрд параметров сравнялась с облачными на задачах из 2–3 шагов: 27 прогонов

    ИТ-подразделение сети строительных магазинов сравнило три модели в единой агентной обвязке с 13 виджетами аналитической панели и около 30 инструментами: облачную западную модель, облачную открытую модель на 235 млрд параметров и локальную модель на 9 млрд параметров в 4-битной квантизации на одной видеокарте. Схема: 3 сценария, 3 модели, 3 прогона, 27 запусков.

    Ритейл и производство

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Т-Банк собственные LLM решают 45% обращений, по оценке затраты на поддержку ниже минимум на 25% в год

    Банк встроил в чат-бот собственные языковые модели семейства Gen-T: около 45% обращений клиентов решаются без оператора. В октябре 2025 года запущены ИИ-копайлоты для операторов первой линии, ими ежедневно пользуются более 90% сотрудников поддержки. Модели развернуты в периметре банка, данные вовне не передаются.

    Банки и финансы

    источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Т-Технологии ИИ-ассистент для задач с деньгами на собственных моделях Gen-T, бета с 20 июля 2026

    Группа разработала ИИ-ассистента для задач, связанных с деньгами и покупками, на собственных больших языковых моделях семейства Gen-T. Чтобы избежать выдумок, система опирается на верифицированные источники данных, а не только на знания модели. Бета представлена 20 июля 2026 года, полноценный запуск запланирован на осень.

    Банки и финансы

    2 сентября 2026 · источник: platforms.su

    Читать кейс
  • Кейс рынка · Россия

    Альфа-Банк, ИТ-руководитель локальный агент на модели Qwen 3.6-35B-A3B: около 70 токенов в секунду на Mac

    Автономный рабочий агент работает на локально развернутой модели с 35 млрд параметров и примерно 3 млрд активных на токен через LM Studio, скорость около 70 токенов в секунду на Mac. Сначала агент запускался в Docker на Mac, затем переехал на виртуальную машину, что стало переломным моментом по удобству.

    Банки и финансы

    2 сентября 2026 · источник: platforms.su

    Читать кейс
Написать в Telegram