Словарь ИИ

Что такое обучение модели

Коротко

Обучение модели это процесс, в котором программа много раз сверяет свои ответы с правильными и подстраивает внутренние параметры, пока ошибок не станет мало.

Основы ИИ · training

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Помнишь, как ты учился бросать мяч в корзину? Бросил, промахнулся вправо, в следующий раз взял чуть левее. Каждая попытка что-то подсказывала. Компьютер учится похоже: делает догадку, узнает, насколько промахнулся, и чуть-чуть меняет себя. После очень многих таких попыток он попадает почти всегда.

Простыми словами

Перед стартом программа отвечает наугад. Ей дают пример, скажем фото с подписью «собака», и смотрят, что она сказала. Если ответ «кошка», специальная формула считает, насколько это далеко от правды, и подсказывает, в какую сторону сдвинуть каждую внутреннюю настройку. Шаг за шагом, на тысячах примеров, ошибка уменьшается. Один полный проход по всем примерам называют эпохой, и таких проходов бывает много. Когда результат на новых, незнакомых примерах перестает расти, учебу останавливают.

Для бизнеса

Компании редко учат крупную нейросеть с нуля: это требует огромных вычислений и данных. Обычно выбирают один из трех путей: взять готовую систему с хорошей инструкцией, подключить к ней свои документы через RAG или дообучить ее на собственных примерах. Дообучение дает нужный стиль и знание предметной области, но стоит денег на подготовку примеров и аренду видеокарт, а с выходом новой базовой версии его приходится повторять. Риск: если в примерах есть ошибки или персональные данные, система их запомнит. Какой путь окупится, сравнивают по расчету на конкретном процессе еще до закупки серверов.

Для специалиста

Обучение (training) это оптимизация параметров θ по функции потерь (loss), усредненной по обучающей выборке. Градиенты считают обратным распространением ошибки (backpropagation), которое для многослойных сетей показали Д. Румельхарт, Дж. Хинтон и Р. Уильямс в Nature в 1986 году. Параметры обновляет стохастический градиентный спуск (SGD) по мини-батчам или адаптивные методы; распространенный вариант Adam (Д. Кингма, Дж. Ба, 2014) подбирает шаг для каждого параметра по оценкам первого и второго моментов градиента. Ключевые гиперпараметры: скорость обучения (learning rate), размер батча, число эпох, регуляризация (weight decay, dropout). Переобучение (overfitting) отслеживают по валидационной выборке и останавливают процесс досрочно (early stopping). У больших языковых моделей этапы такие: предобучение (pretraining) на больших корпусах, дообучение на инструкциях (supervised fine-tuning), выравнивание по предпочтениям (RLHF, DPO). Экономные способы дообучения: LoRA и другие методы PEFT.

Пример

Банк дообучает открытую нейросеть на тысяче своих ответов клиентам. После этого ассистент пишет в принятом в банке тоне и правильно называет продукты.

Связанные термины

Вопросы и ответы

Сколько длится обучение модели?

От минут до месяцев. Небольшую модель на таблице учат за минуты на обычном компьютере, дообучение языковой модели занимает часы или дни на видеокартах. Крупную нейросеть с нуля учат на больших вычислительных кластерах, и это дорого.

Чем обучение с нуля отличается от дообучения?

Обучение с нуля начинается со случайных параметров и требует огромного объема данных. Дообучение берет уже обученную систему и подстраивает ее на небольшом наборе своих примеров, поэтому обходится намного дешевле.

Источники

Где это применяют в компании

Сервер для ИИ: конфигурации и стоимость

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений