Словарь ИИ
Термины машинного обучения
Как компьютер учится на данных: обучение с учителем и без, переобучение, метрики, нейросети разных типов.
Михаил Мозг·Проверено: ·6 минут чтения
Термины категории
- автоэнкодерАвтоэнкодер это нейросеть, которая сжимает данные в короткий код и восстанавливает их обратно, а по ходу учится выделять в них главное.
- ансамбль моделейАнсамбль моделей это несколько моделей машинного обучения, чьи ответы объединяют в один прогноз, чтобы он получился точнее и устойчивее, чем у каждой модели по отдельности.
- аугментация данныхАугментация данных это способ расширить обучающую выборку измененными копиями имеющихся примеров: повернутыми фото, перефразированными текстами, зашумленными записями.
- батчБатч это порция обучающих примеров, по которой модель за один шаг считает ошибку и обновляет свои веса.
- бейзлайнБейзлайн это простое исходное решение задачи, с которым сравнивают новую модель, чтобы понять, дает ли она реальный выигрыш.
- блендингБлендинг это способ объединить прогнозы нескольких моделей с помощью еще одной модели, которую обучают на отдельной отложенной части данных.
- валидационная выборкаВалидационная выборка это отложенная часть данных, на которой сравнивают варианты модели и ее настроек во время разработки, не трогая финальный тест.
- вариационный автоэнкодерВариационный автоэнкодер (VAE) это нейросеть, которая сжимает данные в случайный код с заданным распределением и умеет создавать из этого пространства новые похожие примеры.
- генеративно-состязательная сетьГенеративно-состязательная сеть (GAN) это пара нейросетей, где одна создает поддельные примеры, а другая учится отличать их от настоящих, и в этом соревновании первая начинает выдавать правдоподобные картинки.
- гиперпараметрыГиперпараметры это настройки обучения, которые человек задает до старта и которые модель сама не меняет: скорость обучения, размер батча, число эпох, размер сети.
- градиентный бустингГрадиентный бустинг это метод машинного обучения, который строит много небольших деревьев решений одно за другим, и каждое новое дерево исправляет ошибки уже построенных.
- градиентный спускГрадиентный спуск это способ обучения модели, при котором ее внутренние числа шаг за шагом сдвигают туда, где ошибка уменьшается быстрее всего.
- дисбаланс классовДисбаланс классов это ситуация, когда в обучающих данных примеров одного класса намного больше, чем другого, и модель почти перестает замечать редкий класс.
- дрейф данныхДрейф данных это изменение реальных данных после запуска модели, из-за которого они перестают походить на обучающие, и качество прогнозов тихо падает.
- классификацияКлассификация это задача машинного обучения, в которой модель относит объект к одному из заранее известных классов: спам или не спам, жалоба или вопрос, брак или норма.
- кластеризацияКластеризация это метод машинного обучения, который сам делит объекты на группы похожих без заранее заданных ответов: клиентов, товары, тексты обращений.
- кросс-валидацияКросс-валидация это способ оценить модель, при котором данные по очереди делят на части для обучения и проверки, а результаты усредняют.
- матрица ошибокМатрица ошибок это таблица, в которой ответы модели сопоставлены с правильными ответами, и по ней видно, сколько раз и в какую сторону модель ошиблась.
- модель вознагражденияМодель вознаграждения это нейросеть, которая ставит оценку ответу языковой модели, предсказывая, насколько он понравится человеку, а по этим оценкам основную модель дообучают.
- недообучениеНедообучение это ошибка, при которой модель слишком проста или недоучена и не улавливает закономерность даже в тех данных, на которых училась.
- нормализация данныхНормализация данных это приведение числовых признаков к сопоставимому масштабу, например к отрезку от нуля до единицы, чтобы ни один из них не перевешивал остальные только из-за единиц измерения.
- обратное распространение ошибкиОбратное распространение ошибки это алгоритм, который вычисляет, какой вклад каждый вес нейросети внес в ошибку, проходя по сети от выхода к входу.
- обучающая выборкаОбучающая выборка это часть данных, на которой модель подбирает свои веса: примеры с известными ответами, по которым она учится.
- перенос обученияПеренос обучения (transfer learning) это подход, при котором модель, уже обученную на одной большой задаче, доучивают под новую задачу на небольшом наборе данных.
- переобучениеПереобучение это ошибка обучения, при которой модель запоминает обучающие примеры вместе с их случайными деталями и плохо работает на новых данных.
- признакиПризнаки это свойства объекта в виде чисел или категорий, по которым модель делает прогноз: возраст клиента, сумма заказа, день недели.
- разведочный анализ данныхРазведочный анализ данных (EDA) это первое знакомство с набором данных: графики, сводные цифры и проверки, которые показывают, что в данных есть, чего не хватает и где ошибки.
- разметка данныхРазметка данных это работа, при которой люди или программы подписывают примеры для обучения модели: что изображено на фото, о чем письмо, где в тексте имя клиента.
- регрессияРегрессия это задача машинного обучения, в которой модель предсказывает число: цену, спрос, срок доставки или расход топлива.
- регуляризацияРегуляризация это набор приемов, которые не дают модели подгоняться под случайные детали обучающих данных и помогают ей работать на новых.
- рекуррентная нейросетьРекуррентная нейросеть (RNN) это нейросеть, которая читает данные по одному элементу и хранит внутреннюю память о прочитанном, поэтому подходит для текста, речи и рядов чисел.
- сверточная нейросетьСверточная нейросеть (CNN) это нейросеть для изображений и сигналов, которая просматривает картинку небольшими окнами и собирает из мелких деталей целые объекты.
- синтетические данныеСинтетические данные это примеры, которые создала программа или нейросеть, а не собрали из реальной жизни: тексты, таблицы и картинки для обучения и проверки моделей.
- скорость обученияСкорость обучения это число, которое задает, насколько сильно модель меняет свои веса на каждом шаге обучения.
- случайный лесСлучайный лес это алгоритм машинного обучения, который строит много деревьев решений на случайных частях данных и объединяет их ответы голосованием или усреднением.
- стекингСтекинг это способ объединить несколько моделей, при котором их прогнозы становятся входными данными для еще одной модели, и уже она выдает итоговый ответ.
- тестовая выборкаТестовая выборка это данные, которые модель не видела ни при обучении, ни при настройке и по которым один раз получают итоговую оценку качества.
- точность и полнотаТочность и полнота (precision и recall) это две метрики качества модели: первая показывает, какая доля найденного верна, вторая показывает, какую долю нужного модель нашла.
- функция потерьФункция потерь это формула, которая превращает ошибку модели в одно число: чем оно меньше, тем ближе ответы модели к правильным.
- целевая переменнаяЦелевая переменная это величина, которую модель учится предсказывать: уйдет ли клиент, сколько товара купят, сколько стоит квартира.
- эпохаЭпоха в машинном обучении это один полный проход модели по всем обучающим примерам.
- dropoutDropout это прием обучения нейросетей, при котором на каждом шаге часть нейронов случайно выключают, чтобы сеть не полагалась на отдельные связи.
- F1-мераF1-мера это одно число от нуля до единицы, которое объединяет точность и полноту модели и получается высоким, только когда высоки обе.
- MLOpsMLOps это набор практик и инструментов, которые переводят модель машинного обучения из эксперимента в стабильную работу: сборку, выкладку, мониторинг и повторное обучение.
- ROC-AUCROC-AUC это площадь под ROC-кривой, число от нуля до единицы, которое показывает, насколько уверенно модель ставит положительные примеры выше отрицательных при любых порогах.