Словарь ИИ
Что такое вектор
Коротко
Вектор это упорядоченный список чисел, которым модель описывает слово, картинку, клиента или другой объект, чтобы считать с ним и сравнивать его с остальными.
Математика ИИ · vector
Михаил МозгПроверено: 1 минута чтения
Ребенку
Представь, что про каждую игрушку ты записываешь три числа: насколько она большая, насколько мягкая и насколько яркая. У плюшевого мишки получится одна тройка чисел, у пластмассовой машинки другая. По этим числам можно понять, какие игрушки похожи, даже не глядя на них. Такую строчку чисел математики называют вектором.
Простыми словами
Компьютер не умеет работать со смыслом напрямую, ему нужны числа. Поэтому любой объект переводят в ряд чисел, где у каждой позиции свое значение. Квартиру можно описать так: площадь, этаж, год постройки, расстояние до метро. Если у двух квартир такие ряды близки, квартиры похожи. Нейросети делают то же самое с текстами и картинками, только чисел у них сотни или тысячи, и что означает каждое, человек уже не скажет. Зато по близости этих рядов модель находит похожие документы и товары.
Для бизнеса
Для бизнеса это основа поиска по смыслу и рекомендаций. Документы компании, карточки товаров и обращения клиентов превращают в числовые описания и хранят в векторной базе. На вопрос сотрудника система находит ближайшие по смыслу фрагменты, даже если слова в них другие. От длины описания и числа документов зависят объем памяти и цена хранения. Есть и риск: исследование Morris и др. (EMNLP 2023) показало, что из такого описания можно восстановить значительную часть исходного текста, в опыте с медицинскими записями даже полные имена. Поэтому эти базы защищают так же, как сами документы. Как это работает на ваших данных, проверяют вместе с ИИ-ассистентом на пилоте.
Для специалиста
Вектор (vector) в машинном обучении это упорядоченный массив чисел, каждый элемент которого определяется индексом; формально элемент n-мерного вещественного пространства. В учебнике Deep Learning (Goodfellow, Bengio, Courville, 2016) он стоит в ряду скаляр, вектор, матрица, тензор. Над такими массивами определены операции линейной алгебры: сложение, умножение на число, скалярное произведение (dot product), норма (norm). Через них выражены почти все вычисления нейросети: вход слоя, веса нейрона, эмбеддинги токенов, градиент функции потерь. Близость двух объектов измеряют косинусным сходством (cosine similarity) или евклидовым расстоянием. Mikolov, Yih и Zweig (NAACL 2013) показали, что в представлениях слов отношения кодируются постоянными сдвигами (vector offset): результат «King» минус «Man» плюс «Woman» оказывается очень близок к представлению «Queen». В современных моделях размерность эмбеддингов исчисляется сотнями и тысячами компонент, а поиск ближайших соседей среди миллионов записей выполняют приближенными методами.
Не путать. Не путать с вектором в значении «направление развития» и с векторной графикой: здесь речь о списке чисел, с которым работает модель.
Пример
Магазин переводит описания товаров в числовые описания. Покупатель ищет «теплая куртка для города», и система показывает парки и пуховики, у которых в названии нет слова «куртка», но вектор близок к запросу.
Связанные термины
Вопросы и ответы
Что такое вектор в нейросети?
Чем вектор отличается от эмбеддинга?
Источники
- Goodfellow, Bengio, Courville, Deep Learning, глава 2 Linear Algebra, MIT Press, 2016deeplearningbook.org
- Mikolov, Yih, Zweig, Linguistic Regularities in Continuous Space Word Representations, NAACL 2013aclanthology.org
- Morris и др., Text Embeddings Reveal (Almost) As Much As Text, EMNLP 2023arxiv.org
Где это применяют в компании
Не уверены, нужно ли это вашей компании?
Карта ИИ-решений