Словарь ИИ
Термины языковых моделей
Как устроены большие языковые модели: токены, контекст, трансформер, обучение и запуск. Без этих слов трудно понять, что происходит в чате с нейросетью.
Михаил Мозг·Проверено: ·7 минут чтения
Термины категории
- токенТокен это кусочек текста: слово, часть слова или знак, с которыми работает языковая модель.
- большая языковая модельБольшая языковая модель (LLM) это нейросеть, обученная на огромном объеме текстов, которая пишет, пересказывает и разбирает текст по запросу.
- эмбеддингЭмбеддинг это список чисел, по которому компьютер понимает смысл текста или картинки и находит похожие.
- маршрутизатор моделейМаршрутизатор моделей (LLM router) это программа, которая для каждого запроса выбирает, какой языковой модели его отправить: простые вопросы дешевой и быстрой, сложные более мощной.
- галлюцинации нейросетиГаллюцинация это ответ нейросети, который звучит уверенно, но содержит выдуманные или неверные факты.
- базовая модельБазовая модель (foundation model) это большая нейросеть, обученная на огромном объеме общих данных, которую потом приспосабливают к множеству конкретных задач.
- бенчмаркБенчмарк это стандартный набор заданий с известными ответами, по которому сравнивают нейросети между собой.
- весаВеса это числа внутри нейросети, которые задают силу связей между ее элементами и хранят все, чему модель научилась при обучении.
- визуально-языковая модельВизуально-языковая модель (VLM) это нейросеть, которая принимает изображение и текст и отвечает словами: описывает фото, читает документ, отвечает на вопросы по картинке.
- выравниваниеВыравнивание (alignment) это настройка ИИ, после которой он ведет себя так, как задумали люди: полезно, честно и без вреда.
- вычисления при ответеВычисления при ответе (test-time compute) это дополнительные расчеты, которые модель тратит уже во время ответа, например на рассуждение или проверку нескольких вариантов, чтобы решить задачу точнее.
- дата отсечения знанийДата отсечения знаний это момент, до которого собраны тексты для обучения языковой модели: о событиях позже нее модель сама не знает.
- декодерДекодер это часть нейросети, которая создает выходную последовательность по одному элементу, каждый раз опираясь на уже написанное.
- дистилляцияДистилляция это способ обучить небольшую модель повторять ответы большой, чтобы получить почти тот же результат дешевле и быстрее.
- длинный контекстДлинный контекст это способность языковой модели принять и учесть за один запрос очень большой объем текста: толстые документы, долгую переписку или целый репозиторий кода.
- дообучениеДообучение это настройка уже обученной модели на ваших примерах, чтобы она точнее выполняла конкретную задачу или писала в нужном стиле.
- законы масштабированияЗаконы масштабирования это наблюдаемые зависимости, по которым качество языковой модели предсказуемо растет с числом параметров, объемом данных и вычислений.
- инструктивная настройкаИнструктивная настройка это дообучение языковой модели на парах «инструкция и правильный ответ», после которого она выполняет просьбы, а не просто продолжает текст.
- инференсИнференс это работа уже обученной модели, когда она получает запрос и вычисляет ответ, в отличие от обучения, на котором ее только настраивали.
- квантизацияКвантизация это сжатие нейросети, при котором ее числа хранят с меньшей точностью, чтобы модель занимала меньше памяти и работала быстрее.
- конституционный ИИКонституционный ИИ (Constitutional AI) это метод Anthropic, при котором модель учат безопасному поведению по письменному списку принципов: она сама критикует и исправляет свои ответы, а люди только составляют правила.
- контекстное окноКонтекстное окно это объем текста в токенах, который языковая модель видит за один раз: инструкции, документы, вопрос и ее собственный ответ.
- кэширование промптовКэширование промптов (prompt caching) это прием, при котором провайдер модели сохраняет уже обработанное начало запроса и при повторе берет его из памяти: ответ приходит быстрее и стоит дешевле.
- латентностьЛатентность это задержка между запросом к модели и ответом: сколько ждать первого слова и сколько времени уходит на весь ответ.
- логитыЛогиты это необработанные числовые оценки, которые модель выдает каждому возможному варианту ответа, например каждому токену словаря, до превращения их в вероятности.
- малая языковая модельМалая языковая модель (small language model, SLM) это компактная языковая модель на единицы миллиардов параметров или меньше, которая работает на обычном сервере, ноутбуке или телефоне.
- механизм вниманияМеханизм внимания это способ, которым нейросеть для каждого слова решает, на какие другие слова текста опереться и насколько сильно.
- модель мираМодель мира (world model) это внутренняя модель среды в нейросети, которая предсказывает, как мир изменится после действия, и позволяет агенту планировать, прежде чем действовать.
- модель с открытыми весамиМодель с открытыми весами (open-weights model) это нейросеть, файлы параметров которой можно скачать и запустить на своем оборудовании.
- открытый исходный код в ИИОткрытый исходный код в ИИ (open source AI) это подход, при котором модель публикуют так, что ее можно свободно использовать, изучать, менять и распространять: с весами, кодом и сведениями об обучающих данных.
- оценка моделейОценка моделей (evals) это систематическая проверка ответов ИИ на наборе задач вашей компании, чтобы понять, насколько он точен, безопасен и готов к работе.
- параметры моделиПараметры модели это числа внутри нейросети, которые она подбирает при обучении и по которым потом вычисляет каждый ответ.
- перплексияПерплексия это метрика качества языковой модели, которая показывает, насколько модель «удивлена» текстом: чем ниже значение, тем точнее она предсказывает следующие токены.
- позиционное кодированиеПозиционное кодирование это способ сообщить трансформеру порядок слов: к описанию каждого токена добавляют сведения о его месте в тексте.
- предобучениеПредобучение это первый большой этап создания языковой модели, на котором она учится угадывать продолжение текста по огромному массиву книг, сайтов и кода.
- рассуждающая модельРассуждающая модель (reasoning model) это языковая модель, которая перед ответом пишет для себя ход решения и тратит на сложную задачу больше времени и вычислений.
- смесь экспертовСмесь экспертов (mixture of experts, MoE) это устройство нейросети, в котором на каждое слово работает только небольшая часть модели, выбранная распределителем.
- температураТемпература это настройка генерации, которая управляет случайностью ответа языковой модели: при низком значении ответы предсказуемее, при высоком разнообразнее.
- токенизацияТокенизация это разбиение текста на токены, то есть кусочки слов и знаки, которые языковая модель переводит в числа и только потом читает.
- трансформерТрансформер это архитектура нейросети, которая читает весь текст сразу и с помощью механизма внимания решает, какие слова важны для понимания каждого слова.
- фронтирная модельФронтирная модель это ИИ-модель общего назначения на переднем крае возможностей, сравнимая с наиболее мощными системами своего времени или превосходящая их.
- цепочка рассужденийЦепочка рассуждений (chain of thought) это пошаговое решение, которое языковая модель пишет перед ответом, чтобы точнее справиться со сложной задачей.
- чат-модельЧат-модель это языковая модель, дообученная вести диалог: она понимает роли собеседников, следует инструкциям и отвечает на реплики, а не просто продолжает текст.
- эмерджентные способностиЭмерджентные способности это навыки языковой модели, которых нет у небольших моделей и которые появляются у крупных, причем их не удавалось предсказать по результатам моделей поменьше.
- энкодерЭнкодер это часть нейросети, которая читает входные данные целиком и превращает их в набор чисел, удобный для поиска, сравнения или дальнейшей генерации.
- BPEBPE (byte pair encoding, кодирование пар байтов) это алгоритм токенизации, который строит словарь модели, раз за разом склеивая наиболее частые пары символов в новые единицы.
- DPODPO (Direct Preference Optimization) это метод дообучения языковой модели на парах ответов «удачный и неудачный», который учит ее отвечать так, как предпочитают люди, без отдельной модели вознаграждения.
- KV-кэшKV-кэш это память, в которой языковая модель хранит промежуточные результаты (ключи и значения внимания) для уже обработанных токенов, чтобы не пересчитывать их при генерации каждого нового.
- LLM как судьяLLM как судья (LLM-as-a-judge) это способ оценивать ответы нейросетей с помощью другой языковой модели, которая ставит баллы по заданным критериям или выбирает более удачный из двух ответов.
- PEFTPEFT (parameter-efficient fine-tuning, параметрически эффективное дообучение) это семейство методов, которые настраивают большую модель под задачу, обучая лишь малую долю параметров.
- QLoRAQLoRA это способ дообучить большую языковую модель на одной видеокарте: исходную модель сжимают до 4 бит, а поверх нее обучают небольшие адаптеры LoRA.
- RLHFRLHF (обучение с подкреплением на отзывах людей) это этап обучения языковой модели, на котором люди сравнивают ее ответы, а модель учится давать те, что они предпочитают.
- SFTSFT (supervised fine-tuning, контролируемое дообучение) это этап, на котором языковую модель доучивают на парах «запрос и образцовый ответ», чтобы она выполняла инструкции в нужном формате.
- softmaxSoftmax это функция, которая превращает набор произвольных чисел в вероятности: все значения становятся от нуля до единицы и в сумме дают единицу.
- top-kTop-k это настройка генерации, при которой модель на каждом шаге выбирает следующий токен только из k наиболее вероятных вариантов.
- top-pTop-p (nucleus sampling) это настройка генерации, при которой модель выбирает следующий токен только среди наиболее вероятных вариантов, чья суммарная вероятность достигает порога p.