Словарь ИИ

Что такое few-shot

Коротко

Few-shot это прием, при котором в задание для нейросети добавляют несколько готовых примеров, и она решает новый случай по их образцу.

Промпты · few-shot prompting

Михаил МозгПроверено: 16 октября 20261 минута чтения

Ребенку

Учительница пишет на доске три пары слов: «кот, коты», «дом, дома», «стол, столы». Потом пишет «мяч» и ждет ответа. Весь класс хором говорит «мячи», потому что понял правило по образцам, хотя его никто не объяснял. Нейросети тоже легче, когда ей сначала показывают пару решенных заданий, а потом дают новое.

Простыми словами

Иногда объяснить задачу словами трудно, а показать легко. Тогда в запрос кладут несколько готовых пар «вопрос и правильный ответ», а в конце ставят новый вопрос без ответа. Модель замечает закономерность: какие бывают ответы, какой длины, в каком виде, и продолжает так же. Учить ее заново не нужно, образцы работают только внутри этого запроса. Так, показав три отзыва с пометками «жалоба» или «вопрос», можно получить такие же пометки для сотни новых.

Для бизнеса

Образцы в запросе дают компании стабильный формат без затрат на обучение своей модели: ИИ заполняет карточку заявки, ставит теги обращениям, пишет ответы в принятом тоне. Подготовка занимает часы, а не недели, нужен лишь десяток хорошо подобранных случаев от сотрудников. Цена растет вместе с длиной запроса: каждый образец оплачивается в токенах при каждом вызове. Риски: модель копирует ошибки и перекосы из примеров, а однотипные примеры сужают ответы. Поэтому их берут из реальной работы, включают трудные и редкие, а качество проверяют на отдельном наборе. Если и этого мало, переходят к дообучению по итогам пилота.

Для специалиста

Few-shot prompting, или обучение в контексте (in-context learning), это подача в промпт K демонстраций «вход и выход» перед целевым входом без обновления весов. Brown и др. (2020) описали этот режим для GPT-3 с 175 млрд параметров; K обычно брали от 10 до 100, сколько помещалось в окно в 2048 токенов. Min и др. (2022) получили неожиданный результат: замена правильных меток в демонстрациях на случайные почти не снижает качество на задачах классификации и выбора ответа. Работают пространство меток, распределение входного текста и общий формат последовательности. На результат влияют также порядок демонстраций, их разнообразие и близость к запросу, поэтому их часто подбирают поиском по сходству эмбеддингов. Руководство Anthropic советует 3-5 разнообразных примеров, отделенных от инструкций тегами.

Пример

Банк хочет, чтобы ИИ сортировал обращения по пяти темам. В запрос добавляют по одному реальному обращению на каждую тему с правильной меткой, и модель начинает размечать новый поток в том же виде.

Связанные термины

Вопросы и ответы

Сколько примеров нужно для few-shot?

Обычно хватает нескольких: руководство Anthropic советует от трех до пяти разнообразных образцов. Больше примеров повышают стабильность, но удлиняют запрос и его цену.

Чем few-shot отличается от дообучения?

Примеры в запросе действуют только в этом вызове, модель не меняется. При дообучении веса модели обновляют на большом наборе данных, и новый навык остается в ней.

Источники

Где это применяют в компании

Обработка заявок с помощью ИИ: ответ и сделка в CRM

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений