ММООЗЗГГ.ru

Словарь ИИ

Что такое переранжирование

Коротко

Переранжирование это второй этап поиска, на котором отдельная модель заново сортирует найденные фрагменты по тому, насколько точно каждый отвечает на вопрос.

Поиск и RAG · reranking

Михаил МозгПроверено: 1 минута чтения

Ребенку

Учительница просит принести рисунки про лето. Ребята быстро приносят целую стопку. Потом она садится и внимательно смотрит каждый рисунок: где правда лето, а где по ошибке зима. Подходящие она кладет сверху, остальные откладывает. Переранжирование работает так же: сначала быстро собрать много, потом спокойно выбрать то, что нужно.

Простыми словами

Поиск по большой базе должен быть быстрым, поэтому первый этап работает грубо: за долю секунды достает несколько десятков похожих фрагментов. Среди них есть и точные ответы, и случайные совпадения. На втором этапе включается более медленная и внимательная модель, реранкер. Она читает вопрос вместе с каждым фрагментом и ставит новую оценку. Наверх поднимаются те, что действительно отвечают на вопрос, и только несколько первых уходят нейросети. Так покупатель, спросивший про бесплатный ремонт, получит нужный пункт правил, а не рекламу платного обслуживания.

Для бизнеса

Реранкер обычно добавляют одним из первых, когда ассистент находит почти то, что нужно, но отвечает по соседнему документу. Расходы складываются из вызовов модели переранжирования: у облачных сервисов своя плата за запросы, свою модель можно поставить на сервер рядом с базой. Растет и задержка ответа, особенно если сортировать сотни фрагментов. Риск в языке: реранкер, обученный в основном на английских текстах, хуже понимает русские документы и отраслевые термины. Модель выбирают на ваших вопросах и сравнивают долю правильных фрагментов до и после. Эффект этого шага удобно замерить на пилоте.

Для специалиста

Переранжирование (reranking) это второй этап двухэтапного поиска: быстрый ретривер (BM25, плотный или гибридный) отбирает кандидатов, а точная модель пересчитывает их порядок. Классический реранкер это кросс-энкодер (cross-encoder): запрос и фрагмент подаются в трансформер одной последовательностью, и модель выдает оценку релевантности с учетом взаимодействия всех токенов. В работе Nogueira и Cho (2019) BERT в этой роли поднял MRR@10 на MS MARCO на 27% относительно прежнего результата. Кросс-энкодер дорог, потому что считается заново для каждой пары. Компромисс дает позднее взаимодействие (late interaction) в ColBERT (Khattab, Zaharia, 2020): запрос и документ кодируются отдельно, а сравниваются потокенно. Применяют и LLM в роли реранкера. В замерах Anthropic (2024) переранжирование 150 кандидатов до 20 подняло снижение доли неудачных извлечений с 49 до 67%.

Пример

Поиск по базе страховой компании вернул двадцать фрагментов про «возмещение». Реранкер поставил первым пункт о сроках выплаты по ОСАГО, о котором и спрашивал клиент.

Связанные термины

Вопросы и ответы

Что такое реранкер?

Это модель, которая получает вопрос и список найденных фрагментов и заново сортирует их по релевантности. Она медленнее первичного поиска, поэтому работает только с короткой выдачей.

Зачем нужно переранжирование в RAG?

Первичный поиск быстрый, но неточный, и в верх выдачи попадают случайные совпадения. Переранжирование поднимает наверх фрагменты, которые действительно отвечают на вопрос, и модель реже ошибается.

Источники

Где это применяют в компании

Не уверены, нужно ли это вашей компании?

Карта ИИ-решений
Написать в Telegram