Словарь ИИ
Что такое переранжирование
Коротко
Переранжирование это второй этап поиска, на котором отдельная модель заново сортирует найденные фрагменты по тому, насколько точно каждый отвечает на вопрос.
Поиск и RAG · reranking
Редакция ММООЗЗГГ.ruПроверено: 1 минута чтения
Ребенку
Учительница просит принести рисунки про лето. Ребята быстро приносят целую стопку. Потом она садится и внимательно смотрит каждый рисунок: где правда лето, а где по ошибке зима. Подходящие она кладет сверху, остальные откладывает. Переранжирование работает так же: сначала быстро собрать много, потом спокойно выбрать то, что нужно.
Простыми словами
Поиск по большой базе должен быть быстрым, поэтому первый этап работает грубо: за долю секунды достает несколько десятков похожих фрагментов. Среди них есть и точные ответы, и случайные совпадения. На втором этапе включается более медленная и внимательная модель, реранкер. Она читает вопрос вместе с каждым фрагментом и ставит новую оценку. Наверх поднимаются те, что действительно отвечают на вопрос, и только несколько первых уходят нейросети. Так покупатель, спросивший про бесплатный ремонт, получит нужный пункт правил, а не рекламу платного обслуживания.
Для бизнеса
Реранкер обычно добавляют одним из первых, когда ассистент находит почти то, что нужно, но отвечает по соседнему документу. Расходы складываются из вызовов модели переранжирования: у облачных сервисов своя плата за запросы, свою модель можно поставить на сервер рядом с базой. Растет и задержка ответалатентность. Латентность это задержка между запросом к модели и ответом: сколько ждать первого слова и сколько времени уходит на весь ответ., особенно если сортировать сотни фрагментов. Риск в языке: реранкер, обученный в основном на английских текстах, хуже понимает русские документы и отраслевые термины. Модель выбирают на ваших вопросах и сравнивают долю правильных фрагментов до и после. Эффект этого шага удобно замерить на пилоте.
Для специалиста
Переранжирование (reranking) это второй этап двухэтапного поиска: быстрый ретривер (BM25BM25. BM25 это формула ранжирования для поиска по словам: она оценивает документ по тому, сколько раз в нем встречаются слова запроса, насколько эти слова редкие и какой длины сам документ., плотный или гибридный) отбирает кандидатов, а точная модель пересчитывает их порядок. Классический реранкер это кросс-энкодеркросс-энкодер. Кросс-энкодер это модель, которая читает вопрос и документ вместе, одним текстом, и выдает одно число: насколько документ отвечает на вопрос. (cross-encoder): запрос и фрагмент подаются в трансформер одной последовательностью, и модель выдает оценку релевантности с учетом взаимодействия всех токенов. В работе Nogueira и Cho (2019) BERT в этой роли поднял MRR@10 на MS MARCO на 27% относительно прежнего результата. Кросс-энкодер дорог, потому что считается заново для каждой пары. Компромисс дает позднее взаимодействие (late interaction) в ColBERT (Khattab, Zaharia, 2020): запрос и документ кодируются отдельно, а сравниваются потокенно. Применяют и LLM в роли реранкера. В замерах Anthropic (2024) переранжирование 150 кандидатов до 20 подняло снижение доли неудачных извлечений с 49 до 67%.
Пример
Поиск по базе страховой компании вернул двадцать фрагментов про «возмещение». Реранкер поставил первым пункт о сроках выплаты по ОСАГО, о котором и спрашивал клиент.
Связанные термины
Вопросы и ответы
Источники
Где это применяют в компании
Не уверены, нужно ли это вашей компании?
Карта ИИ-решений