Beim Retrieval holt oft eine schnelle erste Stufe viele Kandidaten, die dann ein langsamerer, genauerer Reranker neu ordnet. Nogueira & Cho (2019) zeigten, dass ein BERT-Cross-Encoder – der Anfrage und Passage gemeinsam liest – die Ranking-Qualität gegenüber dem Retriever der ersten Stufe allein deutlich verbessert.
In RAG-Systemen verbessert ein Reranking vor der Übergabe des Kontexts an das Modell die Antwortqualität, weil so die relevantesten Passagen genutzt werden.