A recuperação costuma usar uma primeira etapa rápida para buscar muitos candidatos e, em seguida, um reranker mais lento e mais preciso para reordená-los. Nogueira e Cho (2019) mostraram que um cross-encoder BERT — que lê a consulta e o trecho juntos — melhora substancialmente a qualidade da classificação em relação ao recuperador da primeira etapa sozinho.
Em sistemas de RAG, fazer o reranking antes de passar o contexto ao modelo melhora a qualidade das respostas, garantindo que os trechos mais relevantes sejam usados.