LLMOps en Producción · Lección 14
¿Qué función cumple un paso de 're-ranking' después de la búsqueda inicial de similitud vectorial en un sistema RAG?
Reordena los resultados iniciales usando un modelo más preciso (aunque más costoso computacionalmente) para mejorar la relevancia final antes de enviar los mejores fragmentos al LLM
El re-ranking reemplaza por completo la necesidad de la búsqueda vectorial inicial
Solo funciona si se recupera exactamente un único documento en la búsqueda inicial
Elimina por completo la necesidad de tener un LLM generando la respuesta final
LLMOps en Producción · Lección 14
Completa el código
El re-ranking suele aplicarse solo a un subconjunto pequeño de los resultados iniciales por razones de
Revisa: se aplica a un subconjunto pequeño por razones de costo computacional.
LLMOps en Producción · Lección 14
¿Por qué aplicar un modelo de re-ranking más preciso solo a los primeros 20-50 resultados (en vez de a todo el corpus completo de documentos) es un compromiso razonable entre calidad y costo?
Pista: la búsqueda vectorial inicial (más barata computacionalmente) ya filtra el corpus completo hacia un subconjunto reducido de candidatos plausibles; aplicar el modelo de re-ranking más costoso solo a ese subconjunto pequeño, en vez de a todo el corpus, mantiene el costo total razonable mientras mejora la precisión final.
✓
¡Lección completada!
Re-ranking y mejora de relevancia de recuperación
0
XP ganado
3
Vidas restantes