RAG en Producción · Lección 14
¿Qué controla el parámetro 'top-k' al configurar cuántos fragmentos recuperar de la base de datos vectorial para responder una consulta específica?
El número máximo de fragmentos más relevantes (según la búsqueda de similitud) que se incluirán como contexto para que el LLM genere la respuesta final
El número de palabras máximas permitidas en la pregunta original del usuario antes de procesarla
Solo puede configurarse con el valor fijo de exactamente 1, sin ninguna otra posibilidad de valor distinto
Elimina por completo la necesidad de tener un índice vectorial configurado para poder recuperar fragmentos
RAG en Producción · Lección 14
Completa el código
Un valor de top-k demasiado alto puede incluir fragmentos poco relevantes y diluir la calidad del
Revisa: puede diluir la calidad del contexto proporcionado al modelo.
RAG en Producción · Lección 14
¿Por qué un valor de top-k demasiado bajo podría hacer que el sistema RAG no encuentre suficiente información relevante para responder completamente una pregunta que requiere combinar varios fragmentos distintos?
Pista: si la respuesta completa a la pregunta requiere combinar información distribuida en varios fragmentos distintos del documento, pero el top-k configurado solo permite recuperar uno o dos fragmentos, el LLM podría quedarse sin suficiente contexto relevante disponible para generar una respuesta realmente completa y precisa.
✓
¡Lección completada!
Filtros de contexto y ventana de recuperación
0
XP ganado
3
Vidas restantes