RAG en Producción · Lección 19
¿Por qué es importante instruir explícitamente al modelo para que reconozca cuando el contexto recuperado no contiene información suficiente para responder la pregunta, en vez de generar una respuesta de todas formas?
Sin esa instrucción explícita, el modelo podría 'rellenar' la falta de información real con contenido inventado (alucinación) que suena convincente pero no está respaldado por ningún documento real del sistema
Esta instrucción elimina por completo la necesidad de tener un sistema de recuperación funcionando correctamente en el sistema RAG
Solo es relevante si el sistema RAG tiene exactamente un único documento en toda su base de conocimiento completa
Un LLM nunca genera información inventada si tiene acceso a cualquier contexto recuperado, sin importar cuán limitado o irrelevante sea ese contexto
RAG en Producción · Lección 19
Completa el código
Se recomienda instruir al modelo para que responda explícitamente que no tiene información suficiente en vez de
Revisa: se recomienda que reconozca la falta de información en vez de inventar una respuesta.
RAG en Producción · Lección 19
¿Por qué un sistema RAG que siempre genera una respuesta con apariencia de confianza (aunque el contexto recuperado sea completamente irrelevante) representa un riesgo mayor de desinformación que uno que a veces admite explícitamente no tener información suficiente?
Pista: una respuesta generada con apariencia de confianza total, aunque en realidad no esté respaldada por ningún contexto relevante recuperado, es mucho más difícil de distinguir por el usuario de una respuesta genuinamente correcta, aumentando el riesgo de que confíe en información inventada sin darse cuenta de esa falta real de respaldo, comparado con un sistema que honestamente reconoce cuando no tiene suficiente información disponible.
✓
¡Lección completada!
Manejo de 'no sé' — evitar alucinaciones sin contexto suficiente
0
XP ganado
3
Vidas restantes