Observabilidad de IA · Lección 06
¿Qué cubre una traza de 'extremo a extremo' en una aplicación que combina recuperación de documentos (RAG) y generación con un LLM?
Todo el recorrido de una petición individual, desde que el usuario envía su pregunta, pasando por la búsqueda de documentos relevantes, la construcción del prompt, hasta la respuesta final generada y devuelta al usuario
Solo cubre el momento exacto en que el modelo genera la respuesta final, sin ninguna visibilidad de los pasos anteriores de recuperación
Solo es relevante si la aplicación tiene exactamente un único paso en todo su procesamiento, sin ninguna etapa intermedia
Elimina por completo la necesidad de tener logs individuales de cada componente específico del sistema
Observabilidad de IA · Lección 06
Completa el código
La traza sigue el recorrido completo desde la pregunta del usuario hasta la respuesta
Revisa: sigue el recorrido completo desde la pregunta del usuario hasta la respuesta final.
Observabilidad de IA · Lección 06
¿Por qué una traza de extremo a extremo ayuda a determinar si una respuesta lenta se debió a una búsqueda de documentos lenta o a una generación lenta del LLM, algo que un log aislado de cada componente por separado no revelaría tan claramente?
Pista: una traza conectada muestra el tiempo real que tomó cada etapa específica (recuperación, construcción de prompt, generación) dentro del contexto de esa misma petición completa, permitiendo atribuir claramente dónde se concentró la lentitud; logs aislados de cada componente por separado, sin esa conexión explícita, dificultarían mucho más determinar cuál etapa específica fue realmente responsable del retraso total observado.
✓
¡Lección completada!
Trazas de extremo a extremo en una aplicación LLM/agente
0
XP ganado
3
Vidas restantes