LLMOps en Producción · Lección 05
¿Qué consideración adicional, específica de aplicaciones LLM, es importante tener al mantener entornos separados de desarrollo, staging y producción?
Usar modelos y datasets de evaluación consistentes entre entornos, para que un cambio de prompt validado en staging se comporte de forma predecible al pasar a producción
Los entornos separados no tienen ningún sentido en aplicaciones LLM, solo aplican a software tradicional
Solo el entorno de producción necesita tener un modelo LLM configurado, los demás no lo requieren
Elimina por completo la necesidad de tener un dataset de evaluación específico por entorno
LLMOps en Producción · Lección 05
Completa el código
Se recomienda validar un cambio de prompt primero en
Revisa: se recomienda validar primero en staging antes de producción.
LLMOps en Producción · Lección 05
¿Por qué un cambio de prompt que funciona bien en desarrollo con pocos ejemplos podría comportarse de forma inesperada en producción con el volumen y variedad real de peticiones de usuarios?
Pista: las pruebas manuales en desarrollo suelen cubrir solo unos pocos casos anticipados por el desarrollador, mientras la variedad real de peticiones de usuarios en producción puede exponer patrones de entrada completamente distintos que el prompt no maneja bien.
✓
¡Lección completada!
Entornos: desarrollo, staging y producción para apps LLM
0
XP ganado
3
Vidas restantes