LLMOps en Producción · Lección 02
¿Qué componentes suelen formar parte de la arquitectura típica de una aplicación LLM en producción, más allá del propio modelo?
Una capa de orquestación de prompts, posiblemente un sistema de recuperación de datos (RAG), guardrails de validación, y observabilidad de cada llamada
Solo el modelo LLM en sí, sin ningún componente adicional necesario
Únicamente una base de datos relacional tradicional, sin ninguna relación con el LLM
Elimina por completo la necesidad de tener cualquier tipo de backend tradicional
LLMOps en Producción · Lección 02
Completa el código
La capa que coordina el flujo entre prompt, recuperación de datos y modelo se llama capa de
Revisa: se llama capa de orquestación.
LLMOps en Producción · Lección 02
¿Por qué separar la lógica de orquestación (qué prompt armar, qué datos recuperar) del propio modelo LLM facilita cambiar de proveedor de modelo sin reescribir toda la aplicación?
Pista: si la lógica de armar el prompt y procesar la respuesta vive separada de la llamada específica al modelo, cambiar de un proveedor a otro (o de un modelo a otro) requiere modificar solo esa integración puntual, sin reescribir toda la lógica de negocio de la aplicación.
✓
¡Lección completada!
Arquitectura de una aplicación LLM en producción
0
XP ganado
3
Vidas restantes