LLMOps en Producción · Lección 11
¿Qué problema resuelve RAG (Retrieval-Augmented Generation) al combinarse con un LLM en producción?
Permite que el modelo genere respuestas basadas en información específica y actualizada (como documentos internos de una empresa) que no formaba parte de sus datos de entrenamiento originales, sin necesitar reentrenar el modelo
RAG reemplaza por completo la necesidad de tener un modelo LLM real generando texto
Solo funciona si el modelo LLM fue entrenado específicamente para RAG desde el inicio
Elimina por completo la necesidad de cualquier tipo de base de datos o almacenamiento de documentos
LLMOps en Producción · Lección 11
Completa el código
RAG combina un paso de recuperación con un paso de
Revisa: combina un paso de recuperación (retrieval) con un paso de generación.
LLMOps en Producción · Lección 11
¿Por qué RAG es más práctico que reentrenar completamente el modelo cada vez que la información interna de una empresa cambia (como nuevas políticas o documentos)?
Pista: reentrenar un modelo completo es costoso en tiempo y recursos computacionales; con RAG, basta con actualizar el índice de documentos recuperables, sin tocar el modelo en sí, haciendo mucho más ágil mantener la información actualizada.
✓
¡Lección completada!
Qué es RAG y por qué se usa en producción
0
XP ganado
3
Vidas restantes