Ollama y LLMs Self-Hosted · Lección 28
¿Qué estrategia permite actualizar a una versión más reciente de un modelo en un despliegue de Ollama sirviendo tráfico real, sin interrumpir el servicio durante la transición?
Descargar la nueva versión del modelo en paralelo mientras la versión anterior sigue atendiendo peticiones, y solo redirigir el tráfico hacia el nuevo modelo una vez que esté completamente listo y validado
Es técnicamente imposible actualizar un modelo en Ollama sin detener por completo el servicio durante todo el proceso
Se debe eliminar primero la versión anterior del modelo antes de poder siquiera empezar a descargar la nueva versión
La actualización de modelos no tiene ningún impacto real en la disponibilidad del servicio bajo ninguna circunstancia
Ollama y LLMs Self-Hosted · Lección 28
Completa el código
Se recomienda validar el nuevo modelo en un entorno de
Revisa: se recomienda validarlo primero en un entorno de staging.
Ollama y LLMs Self-Hosted · Lección 28
¿Por qué descargar la nueva versión del modelo en paralelo (sin eliminar la versión anterior todavía en uso) evita una interrupción del servicio durante el proceso de actualización?
Pista: mientras la nueva versión del modelo se descarga y prepara en paralelo, la versión anterior sigue completamente disponible atendiendo el tráfico real sin ninguna interrupción; solo una vez que la nueva versión está lista y validada se redirige el tráfico hacia ella, evitando el período de indisponibilidad que ocurriría si se eliminara primero la versión activa antes de tener la nueva lista.
✓
¡Lección completada!
Actualización de modelos sin downtime
0
XP ganado
3
Vidas restantes