MLOps en Producción · Lección 18
¿Cuándo es más apropiada la inferencia batch frente a la online?
Cuando las predicciones no requieren respuesta inmediata y pueden calcularse periódicamente sobre grandes volúmenes
Cuando cada usuario necesita respuesta en milisegundos
Nunca es apropiada
Solo cuando no hay datos
MLOps en Producción · Lección 18
Completa el código
La inferencia que responde a cada petición en tiempo real se llama
Revisa: se llama inferencia online (o en tiempo real).
MLOps en Producción · Lección 18
¿Por qué la inferencia online exige más atención a latencia y disponibilidad que la batch?
Pista: hay un usuario esperando; una respuesta lenta o una caída se nota de inmediato, a diferencia de un batch que puede reintentarse.
✓
¡Lección completada!
Serving: batch vs online
0
XP ganado
3
Vidas restantes