GPUs en Kubernetes · Lección 22
¿Qué diferencia hay entre la métrica de 'utilización de GPU' (porcentaje de tiempo activo) y la métrica de 'utilización de memoria de GPU'?
La utilización de GPU mide qué tan ocupado está el procesador de cómputo en un período de tiempo, mientras la utilización de memoria mide cuánta capacidad de memoria de la GPU está siendo consumida, y ambas pueden comportarse de forma independiente entre sí
Son exactamente la misma métrica con un nombre distinto, sin ninguna diferencia real de significado
Una utilización de GPU alta siempre implica automáticamente una utilización de memoria igualmente alta, sin ninguna excepción
Solo una de las dos métricas es relevante monitorear, la otra no aporta ninguna información útil
GPUs en Kubernetes · Lección 22
Completa el código
Una GPU con alta utilización de memoria pero baja utilización de cómputo puede indicar un cuello de botella de
Revisa: puede indicar un cuello de botella en la carga o preparación de datos.
GPUs en Kubernetes · Lección 22
¿Por qué una GPU con baja utilización de cómputo pero alta utilización de memoria podría indicar que el modelo está esperando datos (cuello de botella de I/O) en vez de estar realmente limitado por la capacidad de procesamiento de la GPU?
Pista: si la memoria está ocupada (los datos y el modelo ya están cargados) pero el procesador de cómputo muestra baja actividad, esto sugiere que la GPU está esperando ociosamente a que lleguen nuevos datos para procesar (un cuello de botella de I/O o preparación de datos), en vez de estar genuinamente limitada por su capacidad máxima de procesamiento.
✓
¡Lección completada!
Métricas clave de utilización de GPU
0
XP ganado
3
Vidas restantes