Private AI en VCF · Lección 03
¿Qué hardware condiciona una plataforma de IA?
Una red de 1 Gb es suficiente para cualquier entrenamiento distribuido
Solo la CPU, porque la GPU no influye en la IA
Solo el color de la caja del servidor
Las GPU (modelo, memoria y generación), el ancho de banda entre GPU (NVLink/NVSwitch), una red rápida de baja latencia (100 Gb o más, con RDMA donde proceda) para entrenamiento distribuido y almacenamiento rápido para datos y modelos, además de CPU, memoria, alimentación y refrigeración
Private AI en VCF · Lección 03
Completa el código
La memoria de la GPU en la que debe caber el modelo se llama memoria
Revisa: GPU (VRAM).
Private AI en VCF · Lección 03
¿Por qué importa la memoria de la GPU?
Pista: Porque el modelo debe caber en la memoria de la GPU, que depende del número de parámetros y la precisión.
✓
¡Lección completada!
Hardware: GPU, red y almacenamiento
0
XP ganado
3
Vidas restantes