Private AI en VCF · Lección 20
Diseña una plataforma de IA privada para varios equipos: ¿qué arquitectura es adecuada?
Dominio de carga de trabajo de VCF con hosts GPU y red rápida, vGPU o MIG para compartir y passthrough para cargas grandes, licencias NVIDIA AI Enterprise, Deep Learning VM y clústeres VKS con GPU en autoservicio, almacén de modelos, vLLM o NIM, pgvector para RAG, cuotas y RBAC, monitorización con DCGM y actualizaciones por fases
Sin monitorización ni plan de actualización
Una sola GPU sin gestión, con datos sensibles en un servicio externo
Todos los equipos con una cuenta compartida y sin cuotas
Private AI en VCF · Lección 20
Completa el código
El patrón que aporta contexto de documentos propios a un modelo es
Revisa: RAG.
Private AI en VCF · Lección 20
¿Qué pasos sigues para poner un modelo nuevo en producción?
Pista: Validar el modelo, guardarlo en el almacén, desplegarlo en un servidor de inferencia, probarlo y monitorizarlo.
✓
¡Lección completada!
Proyecto final: plataforma de IA privada para la empresa
0
XP ganado
3
Vidas restantes