Private AI en VCF · Lección 15
¿Qué riesgos específicos tiene la IA generativa?
Dar al modelo acceso total a todos los sistemas
Inyección de instrucciones (prompt injection), fuga de datos en las respuestas, modelos o dependencias manipulados, y salidas no fiables; se mitigan con validación de entradas y salidas, filtros, mínimo privilegio para herramientas del agente, modelos de origen verificado y registro de uso
No existe ningún riesgo propio de la IA generativa
Basta con confiar siempre en la respuesta del modelo
Private AI en VCF · Lección 15
Completa el código
El ataque que manipula las instrucciones del modelo con texto malicioso se llama prompt
Revisa: injection.
Private AI en VCF · Lección 15
¿Por qué limitar los permisos de las herramientas que usa un agente?
Pista: Para limitar el daño si el modelo es manipulado, aplicando mínimo privilegio.
✓
¡Lección completada!
Seguridad de modelos y prompts
0
XP ganado
3
Vidas restantes