Seguridad en IA · Lección 05
¿Qué diferencia conceptual existe entre 'seguridad DEL modelo' (proteger el modelo de IA en sí mismo de ataques) y 'seguridad CON el modelo' (usar el modelo de IA como herramienta para mejorar la seguridad de otros sistemas)?
La seguridad DEL modelo se enfoca en defender el propio sistema de IA de ataques dirigidos hacia él (como prompt injection o robo del modelo), mientras la seguridad CON el modelo usa capacidades de IA para detectar o prevenir amenazas en otros sistemas distintos
Son exactamente el mismo concepto con un nombre distinto, sin ninguna diferencia real de enfoque entre ellos
La seguridad DEL modelo solo es relevante si el sistema tiene exactamente un único modelo de IA en total desplegado
Usar un modelo de IA para detectar amenazas en otros sistemas garantiza automáticamente que ese mismo modelo de IA está protegido de cualquier ataque dirigido hacia él
Seguridad en IA · Lección 05
Completa el código
La seguridad CON el modelo usa capacidades de IA para detectar amenazas en otros
Revisa: usa capacidades de IA para detectar amenazas en otros sistemas distintos.
Seguridad en IA · Lección 05
¿Por qué un modelo de IA usado para detectar malware en una red corporativa (seguridad CON el modelo) todavía necesitaría sus propias protecciones específicas contra ataques dirigidos directamente hacia ese modelo (seguridad DEL modelo)?
Pista: aunque ese modelo esté cumpliendo la función valiosa de detectar amenazas en otros sistemas, sigue siendo en sí mismo un sistema de IA que un atacante sofisticado podría intentar manipular directamente (por ejemplo, con entradas diseñadas específicamente para evadir su detección); cumplir bien su función de seguridad CON el modelo no garantiza automáticamente que el modelo mismo esté protegido, siendo ambas dimensiones consideraciones independientes y necesarias.
✓
¡Lección completada!
Diferencia entre seguridad DEL modelo y seguridad CON el modelo
0
XP ganado
3
Vidas restantes