Seguridad en IA · Lección 08
¿Qué caracteriza a un 'ejemplo adversarial' diseñado contra un modelo de clasificación de imágenes, como los usados en sistemas de visión por computadora?
Una imagen modificada con perturbaciones sutiles (a menudo imperceptibles para un humano) diseñadas específicamente para hacer que el modelo la clasifique incorrectamente, aunque para un observador humano la imagen parezca completamente normal
Un ejemplo adversarial siempre es visualmente obvio y fácil de detectar a simple vista, sin ninguna sutileza real en su diseño
Solo puede aplicarse a modelos de clasificación de texto, ningún otro tipo de modelo de IA puede ser vulnerable a este tipo de ataque
Un modelo de clasificación de imágenes es completamente inmune a cualquier tipo de manipulación adversarial por diseño, sin ninguna excepción posible
Seguridad en IA · Lección 08
Completa el código
Las perturbaciones suelen ser imperceptibles para el ojo
Revisa: las perturbaciones suelen ser imperceptibles para el ojo humano.
Seguridad en IA · Lección 08
¿Por qué que un modelo de clasificación de imágenes usado en un sistema de seguridad físico (como reconocimiento facial de acceso) sea vulnerable a ejemplos adversariales representa un riesgo real de seguridad más allá de lo puramente académico?
Pista: si un atacante pudiera diseñar una perturbación sutil que engañe al sistema de reconocimiento facial para clasificar incorrectamente su identidad, podría potencialmente obtener acceso físico no autorizado a una instalación protegida; esa consecuencia práctica y real va mucho más allá de un simple error académico de clasificación en un contexto de laboratorio sin implicaciones directas.
✓
¡Lección completada!
Ataques adversariales sobre modelos de clasificación/visión
0
XP ganado
3
Vidas restantes