Seguridad en IA · Lección 09
¿Qué busca lograr un atacante que ejecuta un ataque de 'data poisoning' introduciendo datos maliciosos en el conjunto de entrenamiento de un modelo?
Manipular deliberadamente el comportamiento del modelo resultante (introduciendo un sesgo específico, una puerta trasera, o una vulnerabilidad) sin que el equipo que entrena el modelo se dé cuenta de que los datos fueron comprometidos
El data poisoning solo puede ejecutarse si el atacante tiene acceso físico directo al servidor donde corre el modelo ya entrenado y desplegado
Este tipo de ataque es completamente inofensivo y no puede tener ningún efecto real en el comportamiento del modelo resultante
Solo es un riesgo real si el conjunto de datos de entrenamiento proviene de exactamente una única fuente en total
Seguridad en IA · Lección 09
Completa el código
El data poisoning puede introducir una puerta trasera o un sesgo
Revisa: puede introducir una puerta trasera o un sesgo específico en el comportamiento.
Seguridad en IA · Lección 09
¿Por qué usar datasets públicos recolectados de internet sin ninguna verificación adicional representa un riesgo real de data poisoning que un dataset cuidadosamente curado internamente no tendría de la misma forma?
Pista: cualquier persona con acceso a contribuir contenido público en internet podría insertar deliberadamente datos maliciosos diseñados específicamente para ser recolectados por un scraper automático de entrenamiento; sin ninguna verificación adicional de esa fuente externa, esos datos contaminados terminarían mezclados con datos legítimos, mientras un dataset curado internamente con control sobre su origen tiene mucho menos exposición a ese tipo de manipulación externa deliberada.
✓
¡Lección completada!
Data poisoning — envenenamiento de datos de entrenamiento
0
XP ganado
3
Vidas restantes