Seguridad en IA · Lección 12
¿Qué información específica busca determinar un ataque de 'membership inference' contra un modelo de IA?
Si un registro de datos específico y conocido por el atacante fue o no parte del conjunto de datos usado para entrenar ese modelo particular, sin necesitar reconstruir el contenido completo de ese dato
El membership inference busca reconstruir completamente el contenido de todos los datos de entrenamiento del modelo, similar a lo que hace el model inversion
Solo es relevante si el atacante no tiene absolutamente ningún conocimiento previo sobre los datos que sospecha podrían haber sido usados en el entrenamiento
Este tipo de ataque modifica directamente el comportamiento del modelo para que revele voluntariamente sus datos de entrenamiento
Seguridad en IA · Lección 12
Completa el código
El atacante busca confirmar si un registro específico fue parte del conjunto de
Revisa: busca confirmar si un registro específico fue parte del conjunto de entrenamiento.
Seguridad en IA · Lección 12
¿Por qué confirmar que el registro médico de una persona específica fue usado para entrenar un modelo (aunque no se reconstruya el contenido completo de ese registro) ya representaría en sí mismo una violación real de privacidad?
Pista: si el dataset de entrenamiento fuera, por ejemplo, específicamente de pacientes con una condición médica particular, simplemente confirmar que el registro de una persona específica fue parte de ese conjunto ya revelaría que esa persona probablemente tiene esa condición, una información sensible y privada, sin necesitar reconstruir ningún detalle adicional del contenido completo de ese registro médico.
✓
¡Lección completada!
Membership inference — saber si un dato se usó para entrenar
0
XP ganado
3
Vidas restantes