Seguridad en IA · Lección 11
¿Qué busca lograr un ataque de 'model inversion' contra un modelo de IA ya entrenado y desplegado?
Reconstruir aproximadamente información sobre los datos originales usados para entrenar el modelo, analizando cuidadosamente las respuestas del modelo ante distintas consultas diseñadas específicamente para ese propósito
El model inversion modifica permanentemente los pesos internos del modelo para cambiar su comportamiento futuro de forma persistente
Solo es un riesgo real si el modelo fue entrenado con exactamente un único dato de entrenamiento en total
Este tipo de ataque requiere obligatoriamente tener acceso directo a los pesos internos del modelo, sin poder ejecutarse únicamente a través de su API pública
Seguridad en IA · Lección 11
Completa el código
El atacante analiza cuidadosamente las respuestas del modelo ante consultas
Revisa: analiza las respuestas del modelo ante consultas diseñadas específicamente para ese propósito.
Seguridad en IA · Lección 11
¿Por qué un modelo entrenado con datos médicos sensibles de pacientes sería un objetivo especialmente atractivo para un ataque de model inversion, comparado con un modelo entrenado con datos públicos no sensibles?
Pista: si el ataque tuviera éxito, reconstruir información sobre pacientes reales a partir de un modelo médico representaría una violación grave y valiosa de privacidad, con consecuencias reales para esas personas; un modelo entrenado únicamente con datos públicos no sensibles no ofrecería ese mismo incentivo real, ya que la información que un atacante podría reconstruir ya sería pública de todas formas.
✓
¡Lección completada!
Model inversion — reconstruir datos de entrenamiento
0
XP ganado
3
Vidas restantes