Seguridad en IA · Lección 13
¿Cómo intenta un atacante 'robar' o replicar un modelo de IA propietario mediante un ataque de 'model extraction', sin tener acceso directo a sus pesos internos?
Realiza un gran número de consultas sistemáticas a la API pública del modelo, usando las respuestas obtenidas para entrenar un modelo propio que imite el comportamiento del modelo original, aproximándose a su funcionalidad sin haber accedido nunca a sus pesos reales
El model extraction requiere obligatoriamente tener acceso físico directo al servidor donde corre el modelo original, sin poder ejecutarse únicamente mediante consultas a su API pública
Este tipo de ataque copia exactamente y de forma perfecta cada uno de los pesos internos del modelo original, sin ninguna diferencia real entre ambos modelos resultantes
Solo es un riesgo real si el modelo original expone su API completamente gratis sin ningún costo por consulta realizada
Seguridad en IA · Lección 13
Completa el código
El atacante entrena un modelo propio que imita el comportamiento del
Revisa: entrena un modelo propio que imita el comportamiento del modelo original.
Seguridad en IA · Lección 13
¿Por qué una empresa que invirtió millones de dólares en entrenar un modelo propietario único vería el model extraction como una amenaza real a su ventaja competitiva, aunque el atacante nunca acceda directamente a los pesos internos reales?
Pista: aunque el modelo extraído sea solo una aproximación (no una copia perfecta de los pesos internos), si esa aproximación captura suficientemente bien el comportamiento y la funcionalidad valiosa del modelo original, un competidor podría obtener un beneficio similar sin haber invertido los millones de dólares reales en investigación y entrenamiento que la empresa original sí invirtió, erosionando directamente esa ventaja competitiva.
✓
¡Lección completada!
Model extraction — robo del modelo mediante consultas
0
XP ganado
3
Vidas restantes