Seguridad en IA · Lección 04
¿Por qué es importante considerar riesgos de seguridad en cada etapa del ciclo de vida de un modelo de ML (recolección de datos, entrenamiento, despliegue, inferencia), en vez de enfocarse únicamente en proteger el modelo ya desplegado en producción?
Un atacante podría introducir un riesgo en una etapa temprana (como envenenar los datos de entrenamiento) que comprometa el modelo de forma fundamental, un problema que ninguna protección aplicada solo en la etapa de inferencia final podría detectar o corregir después
Solo la etapa de inferencia en producción representa algún riesgo real de seguridad, todas las etapas anteriores del ciclo de vida son completamente seguras por defecto
Es técnicamente imposible que un riesgo introducido durante el entrenamiento afecte el comportamiento del modelo una vez desplegado en producción
El ciclo de vida de un modelo de ML consiste en exactamente una única etapa, sin ninguna distinción real entre distintas fases del proceso
Seguridad en IA · Lección 04
Completa el código
Un dato envenenado durante el entrenamiento puede comprometer el modelo de forma
Revisa: puede comprometer el modelo de forma fundamental, difícil de corregir después.
Seguridad en IA · Lección 04
¿Por qué proteger únicamente la API de inferencia en producción (sin considerar la seguridad de los datos de entrenamiento previos) dejaría una brecha real si esos datos de entrenamiento fueron manipulados deliberadamente antes de esa etapa final?
Pista: si los datos de entrenamiento fueron manipulados deliberadamente antes de esa etapa (data poisoning), ese comportamiento malicioso quedaría incorporado dentro de los propios pesos aprendidos del modelo resultante; ninguna protección aplicada únicamente en la etapa final de inferencia podría detectar o corregir ese problema, ya que el modelo ya 'aprendió' ese comportamiento problemático desde su origen en el entrenamiento.
✓
¡Lección completada!
El ciclo de vida de ML y dónde puede introducirse cada riesgo
0
XP ganado
3
Vidas restantes