Seguridad en IA · Lección 10
¿Qué diferencia temporal tiene un 'ataque de evasión' respecto a un ataque de data poisoning, en cuanto al momento del ciclo de vida del modelo en que ocurre?
El ataque de evasión ocurre en tiempo de inferencia, contra un modelo ya entrenado y desplegado, manipulando la entrada específica de una consulta para evadir su comportamiento esperado, sin necesitar comprometer el proceso de entrenamiento original
Son exactamente el mismo tipo de ataque ejecutado en el mismo momento del ciclo de vida del modelo, sin ninguna diferencia temporal real entre ellos
Un ataque de evasión solo puede ejecutarse si el atacante logró previamente comprometer los datos de entrenamiento del modelo
Los ataques de evasión solo son relevantes para modelos de texto, ningún otro tipo de modelo puede ser vulnerable a este tipo de ataque
Seguridad en IA · Lección 10
Completa el código
El ataque de evasión ocurre en tiempo de
Revisa: ocurre en tiempo de inferencia, contra un modelo ya entrenado y desplegado.
Seguridad en IA · Lección 10
¿Por qué un ataque de evasión sigue siendo posible incluso contra un modelo entrenado con datos completamente limpios y sin ningún rastro de data poisoning?
Pista: un ataque de evasión no depende de que los datos de entrenamiento hayan sido comprometidos, sino que explota directamente cómo el modelo ya entrenado (aunque completamente limpio en su origen) procesa una entrada específica diseñada deliberadamente para engañarlo en el momento de la consulta; la limpieza del entrenamiento original no garantiza inmunidad contra ese tipo distinto de manipulación aplicada después, en producción.
✓
¡Lección completada!
Ataques de evasión en producción
0
XP ganado
3
Vidas restantes