Seguridad en IA · Lección 03
¿Qué proceso implica realizar un 'modelado de amenazas' específico para un sistema de IA antes de desplegarlo en producción?
Identificar sistemáticamente los activos valiosos del sistema (datos, modelo, credenciales), los posibles atacantes y sus motivaciones, y las vías de ataque específicas relevantes para ese sistema particular, para priorizar qué defensas implementar primero
El modelado de amenazas elimina por completo la necesidad de implementar cualquier tipo de defensa técnica real en el sistema
Solo es relevante si el sistema de IA maneja exactamente un único tipo de dato en total, sin ninguna variedad de información distinta
Un modelo de amenazas genérico aplicado sin ningún ajuste es exactamente igual de efectivo que uno adaptado específicamente al contexto particular del sistema
Seguridad en IA · Lección 03
Completa el código
El modelado de amenazas identifica los activos valiosos, los atacantes y las vías de
Revisa: identifica los activos valiosos, los atacantes y las vías de ataque específicas.
Seguridad en IA · Lección 03
¿Por qué el modelado de amenazas de un chatbot de atención al cliente sería distinto al de un sistema de IA que genera código de diagnóstico médico, aunque ambos usen la misma tecnología base de LLM?
Pista: aunque ambos sistemas usen la misma tecnología de LLM subyacente, las consecuencias de un error o un ataque exitoso son radicalmente distintas: un chatbot de atención al cliente con una respuesta incorrecta genera una mala experiencia, mientras un sistema médico con una respuesta incorrecta podría poner en riesgo real la salud de una persona, justificando un modelado de amenazas y un nivel de defensa mucho más riguroso en ese segundo caso.
✓
¡Lección completada!
Modelado de amenazas para sistemas de IA
0
XP ganado
3
Vidas restantes