Seguridad en IA · Lección 23
¿Por qué es importante escanear regularmente las dependencias de software (librerías de Python, frameworks de ML) usadas en un pipeline de machine learning, en busca de vulnerabilidades conocidas?
Una librería con una vulnerabilidad conocida podría ser explotada por un atacante para comprometer el pipeline completo de entrenamiento o inferencia, incluso si el propio modelo y los datos usados son completamente seguros y confiables
Las librerías y frameworks usados en proyectos de machine learning son inmunes por diseño a cualquier tipo de vulnerabilidad de seguridad tradicional de software
Solo es relevante escanear dependencias si el pipeline de ML tiene exactamente una única librería externa en total, sin ninguna otra dependencia adicional
Una vulnerabilidad en una dependencia de software nunca puede tener ningún impacto real en la seguridad general del sistema de IA completo
Seguridad en IA · Lección 23
Completa el código
Una vulnerabilidad en una librería podría comprometer el pipeline aunque el modelo y los datos sean
Revisa: podría comprometer el pipeline aunque el modelo y los datos sean completamente seguros.
Seguridad en IA · Lección 23
¿Por qué un equipo que se enfoca exclusivamente en la seguridad del modelo y los datos, sin prestar atención a las dependencias de software del pipeline, podría dejar una brecha de seguridad real sin darse cuenta?
Pista: la seguridad del modelo y los datos es solo una parte de la superficie de ataque total del sistema; las dependencias de software (librerías, frameworks) que ejecutan el pipeline son otra parte real y separada que también puede tener vulnerabilidades explotables, y enfocarse exclusivamente en una parte mientras se ignora la otra deja una brecha de seguridad genuina sin que el equipo necesariamente se dé cuenta de esa exposición real.
✓
¡Lección completada!
Escaneo de vulnerabilidades en dependencias de ML
0
XP ganado
3
Vidas restantes