Seguridad en IA · Lección 29
¿Qué tipo de requisito introduce un marco regulatorio como el EU AI Act para sistemas de IA clasificados como de 'alto riesgo' (como los usados en decisiones críticas de salud, empleo o justicia)?
Obligaciones adicionales de transparencia, evaluación de riesgos, supervisión humana, y documentación rigurosa del sistema, significativamente más estrictas que las que aplicarían a un sistema de IA de bajo riesgo o de uso general
El EU AI Act aplica exactamente los mismos requisitos idénticos a absolutamente todos los tipos de sistemas de IA, sin ninguna distinción real según su nivel de riesgo o contexto de uso
Solo aplica si el sistema de IA tiene exactamente un único usuario en total dentro de la Unión Europea consultándolo
Este tipo de marco regulatorio elimina por completo la necesidad de que la organización implemente cualquier tipo de medida técnica de seguridad propia adicional
Seguridad en IA · Lección 29
Completa el código
Los sistemas de alto riesgo requieren supervisión
Revisa: requieren supervisión humana significativa, entre otras obligaciones adicionales.
Seguridad en IA · Lección 29
¿Por qué un sistema de IA usado para decidir la aprobación de préstamos bancarios estaría sujeto a requisitos regulatorios mucho más estrictos que un sistema de IA usado para recomendar música a un usuario?
Pista: una decisión incorrecta o injusta sobre un préstamo bancario puede tener consecuencias financieras significativas y reales en la vida de una persona, mientras una mala recomendación musical tiene consecuencias mínimas; los marcos regulatorios como el EU AI Act clasifican el nivel de riesgo (y por tanto el rigor de los requisitos exigidos) precisamente en función de esas consecuencias reales potenciales de una decisión incorrecta del sistema.
✓
¡Lección completada!
Cumplimiento normativo de seguridad de IA (EU AI Act, marcos regulatorios)
0
XP ganado
3
Vidas restantes