Observabilidad de IA · Lección 27
¿Qué requisito adicional de observabilidad es especialmente relevante para un sistema de IA que opera en un sector regulado (como finanzas o salud), más allá del monitoreo operativo habitual?
Mantener un registro auditable y trazable de las decisiones del sistema (qué información se usó, qué respuesta se generó, cuándo), de forma que pueda reconstruirse y justificarse ante un auditor externo o regulador cuando sea necesario
Los sectores regulados no tienen ningún requisito real de observabilidad adicional distinto al de cualquier otro tipo de aplicación no regulada
Solo es relevante este requisito si el sistema tiene exactamente un único usuario consultándolo en total, sin ninguna escala real de operación
El registro auditable elimina por completo la necesidad de tener cualquier otro tipo de observabilidad operativa tradicional del sistema
Observabilidad de IA · Lección 27
Completa el código
El registro debe permitir reconstruir la decisión del sistema ante un
Revisa: debe permitir reconstruir la decisión del sistema ante un auditor externo.
Observabilidad de IA · Lección 27
¿Por qué un sistema de IA en el sector financiero que niega una solicitud de crédito necesitaría poder reconstruir exactamente qué información y razonamiento llevaron a esa decisión específica, meses después de que ocurrió?
Pista: una decisión que niega crédito a una persona tiene un impacto real y directo sobre su vida, y la regulación del sector financiero típicamente exige poder justificar y explicar cómo se llegó a esa decisión específica si esa persona (o un regulador) lo cuestiona después; sin un registro auditable completo, sería imposible reconstruir y justificar esa decisión meses después de que realmente ocurrió.
✓
¡Lección completada!
Observabilidad para cumplimiento y auditoría (compliance)
0
XP ganado
3
Vidas restantes