Observabilidad de IA · Lección 14
¿Qué información útil aporta monitorear la 'tasa de bloqueo de guardrails' (cuántas peticiones son rechazadas por los filtros de seguridad) a lo largo del tiempo en un sistema de IA en producción?
Puede revelar patrones de intentos de manipulación o uso indebido del sistema (como intentos de jailbreak), además de ayudar a identificar si los guardrails están siendo demasiado estrictos y bloqueando peticiones legítimas por error
Esta métrica no tiene ninguna relación real con la seguridad del sistema, solo mide un aspecto puramente técnico sin ningún valor de seguridad
Solo es relevante monitorear esta métrica si el sistema tiene exactamente un único usuario consultándolo en total
Un aumento en la tasa de bloqueo siempre significa exactamente que los guardrails están mal configurados y deben desactivarse de inmediato
Observabilidad de IA · Lección 14
Completa el código
Un aumento repentino en la tasa de bloqueo puede indicar intentos coordinados de
Revisa: puede indicar intentos coordinados de jailbreak o manipulación del sistema.
Observabilidad de IA · Lección 14
¿Por qué un pico repentino y sostenido en la tasa de bloqueo de guardrails, justo después de haber sido estable durante semanas, merecería una investigación inmediata en vez de asumir simplemente que es ruido normal?
Pista: un patrón estable que cambia repentinamente sugiere que algo específico está ocurriendo ahora que no ocurría antes, ya sea una campaña coordinada de intentos de manipulación recién iniciada por actores maliciosos, o un cambio no intencional en el comportamiento de los propios guardrails; en cualquier caso, ese cambio real merece investigarse en vez de descartarse como ruido aleatorio normal.
✓
¡Lección completada!
Métricas de seguridad — tasa de bloqueo de guardrails, intentos de jailbreak
0
XP ganado
3
Vidas restantes