Agentes de IA para DevOps · Lección 10
¿Qué riesgo específico se introduce al dar a un agente de IA la capacidad de ejecutar acciones de escritura reales (como eliminar recursos o modificar configuración) sobre infraestructura de producción, sin ninguna supervisión humana?
Un error de razonamiento del agente, una alucinación, o una interpretación incorrecta de la tarea podría resultar en una acción destructiva real ejecutada automáticamente sobre sistemas críticos, sin que nadie la haya revisado antes de que ocurriera
Dar acceso de escritura a un agente no representa absolutamente ningún riesgo real bajo ninguna circunstancia, siempre y cuando el agente use un modelo de buena calidad
Solo es un problema de seguridad si el agente está corriendo en un sistema operativo específico distinto a Linux
Un agente con acceso de escritura siempre ejecuta exactamente la acción correcta sin ningún margen real de error posible
Agentes de IA para DevOps · Lección 10
Completa el código
Se recomienda aplicar el principio de menor
Revisa: se recomienda aplicar el principio de menor privilegio al acceso del agente.
Agentes de IA para DevOps · Lección 10
¿Por qué requerir aprobación humana explícita antes de ejecutar una acción destructiva (como eliminar un recurso) reduce significativamente el riesgo de daño causado por un error de razonamiento del agente?
Pista: la aprobación humana actúa como un punto de control final que puede detectar y prevenir un error de razonamiento del agente antes de que esa acción destructiva realmente se ejecute sobre el sistema real; sin ese paso de supervisión, cualquier error del agente se traduciría directamente en una acción real sin ninguna oportunidad de corrección previa.
✓
¡Lección completada!
Riesgos de dar acceso de escritura a un agente sobre infraestructura real
0
XP ganado
3
Vidas restantes