Seguridad en IA · Lección 22
¿Qué práctica de seguridad se recomienda al considerar usar un modelo o dataset de un tercero no completamente verificado dentro de un sistema de producción crítico?
Evaluar la reputación y confiabilidad de la fuente, probar el modelo o dataset en un entorno aislado antes de integrarlo, y monitorear su comportamiento cuidadosamente incluso después de la integración inicial, en vez de confiar ciegamente sin ninguna verificación previa
Se recomienda integrar directamente cualquier modelo o dataset de terceros sin ninguna evaluación previa, confiando completamente en la buena fe del publicador original
Esta práctica de seguridad solo es relevante si el sistema de producción tiene exactamente un único usuario en total consultándolo
Un modelo o dataset gratuito de un tercero es automáticamente más seguro que uno de pago, sin ninguna relación real entre el costo y el nivel de riesgo real
Seguridad en IA · Lección 22
Completa el código
Se recomienda probar el modelo o dataset en un entorno
Revisa: se recomienda probarlo en un entorno aislado antes de integrarlo a producción.
Seguridad en IA · Lección 22
¿Por qué probar un modelo de tercero en un entorno aislado (sandbox) antes de integrarlo directamente a producción reduce el riesgo de que un comportamiento malicioso oculto afecte inmediatamente a usuarios reales?
Pista: si el modelo de tercero tuviera un comportamiento malicioso oculto, probarlo primero en un entorno aislado permitiría descubrir ese problema sin que haya afectado todavía a ningún usuario real o sistema de producción crítico; integrarlo directamente sin esa validación previa expondría inmediatamente a usuarios reales a un riesgo completamente no verificado desde el primer momento de uso.
✓
¡Lección completada!
Riesgos de modelos y datasets de terceros no verificados
0
XP ganado
3
Vidas restantes