Seguridad en IA · Lección 14
¿Por qué un modelo de lenguaje entrenado con grandes cantidades de texto de internet podría, en ciertas circunstancias, generar información personal identificable (PII) real de una persona específica dentro de su respuesta?
Si esa información personal específica aparecía repetidamente en los datos de entrenamiento (como en documentos públicos filtrados o mal protegidos), el modelo podría haber memorizado parcialmente ese patrón y reproducirlo cuando se le hace una consulta relacionada
Un modelo de lenguaje nunca puede generar bajo ninguna circunstancia ningún tipo de información que no haya sido explícitamente proporcionada como parte del prompt de esa consulta específica
Solo es un riesgo real si el modelo tiene exactamente un único usuario en total consultándolo
La fuga de PII solo puede ocurrir si un desarrollador incluye deliberadamente esa información específica directamente en el código de la aplicación
Seguridad en IA · Lección 14
Completa el código
Si la información apareció repetidamente en el entrenamiento, el modelo pudo haberla
Revisa: el modelo pudo haberla memorizado parcialmente y reproducirla después.
Seguridad en IA · Lección 14
¿Por qué la posibilidad de que un modelo memorice y reproduzca PII de sus datos de entrenamiento es una razón importante para filtrar y limpiar cuidadosamente esos datos antes de entrenar, en vez de confiar únicamente en filtros aplicados después sobre las respuestas generadas?
Pista: una vez que el modelo memorizó cierta información durante el entrenamiento, esa memorización queda incorporada en sus pesos internos de forma difícil de revertir completamente sin reentrenar desde cero; un filtro aplicado únicamente después sobre las respuestas generadas tendría que anticipar y capturar cada posible forma en que esa información podría aparecer, una tarea mucho menos confiable que prevenir el problema desde el origen limpiando cuidadosamente los datos antes del entrenamiento.
✓
¡Lección completada!
Fuga de PII en respuestas generadas
0
XP ganado
3
Vidas restantes