Seguridad en IA · Lección 15
¿Qué garantía busca aportar la técnica de 'privacidad diferencial' aplicada al entrenamiento de un modelo de machine learning?
Añade ruido estadístico controlado durante el entrenamiento de forma que la presencia o ausencia de un único registro individual específico en el dataset tenga un impacto matemáticamente acotado y limitado en el resultado final del modelo, dificultando inferir información sobre ese individuo particular
La privacidad diferencial elimina por completo la necesidad de tener cualquier tipo de dato real de entrenamiento para poder entrenar el modelo
Solo puede aplicarse si el dataset de entrenamiento tiene exactamente un único registro individual en total
Esta técnica garantiza que el modelo resultante tenga exactamente la misma precisión y calidad que un modelo entrenado sin ninguna protección de privacidad adicional
Seguridad en IA · Lección 15
Completa el código
Se añade ruido estadístico controlado para limitar el impacto de un registro
Revisa: se añade ruido estadístico controlado para limitar el impacto de un registro individual.
Seguridad en IA · Lección 15
¿Por qué aceptar cierta pérdida de precisión del modelo (el tradeoff que implica la privacidad diferencial) puede valer la pena en un contexto donde proteger la privacidad individual de las personas en el dataset es un requisito crítico?
Pista: en un contexto donde el dataset contiene información sensible de personas reales (como registros médicos o financieros), proteger su privacidad individual mediante esa garantía matemática puede ser más importante que exprimir cada punto porcentual adicional de precisión del modelo; ese tradeoff aceptado deliberadamente refleja priorizar la protección real de las personas involucradas sobre el rendimiento técnico máximo posible del sistema.
✓
¡Lección completada!
Técnicas de privacidad diferencial en ML
0
XP ganado
3
Vidas restantes