Seguridad en IA · Lección 01
¿Qué hace que la superficie de ataque de un sistema con LLM sea distinta a la de una aplicación de software tradicional sin componentes de IA?
El propio lenguaje natural de entrada se convierte en un vector de ataque potencial (como prompt injection), algo que no existe de la misma forma en aplicaciones tradicionales donde la entrada sigue formatos estructurados y validables más estrictamente
Un sistema con LLM no tiene absolutamente ninguna de las vulnerabilidades tradicionales de seguridad que afectan a cualquier otro tipo de software
Solo es relevante esta diferencia si el sistema tiene exactamente un único usuario consultándolo en total
El lenguaje natural de entrada nunca puede representar ningún riesgo de seguridad real bajo ninguna circunstancia
Seguridad en IA · Lección 01
Completa el código
El lenguaje natural de entrada se convierte en un vector de
Revisa: se convierte en un vector de ataque potencial nuevo y distinto.
Seguridad en IA · Lección 01
¿Por qué es mucho más difícil validar y sanitizar una entrada en lenguaje natural libre que validar un campo de formulario tradicional con un formato estructurado esperado (como un número de teléfono)?
Pista: un campo estructurado como un número de teléfono tiene un formato predecible y reglas claras de validación (solo dígitos, cierta longitud); el lenguaje natural libre no tiene ese patrón fijo, así que una instrucción maliciosa disfrazada dentro de texto aparentemente normal es mucho más difícil de detectar y filtrar automáticamente que un valor que simplemente no cumple un formato esperado.
✓
¡Lección completada!
Por qué la IA introduce una superficie de ataque distinta al software tradicional
0
XP ganado
3
Vidas restantes