Ollama y LLMs Self-Hosted · Lección 26
¿Qué riesgo de seguridad es relevante considerar específicamente al exponer un modelo self-hosted con Ollama a peticiones de usuarios externos no confiables?
Ataques de prompt injection donde un usuario malicioso intenta manipular el comportamiento del modelo mediante instrucciones incrustadas en su entrada, además del riesgo general de acceso no autorizado si la API no está protegida
Los modelos self-hosted no tienen absolutamente ningún riesgo de seguridad real bajo ninguna circunstancia
Solo es un problema de seguridad si el modelo está corriendo en un sistema operativo específico distinto a Linux
Ejecutar el modelo localmente elimina por completo cualquier posibilidad de un ataque de prompt injection
Ollama y LLMs Self-Hosted · Lección 26
Completa el código
Se recomienda validar y sanear la entrada del usuario antes de incorporarla al
Revisa: se recomienda validar y sanear la entrada antes de incorporarla al prompt.
Ollama y LLMs Self-Hosted · Lección 26
¿Por qué exponer Ollama sin ninguna protección de autenticación hacia usuarios externos no confiables representa un riesgo mayor que usarlo exclusivamente en un entorno local controlado?
Pista: en un entorno local controlado, solo usuarios de confianza tienen acceso directo al sistema; al exponer el servicio hacia usuarios externos no confiables, se amplía significativamente la superficie de riesgo, incluyendo la posibilidad de abuso de recursos o intentos deliberados de manipular el comportamiento del modelo mediante entradas maliciosas diseñadas específicamente para ese propósito.
✓
¡Lección completada!
Seguridad de un despliegue self-hosted de LLM
0
XP ganado
3
Vidas restantes