Ollama y LLMs Self-Hosted · Lección 19
¿Por qué se recomienda colocar un reverse proxy con autenticación delante de la API de Ollama, en vez de exponerla directamente hacia internet sin ninguna protección adicional?
Ollama no incluye autenticación nativa en su API por defecto, así que exponerla directamente sin protección permitiría que cualquiera con la URL pudiera usar el modelo sin ninguna restricción de acceso
Un reverse proxy elimina por completo la necesidad de tener el propio servicio de Ollama corriendo
Solo es relevante si Ollama se expone exclusivamente dentro de una red local privada, nunca hacia internet
Ollama ya incluye un sistema de autenticación robusto integrado por defecto sin necesitar ninguna protección adicional
Ollama y LLMs Self-Hosted · Lección 19
Completa el código
Se recomienda usar un reverse proxy como Nginx o
Revisa: se recomienda usar un reverse proxy como Nginx o Caddy.
Ollama y LLMs Self-Hosted · Lección 19
¿Por qué exponer la API de Ollama sin ninguna autenticación hacia internet podría resultar en que terceros no autorizados usen la capacidad de cómputo (y potencialmente incurran en costos) sin el conocimiento del propietario del servidor?
Pista: sin ninguna capa de autenticación protegiendo el acceso, cualquier persona que descubra la URL pública del servicio podría enviar peticiones y consumir la capacidad de cómputo del servidor libremente, potencialmente generando costos de infraestructura o degradando el rendimiento disponible para el uso legítimo previsto por el propietario.
✓
¡Lección completada!
Exponer Ollama de forma segura (reverse proxy, auth)
0
XP ganado
3
Vidas restantes