Ollama y LLMs Self-Hosted · Lección 05
¿En qué escenario tendría más sentido usar Ollama de forma self-hosted en vez de la API de un proveedor cloud como OpenAI o Anthropic?
Cuando se necesita control total sobre los datos, no depender de conectividad a internet, o evitar el costo variable por token en un escenario de uso muy intensivo y predecible
Ollama siempre ofrece mejor calidad de respuesta que cualquier modelo propietario de proveedores cloud, sin ninguna excepción
Los servicios cloud de LLM no pueden usarse bajo ninguna circunstancia para aplicaciones de producción reales
Ollama requiere obligatoriamente una conexión a internet activa y constante para poder generar cualquier respuesta
Ollama y LLMs Self-Hosted · Lección 05
Completa el código
Un costo fijo de infraestructura propia puede resultar más económico que el costo variable por
Revisa: puede resultar más económico que el costo variable por token de una API externa.
Ollama y LLMs Self-Hosted · Lección 05
¿Por qué una aplicación con un volumen de uso muy alto y predecible podría ahorrar dinero a largo plazo usando Ollama self-hosted, en vez de pagar el costo variable por token de una API externa que crece proporcionalmente con el uso?
Pista: con un volumen de uso muy alto y constante, el costo variable acumulado de pagar por cada token procesado en una API externa podría superar significativamente el costo fijo de mantener infraestructura propia con Ollama, especialmente a partir de cierto punto de equilibrio de volumen de uso.
✓
¡Lección completada!
Ollama vs servicios cloud de LLM
0
XP ganado
3
Vidas restantes