Ollama y LLMs Self-Hosted · Lección 29
¿Qué combinación de factores hace que self-hosted con Ollama sea una opción particularmente atractiva para un caso de uso específico?
Datos sensibles que no pueden salir de la infraestructura propia, volumen de uso alto y predecible que justifique el costo fijo de infraestructura, y una tarea que no requiera necesariamente la máxima calidad de los modelos propietarios más grandes
Self-hosted siempre es la mejor opción en absolutamente todos los casos posibles, sin ninguna excepción a considerar
Solo tiene sentido si la aplicación tiene exactamente un único usuario final en total
Nunca tiene sentido usar self-hosted si existe la posibilidad de usar una API externa de un proveedor cloud
Ollama y LLMs Self-Hosted · Lección 29
Completa el código
La decisión depende de balancear privacidad, costo y
Revisa: depende de balancear privacidad, costo y calidad requerida para el caso de uso.
Ollama y LLMs Self-Hosted · Lección 29
¿Por qué una startup con bajo volumen de uso y sin requisitos estrictos de privacidad de datos probablemente no se beneficiaría de invertir en infraestructura self-hosted con Ollama, prefiriendo en cambio una API externa?
Pista: sin un volumen de uso lo suficientemente alto como para justificar el costo fijo de mantener infraestructura propia, y sin un requisito estricto de privacidad que obligue a mantener los datos internamente, las principales ventajas de self-hosted no aplicarían realmente a ese caso, haciendo que una API externa más simple y sin esa inversión inicial sea la opción más práctica y económica para ese escenario específico.
✓
¡Lección completada!
Casos de uso — cuándo self-hosted vale la pena
0
XP ganado
3
Vidas restantes