Ollama y LLMs Self-Hosted · Lección 11
¿Qué permite hacer la API REST local que expone Ollama, más allá de la interacción vía línea de comandos?
Que aplicaciones y scripts externos envíen peticiones HTTP programáticas al modelo cargado, integrando la capacidad de generación de texto dentro de cualquier flujo de trabajo de software personalizado
La API REST reemplaza por completo la necesidad de tener el modelo real cargado en memoria
Solo puede usarse desde el mismo lenguaje de programación en que está escrito Ollama internamente
Requiere una conexión a internet externa para poder funcionar, incluso en la misma máquina local
Ollama y LLMs Self-Hosted · Lección 11
Completa el código
Por defecto, la API de Ollama escucha en el puerto
Revisa: por defecto escucha en el puerto 11434.
Ollama y LLMs Self-Hosted · Lección 11
¿Por qué tener una API REST local permite integrar Ollama dentro de una aplicación web propia, sin necesitar que el usuario final interactúe directamente con la línea de comandos?
Pista: la aplicación web propia puede hacer las peticiones HTTP necesarias a la API de Ollama de forma transparente en el backend, mientras el usuario final solo interactúa con la interfaz normal de esa aplicación, sin necesitar saber nada sobre cómo funciona Ollama ni tocar la línea de comandos directamente.
✓
¡Lección completada!
API REST de Ollama
0
XP ganado
3
Vidas restantes