Ollama y LLMs Self-Hosted · Lección 13
¿Qué facilita que Ollama exponga un endpoint compatible con el formato de la API de OpenAI (Chat Completions)?
Permite que aplicaciones ya construidas para usar la API de OpenAI puedan apuntar hacia Ollama simplemente cambiando la URL base, sin necesitar reescribir la integración desde cero
Esta compatibilidad elimina por completo la necesidad de tener el modelo real cargado localmente en Ollama
Solo funciona si la aplicación cliente está escrita específicamente en Python, ningún otro lenguaje
Requiere tener una cuenta activa y de pago con OpenAI para poder usar esta funcionalidad de compatibilidad
Ollama y LLMs Self-Hosted · Lección 13
Completa el código
Un cliente existente que usa el SDK de OpenAI solo necesita cambiar la URL
Revisa: solo necesita cambiar la URL base apuntando hacia Ollama.
Ollama y LLMs Self-Hosted · Lección 13
¿Por qué esta compatibilidad de formato de API reduce significativamente el esfuerzo de migrar una aplicación que ya usaba la API de OpenAI hacia un modelo self-hosted con Ollama?
Pista: como el formato de las peticiones y respuestas es compatible, el código de la aplicación que ya sabía cómo comunicarse con la API de OpenAI sigue funcionando casi sin cambios, requiriendo solo actualizar la URL de destino en vez de reescribir toda la lógica de integración desde cero.
✓
¡Lección completada!
Compatibilidad con API de OpenAI
0
XP ganado
3
Vidas restantes