Ollama y LLMs Self-Hosted · Lección 14
¿Qué representa el 'embedding' que Ollama puede generar a partir de un texto usando un modelo específico para esa tarea?
Una representación numérica (vector) del significado semántico del texto, útil para tareas como búsqueda semántica o sistemas RAG, generada de forma completamente local sin depender de un servicio externo
Un embedding es una copia exacta comprimida del texto original sin ninguna transformación semántica real
Solo puede generarse usando el mismo modelo de chat conversacional, ningún modelo especializado distinto
Elimina por completo la necesidad de tener el texto original almacenado en algún lugar
Ollama y LLMs Self-Hosted · Lección 14
Completa el código
Los embeddings generados localmente son útiles para construir sistemas de búsqueda
Revisa: son útiles para construir sistemas de búsqueda semántica.
Ollama y LLMs Self-Hosted · Lección 14
¿Por qué generar embeddings localmente con Ollama (en vez de usar un servicio externo) mantiene la ventaja de privacidad de datos incluso al construir un sistema RAG completo?
Pista: si se usara un servicio externo para generar los embeddings (aunque el modelo de generación de texto final fuera local), el contenido sensible del documento igualmente pasaría por ese servicio externo durante ese proceso; generar los embeddings también localmente mantiene la privacidad de los datos en todas las etapas del sistema RAG completo, no solo en la generación final de la respuesta.
✓
¡Lección completada!
Embeddings con Ollama
0
XP ganado
3
Vidas restantes