Ollama y LLMs Self-Hosted · Lección 09
¿Qué efecto tiene aumentar el parámetro 'temperature' al generar una respuesta con un modelo en Ollama?
Aumenta la aleatoriedad y creatividad de las respuestas generadas, haciendo que el modelo explore opciones de palabras menos probables con más frecuencia, en vez de elegir siempre la opción más predecible
La temperature controla exclusivamente la velocidad de generación de texto, sin ningún efecto en el contenido real de la respuesta
Un valor de temperature más alto siempre produce respuestas más precisas y factualmente correctas
Solo tiene efecto si el modelo está configurado específicamente para generación de código, ningún otro tipo de tarea
Ollama y LLMs Self-Hosted · Lección 09
Completa el código
Un valor de temperature de 0 hace que el modelo elija siempre la palabra más
Revisa: hace que el modelo elija siempre la palabra más probable en cada paso.
Ollama y LLMs Self-Hosted · Lección 09
¿Por qué una tarea que requiere respuestas consistentes y predecibles (como extracción de datos estructurados) se beneficiaría de una temperature baja, mientras una tarea creativa (como escribir un cuento) podría beneficiarse de una temperature más alta?
Pista: para extraer datos estructurados de forma consistente, se necesita que el modelo elija siempre la respuesta más probable y predecible (temperature baja); para escribir contenido creativo, cierta variabilidad y exploración de opciones menos obvias (temperature más alta) puede enriquecer el resultado en vez de limitarlo.
✓
¡Lección completada!
Ajustar parámetros de inferencia (temperature, context)
0
XP ganado
3
Vidas restantes