LLMOps en Producción · Lección 25
¿En qué escenario tendría más sentido considerar fine-tuning de un modelo, en vez de simplemente ajustar el prompt (prompt engineering) para lograr el comportamiento deseado?
Cuando se necesita que el modelo internalice un estilo, formato o conocimiento de dominio muy específico de forma consistente en un volumen muy alto de casos, algo que el prompting por sí solo no logra de forma suficientemente confiable
El fine-tuning siempre es preferible al prompt engineering en absolutamente todos los casos, sin ninguna excepción
El fine-tuning es técnicamente imposible de realizar sobre modelos de proveedores propietarios bajo cualquier circunstancia
Prompt engineering y fine-tuning son exactamente lo mismo con un nombre distinto
LLMOps en Producción · Lección 25
Completa el código
El fine-tuning modifica los pesos internos del
Revisa: el fine-tuning modifica los pesos internos del modelo, a diferencia del prompting.
LLMOps en Producción · Lección 25
¿Por qué se recomienda generalmente empezar con prompt engineering (más rápido y barato de iterar) antes de invertir en fine-tuning (más costoso y lento) para resolver un problema de comportamiento del modelo?
Pista: ajustar un prompt es una iteración rápida y de bajo costo que puede probarse en minutos, mientras el fine-tuning requiere preparar datos de entrenamiento, tiempo de cómputo y validación adicional; tiene sentido agotar primero la opción más económica antes de invertir en la más costosa.
✓
¡Lección completada!
Fine-tuning vs prompting — cuándo usar cada uno
0
XP ganado
3
Vidas restantes