¿Qué es el fine-tuning?

Fine-tuning: definición

Los grandes modelos de lenguaje se entrenan primero de forma general, por lo que son versátiles pero no están adaptados a su empresa. En el fine-tuning, un modelo así se sigue entrenando con unos cientos o miles de pares de ejemplos propios, cada uno formado por una entrada y la salida deseada. Con ello su comportamiento cambia de forma duradera.

La distinción es importante: el fine-tuning transmite sobre todo estilo, estructura y rutina de tarea, no conocimientos nuevos de forma fiable. El conocimiento actual, como precios o manuales, es mejor proporcionarlo en tiempo de ejecución mediante retrieval-augmented generation (RAG), porque los documentos se sustituyen con más facilidad que un modelo entrenado.

Cómo se desarrolla el fine-tuning

Primero se reúnen y depuran ejemplos: buenas entradas con su salida correcta, a ser posible revisadas por especialistas. Una parte se reserva para el control. Después se entrena el modelo. Están muy extendidos los métodos eficientes en parámetros, como LoRA, que entrenan solo un pequeño complemento y por ello requieren menos capacidad de cálculo.

A continuación, el resultado se mide con casos de prueba no vistos y se compara con el modelo de partida. Solo cuando es medible y claramente mejor pasa a producción. Así se evita que una mejora en un punto afecte sin ser notada a otro. Si el proveedor cambia su modelo base, el fine-tuning suele tener que repetirse.

Ejemplo práctico: clasifica­ción uniforme del correo entrante

Una asesoría fiscal recibe a diario cartas de las oficinas tributarias, bancos y clientes y quiere clasificarlas en categorías fijas, cada una con plazo y resumen breve en un formato predefinido. Solo con instrucciones, el resultado varía. Tras un fine-tuning con varios cientos de ejemplos revisados, el formato es estable y la clasificación, más fiable.

La asesoría mantuvo el control humano sobre los plazos. Además recopiló las correcciones de los empleados para poder mejorar el modelo más adelante de forma selectiva. El ejemplo muestra que el fine-tuning compensa en una tarea claramente delimitada y frecuente con muchos buenos ejemplos. Para contenidos cambiantes, como las listas de precios, RAG habría sido la mejor opción.

Cuándo compensa y cuándo no

Lo habitual y razonable es este orden: primero prompting, luego RAG y, por último, fine-tuning. Cuesta tiempo y datos, hay que mantenerlo y, si los ejemplos son malos, puede consolidar errores. Si se usan datos personales para el entrenamiento, hay que aclarar la protección de datos y la limitación de la finalidad. Quien use ejemplos de casos reales debe comprobar además si contienen datos confidenciales.

Nano Concepts ayuda a tomar la decisión y, si es necesario, construye la base de datos, el entrenamiento y la comprobación de calidad. Eso incluye una comparación con soluciones más sencillas y un piloto que mide la calidad con casos reales antes de iniciar un entrenamiento mayor. También le decimos con franqueza cuando el fine-tuning no es necesario.

• Fijar de antemano el objetivo y la métrica
• Comparar con prompting y RAG antes de entrenar
• Revisar técnicamente los ejemplos y eliminar los datos personales
• Mantener separados los datos de prueba y medir la calidad con regularidad
• Prever el esfuerzo de mantenimiento ante cambios de modelo