Qué ocurre durante el ajuste fino
Un modelo de lenguaje se entrena primero con enormes cantidades de texto general. El fine-tuning parte de ese modelo y lo sigue entrenando con un conjunto mucho más pequeño de ejemplos de la tarea concreta, normalmente pares de entrada y salida esperada. Durante el proceso se ajustan sus parámetros para que reproduzca el patrón de esos ejemplos.
Hay variantes. El ajuste completo modifica todos los parámetros y exige bastante capacidad de cómputo. Las técnicas de ajuste eficiente, como LoRA, entrenan solo un pequeño conjunto de parámetros adicionales, lo que abarata el proceso y facilita mantener varias versiones especializadas. Algunos proveedores de modelos comerciales ofrecen fine-tuning como servicio, y los modelos de pesos abiertos pueden ajustarse en infraestructura propia.
La parte más laboriosa casi nunca es el entrenamiento, sino preparar los datos: ejemplos correctos, representativos, coherentes entre sí y revisados. Un conjunto pequeño y bien curado suele dar mejor resultado que uno grande y descuidado.
Cuándo tiene sentido hacer fine-tuning
El ajuste fino aporta valor cuando el problema es de comportamiento, no de conocimiento:
- Un formato o estilo muy específico que el modelo no respeta de forma consistente solo con instrucciones, como informes con una estructura técnica rígida.
- Tareas de clasificación o extracción repetitivas y de gran volumen, donde un modelo pequeño ajustado puede rendir como uno grande en esa tarea concreta, con menos coste y tiempo de respuesta.
- Terminología de un dominio muy especializado que el modelo base maneja mal.
- Instrucciones de sistema muy largas que se repiten en cada llamada: el ajuste puede incorporar ese comportamiento y aligerar cada petición.
Señales de que las instrucciones y RAG ya no bastan
El fine-tuning debería responder a un problema medido, no ser el punto de partida. Antes de plantearlo conviene haber agotado las instrucciones y, si lo que falta es información, haber probado RAG. Estas señales indican que el ajuste fino puede estar justificado:
- Has iterado el prompt con un conjunto de pruebas y el modelo sigue fallando de forma sistemática en el mismo tipo de caso.
- El fallo es de comportamiento —formato, tono, criterio de clasificación—, no de información que le falte al modelo.
- Puedes medir la mejora, porque tienes casos de evaluación separados de los ejemplos de entrenamiento.
- Dispones de ejemplos revisados por personas que conocen la tarea, y de alguien que los mantenga cuando cambie el proceso.
Costes y riesgos que conviene valorar
Antes de decidir, ten en cuenta lo siguiente:
- Datos de entrenamiento: preparar y revisar los ejemplos requiere tiempo de personas que conozcan bien la tarea.
- Conocimiento congelado: lo aprendido queda fijo en el momento del entrenamiento; si cambian tus productos o políticas, hay que volver a entrenar.
- Mantenimiento: cuando sale una versión mejor del modelo base, el ajuste no se traslada solo y hay que repetirlo y evaluarlo.
- Regresiones: un ajuste mal planteado puede empeorar capacidades generales del modelo o reforzar errores presentes en los ejemplos.
- Datos sensibles: si los ejemplos incluyen datos personales, el modelo podría reproducirlos, por lo que hay que anonimizarlos y revisar el cumplimiento del RGPD.