Entrenamiento y fine-tuning

Un LLM no consulta una biblioteca durante cada respuesta. Antes de servirlo, aprende patrones ajustando sus parámetros sobre grandes conjuntos de datos. Entrenar cambia esos parámetros; escribir un prompt o adjuntar un documento sólo cambia el contexto de una llamada.

Las etapas, simplificadas

1. Preentrenamiento. El modelo aprende a predecir el siguiente token a gran escala. Aquí adquiere lenguaje, patrones y capacidades generales.
2. Post-training. Se ajusta para seguir instrucciones, conversar, usar herramientas y respetar preferencias o políticas.
3. Fine-tuning. Se entrena adicionalmente con ejemplos de una tarea, estilo o dominio concreto.
4. Inferencia. El modelo ya entrenado procesa tu contexto y genera una respuesta. Sus parámetros normalmente no cambian.

Prompt, RAG o fine-tuning

Fine-tuning no es una base de datos. Puede mejorar tono, formato o desempeño de una tarea, pero no es la vía ideal para mantener hechos que cambian. Para eso conviene recuperar la fuente en tiempo de ejecución.

Cuándo considerar fine-tuning

• ya tienes una métrica y un conjunto de ejemplos de calidad;
• el prompt se volvió largo por repetir muchos ejemplos;
• necesitas un estilo o estructura consistente a gran volumen;
• un modelo menor ajustado puede sustituir a otro más caro.

No empieces ahí. Primero establece un baseline con instrucciones, schemas y recuperación; sólo entonces sabrás qué problema concreto intentas mejorar.

Riesgos

• datos ruidosos enseñan errores de forma persistente;
• memorizar ejemplos no garantiza generalización;
• una nueva versión del modelo puede obligar a repetir evaluaciones;
• el ajuste puede degradar capacidades fuera del dominio;
• entrenar con datos sensibles exige gobernanza y permisos claros.

Temas relacionados

El entrenamiento produce Modelos fundacionales; la Inferencia y sampling describe lo que ocurre cuando los usas. Para conocimiento cambiante, compara con RAG.