Fine-tuning, wat is het?

Fine-tuning, Fine-tuning is het verder trainen van een al voorgetraind model op een kleinere, specifieke dataset om het voor een bepaalde taak te specialiseren.

Een groot taalmodel wordt eerst breed getraind op enorme hoeveelheden tekst. Fine-tuning gaat daarna: je traint het model opnieuw, maar nu op een gerichte selectie, medische teksten, klantenservice-gesprekken of een bepaalde schrijfstijl. Het model behoudt zijn brede kennis, maar leert de nuances van het nieuwe domein. Het is goedkoper dan van scratch trainen, maar vraagt wel kwalitatieve trainingsdata.