Wat is fine-tuning van een AI-model?
Fine-tuning is het proces waarbij je een bestaand taalmodel verder traint op jouw eigen voorbeelden, zodat het jouw schrijfstijl, vakjargon of output-formaat leert. Het verschilt van prompting (instructies in de prompt) en RAG (externe kennisbron raadplegen) doordat je het model zelf aanpast. Voor de meeste bedrijven is RAG of goede prompting echter voldoende en is fine-tuning overkill.
Fine-tuning past een bestaand AI-model aan op jouw data, zodat het jouw taal, stijl of vakjargon beheerst zonder elke keer uitgebreide prompts.
Wat fine-tuning precies doet
Een taalmodel zoals GPT-4 of Claude is getraind op een enorme hoeveelheid tekst van het internet, boeken en andere bronnen. Daardoor begrijpt het veel, maar het kent jouw bedrijf, jouw schrijfstijl en jouw vakjargon niet.
Fine-tuning lost dat op door het model verder te trainen op een kleinere dataset van jouw eigen voorbeelden. Stel dat je wilt dat het model altijd antwoorden geeft in de stijl van je klantenserviceteam: je verzamelt honderd voorbeelden van goede klantgesprekken, en traint het model op die combinaties van vraag en antwoord. Na de training gedraagt het model zich alsof het die stijl heeft geïnternaliseerd, zonder dat je het elke keer opnieuw in een prompt hoeft uit te leggen.
Het resultaat is een apart model, technisch gezien een versie van het basismodel met aangepaste parameters. Je roept dit model op via de API, net als een standaard model.
Hoe fine-tuning verschilt van prompting en RAG
Er zijn drie manieren om een taalmodel te sturen op jouw gebruik, en het is belangrijk om het verschil te begrijpen voordat je investeert in fine-tuning.
Prompting geeft je instructies mee in elke aanvraag. “Antwoord altijd in formele zakelijke taal, gebruik maximaal drie alinea’s.” Dit werkt goed voor de meeste toepassingen, is gratis en direct aanpasbaar. Het nadeel: bij elke aanroep verbruik je tokens voor de instructies, en als de instructies te lang worden, volgt het model ze niet altijd perfect op.
RAG koppelt je model aan een externe kennisbron, zoals je productdocumentatie of een kennisbank. Bij elke vraag zoekt het systeem de relevante documenten op en geeft die mee aan het model. Meer hierover lees je in ons artikel over wat retrieval-augmented generation is. RAG is ideaal als je feitelijke, actuele informatie wilt kunnen raadplegen.
Fine-tuning past het model zelf aan. Het is de zwaarste ingreep, maar geeft de meeste controle over stijl, formaat en gedragspatronen. Het is ook het duurst en het minst flexibel: als je de gewenste output wilt aanpassen, moet je opnieuw trainen.
Wanneer fine-tuning zinvol is
Fine-tuning is het overwegen waard in een beperkt aantal situaties:
Consistente schrijfstijl of huisstijl. Als je wilt dat het model altijd in exact dezelfde toon schrijft, een stijlgids volgt die twintig pagina’s beslaat, of juridische zinsconstructies hanteert die moeilijk in een korte prompt passen.
Domeinspecifiek jargon. Medische termen, financieel vakjargon of interne productnamen die een standaard model niet kent of verkeerd gebruikt. Na fine-tuning gebruikt het model deze termen correct en consistent.
Vaste output-formaten. Als je model altijd JSON in een specifiek schema moet uitvoeren, altijd een bepaalde koptekststructuur moet volgen, of altijd in precies vijf bullets moet samenvatten, dan leert fine-tuning het model dat formaat moeiteloos toe te passen.
Datavereisten en risico’s
Voor eenvoudige taken heb je minstens 50 tot 100 kwalitatieve voorbeelden nodig. Voor complexere toepassingen zijn honderden tot duizenden voorbeelden realistischer. OpenAI adviseert minimaal 50 voorbeelden voor hun fine-tuning API, maar de kwaliteitssprong is het grootst boven de 200.
De grootste valkuil is overfitting: als je dataset te klein of te eenzijdig is, leert het model die specifieke voorbeelden bijna letterlijk uit het hoofd, maar presteert het slecht op nieuwe situaties die net iets anders geformuleerd zijn. Je eindigt dan met een model dat op je testset goed scoort maar in productie teleurstelt.
Andere risico’s zijn datakwaliteit (slechte voorbeelden = slecht model) en het ontbreken van actuele informatie (een fine-tuned model weet niets van zaken die na de trainingsafsnijdatum zijn gebeurd). Voor kennis die regelmatig verandert is RAG dan ook de betere keuze.
Is fine-tuning de juiste keuze voor jouw bedrijf?
Eerlijk gezegd is fine-tuning voor de meeste MKB-bedrijven niet de eerste stap. Goede prompttechnieken lossen de meeste problemen op, zijn direct aanpasbaar en kosten niets extra. RAG is de volgende stap als je feitelijke bedrijfsinformatie wilt integreren.
Fine-tuning wordt interessant als je tienduizenden API-aanroepen per dag doet (waardoor kortere prompts kostenbesparend worden), als je echt een unieke stijl of gedragspatroon wilt inbouwen, of als je model in een gereguleerde omgeving moet werken met strikte output-vereisten.
Begin altijd met prompting. Schakel over naar RAG als je kennisintegratie nodig hebt. Overweeg fine-tuning alleen als de eerste twee methoden aantoonbaar tekortschieten.
Onze tip: Verzamel eerst 50 voorbeelden van de ideale output van je model voordat je begint met fine-tuning. Als je merkt dat goede voorbeelden moeilijk te definiëren zijn, is dat een signaal dat het probleem beter oplosbaar is met betere prompts dan met fine-tuning.
Veelgestelde vragen
Wanneer heb je fine-tuning nodig?
Fine-tuning is zinvol als je een heel specifieke schrijfstijl wilt aanleren die moeilijk in een prompt past, als je model vakjargon of interne terminologie consistent moet gebruiken, of als je altijd exact hetzelfde output-formaat nodig hebt. Denk aan een juridisch kantoor dat wil dat het model altijd in hun huisstijl schrijft, of een techbedrijf met productnamen die een standaard model niet kent. Voor de meeste zakelijke toepassingen volstaat goede prompting of RAG ruimschoots.
Hoeveel data heb je nodig voor fine-tuning?
Als vuistregel heb je minstens 50 tot 100 goede voorbeelden nodig voor eenvoudige taken, en honderden tot enkele duizenden voor complexe taken. De kwaliteit van je voorbeelden telt zwaarder dan de kwantiteit: vijftig perfect geannoteerde voorbeelden leveren betere resultaten dan vijfhonderd slordige. OpenAI adviseert voor hun fine-tuning API minimaal 50 voorbeelden, maar empirie wijst uit dat boven de 200 de kwaliteitswinst het grootst is.
Wat zijn de kosten van fine-tuning?
De kosten bestaan uit twee delen: trainingkosten en inferentiekosten. OpenAI rekent momenteel circa 8 dollar per miljoen tokens voor het trainen van GPT-4o mini. Een dataset van 500 voorbeelden van elk 500 tokens kost dan ruwweg 2 dollar om te trainen. De inferentiekosten per API-aanroep liggen bij fine-tuned modellen doorgaans hoger dan bij standaard modellen, omdat je een eigen instantie draait. Tel daarbij de tijd voor dataverzameling en annotatie, en de totale investering loopt al snel op.
Wat is het verschil tussen fine-tuning en RAG?
RAG (Retrieval-Augmented Generation) geeft het model tijdens elke aanvraag relevante documenten uit een externe kennisbron mee, zodat het antwoorden kan baseren op actuele of bedrijfsspecifieke informatie. Fine-tuning verandert de gewichten van het model zelf, waardoor het bepaalde kennis of stijl internationaliseert. RAG is flexibeler en goedkoper om te onderhouden: je past de kennisbron aan zonder het model opnieuw te trainen. Fine-tuning is beter als het gaat om stijl, formaat of gedragspatronen die je consistent wilt hebben, niet om feitelijke kennis die regelmatig verandert.