Waarom verzint AI soms dingen? (hallucinatie uitgelegd)

Je vraagt een AI-chatbot naar een wetenschappelijk artikel. Het geeft je een keurige referentie: auteursnaam, tijdschrift, jaargang, paginanummers. Je zoekt het op — het bestaat niet. De AI heeft het verzonnen, maar zo zeker geklonken dat je het bijna geloofde. Hoe kan dat?

Het model voorspelt, het herinnert zich niet

Stel je voor dat je iemand vraagt om de tekst van een bekend liedje af te maken. Die persoon heeft het liedje honderden keren gehoord en weet welke woorden er normaal gesproken op elkaar volgen. Maar vraag je hem naar een obscuur nummer dat hij maar één keer vaag heeft gehoord, dan vult hij de gaten in met wat klinkt alsof het klopt — niet met wat het werkelijk is. En cruciaal: een mens zegt er dan bij “ik weet het niet zeker”. Een taalmodel doet dat niet — het antwoordt even zelfverzekerd, of het nu iets weet of het invult.

Dat is precies wat een taalmodel doet, maar dan op enorme schaal. Het model is niet een database die feiten opzoekt. Het is een systeem dat, gegeven een reeks woorden, voorspelt welk woord of welke zin er waarschijnlijk op volgt. Die voorspelling is gebaseerd op patronen uit de trainingdata — miljarden teksten — niet op een ingebouwde check of iets ook echt waar is.

Waarom is dit inherent?

Het is verleidelijk te denken dat dit een fout is die ontwikkelaars kunnen repareren. Maar het zit dieper. Het doel van de training is: genereer tekst die lijkt op menselijke tekst. Menselijke tekst is doorgaans coherent, zelfverzekerd en informatief. Het model leert dus tekst te produceren die al die eigenschappen heeft — ook als het de onderliggende feiten niet "kent".

In vaktaal heet dit hallucinatie: het model produceert iets dat niet strookt met de werkelijkheid, maar dat er intern consistent en plausibel uitziet. Een goede boekrecensie schrijven over een boek dat niet bestaat is voor een taalmodel eenvoudig, omdat het patronen kent van hoe boekrecensies klinken.

Wanneer gaat het het meest mis?

Hallucinatie is niet willekeurig verdeeld. Het treedt vaker op bij:

• Specifieke details — exacte citaten, datums, aantallen, namen van weinig bekende personen of kleine organisaties.
• Vragen buiten de trainingdata — recente gebeurtenissen, niche-onderwerpen, of dingen die in de trainingsdata weinig voorkwamen.
• Schijnbaar gezaghebbende bronnen — het model "weet" hoe een wetenschappelijke referentie eruitziet en produceert er een, ook als de inhoud verzonnen is.

Hoe wapen je je ertegen?

Er zijn twee praktische lagen van bescherming.

Verifiëren. Behandel AI-output als een eerste aanzet, niet als een eindproduct. Controleer feiten, namen en bronnen altijd via een onafhankelijke bron. Dit klinkt voor de hand liggend, maar in de praktijk is de zelfverzekerde toon van een taalmodel verleidelijk genoeg om mensen over te slaan.

Retrieval-Augmented Generation (RAG). Dit is een technische aanpak waarbij het model niet alleen zijn eigen trainingsgeheugen gebruikt, maar ook actuele documenten die als context worden meegegeven. Stel dat je een model koppelt aan je eigen bedrijfsdocumenten: het model kan dan citeren uit die documenten in plaats van ze te verzinnen. RAG vermindert hallucinatie aanzienlijk voor feiten die in de meegegeven documenten staan — maar lost het probleem niet volledig op. Het model kan de documenten nog steeds verkeerd interpreteren of samenvoegen op een manier die niet klopt.

Onthoud: een zelfverzekerd klinkend antwoord is geen garantie voor juistheid. Dat geldt voor mensen, en het geldt in het bijzonder voor taalmodellen.

Wil je begrijpen hoe het model van binnenuit werkt — waarom het zo overtuigend klinkt terwijl het iets verzint? In de cursus Waarom hallucineert AI? gaan we dieper in op de mechanismen achter dit gedrag.