Hallucinatie — wat is het?

Hallucinatie — Een hallucinatie is wanneer een AI-taalmodel iets zelfverzekerd beweert dat feitelijk onjuist of verzonnen is.

Taalmodellen zijn getraind om aannemelijke vervolgtekst te genereren, niet om de waarheid te controleren. Als een model geen goed antwoord "weet", genereert het soms toch iets dat eruit ziet als een feit: een nep-bronvermelding, een niet-bestaande wet, een onjuiste datum. Dat is een hallucinatie. Het is geen opzettelijke leugen, maar een structureel gevolg van hoe taalmodellen werken. Controleer altijd feitelijke claims bij een betrouwbare bron.