Hallucinatie
Een hallucinatie is een van de bekendste valkuilen van kunstmatige intelligentie. De term beschrijft het moment waarop een AI-model met volle overtuiging een antwoord geeft dat feitelijk onjuist, verzonnen of niet te herleiden is naar een echte bron. Denk aan een chatbot die een bestaand boek citeert dat nooit geschreven is, of een AI-assistent die een niet-bestaande wet of statistiek noemt. Het model “liegt” hierbij niet bewust, het genereert simpelweg tekst die statistisch waarschijnlijk klinkt.
Waarom een AI-model soms dingen verzint
Large Language Models (LLM) zoals GPT werken op basis van patroonherkenning. Ze voorspellen, woord voor woord, welk vervolg op een tekst het meest waarschijnlijk is, gebaseerd op de training data set waarop ze getraind zijn. Dit betekent dat een AI-model geen echt besef heeft van feiten of waarheid, het genereert output die taalkundig logisch aanvoelt. Wanneer de juiste informatie ontbreekt in de trainingsdata, of wanneer een prompt te vaag of misleidend is, vult het model de gaten op met plausibel klinkende, doch onjuiste informatie.
De risico’s van hallucinerende AI
Hallucinaties vormen een serieus risico bij het gebruik van AI-tools in professionele context. Een AI-assistent die met zelfvertrouwen onjuiste medische, juridische of financiële informatie presenteert, kan grote gevolgen hebben. Daarom is menselijke controle essentieel, zeker bij taken waar nauwkeurigheid cruciaal is. Dit risico speelt ook een rol bij Shadow AI, waarbij medewerkers AI-tools gebruiken zonder toezicht van de organisatie, waardoor hallucinaties onopgemerkt kunnen blijven.
Hoe hallucinaties worden teruggedrongen
Verschillende technieken helpen om hallucinaties te beperken. Retrieval-Augmented Generation (RAG) koppelt een AI-model bijvoorbeeld aan een externe, betrouwbare kennisbron, zodat antwoorden gebaseerd zijn op actuele en geverifieerde data in plaats van enkel op trainingsdata. Ook goede prompt engineering en technieken zoals Chain-of-Thought (CoT) prompting helpen een model om stapsgewijs en beter onderbouwd te redeneren, wat de kans op verzonnen antwoorden verkleint.
Veelgestelde vragen
Een AI-model hallucineert wanneer het met overtuiging informatie presenteert die feitelijk onjuist of volledig verzonnen is, zonder dat dit direct herkenbaar is voor de gebruiker.
ChatGPT en vergelijkbare AI-modellen voorspellen tekst op basis van waarschijnlijkheid, niet op basis van feitenkennis. Ontbreekt de juiste informatie, dan vult het model de gaten op met plausibel klinkende, onjuiste content.
Controleer beweringen altijd bij een betrouwbare bron, let op detail die te specifiek of ongebruikelijk overkomt, en wees extra kritisch bij namen, cijfers, citaten en bronvermeldingen.
Volledig voorkomen is op dit moment niet mogelijk. Technieken zoals RAG en zorgvuldige prompt engineering verkleinen het risico wel aanzienlijk.
