Op deze pagina
Waarom hallucineren taalmodellen?
Een taalmodel is getraind om tekst te voorspellen: welk woord past het best na de vorige? Daardoor schrijft het vloeiende, logische zinnen. Maar het model heeft geen ingebouwd besef van wat waar is. Als het de informatie niet heeft, maakt het een plausibel antwoord, in plaats van te zeggen dat het het niet weet.
Onderzoekers van OpenAI lieten in 2025 zien dat de manier waarop modellen worden getraind en beoordeeld daar een rol in speelt. Veel tests belonen een gok meer dan het antwoord "ik weet het niet". Een model leert zo om te gokken als het onzeker is (Kalai en anderen, "Why Language Models Hallucinate", 2025).
Veelvoorkomende oorzaken op een rij:
- Het model kent het antwoord niet, bijvoorbeeld omdat het over jouw bedrijf gaat of na de trainingsperiode is gebeurd.
- De vraag is onduidelijk of bevat een verkeerde aanname.
- Er wordt gevraagd naar precieze gegevens, zoals bronnen, getallen, data of citaten.
- Het model krijgt tegenstrijdige of verouderde informatie mee.
Voorbeelden van hallucinaties
- Een AI-assistent noemt een wetsartikel dat niet bestaat.
- Een chatbot belooft een klant een korting of voorwaarde die niet in je beleid staat.
- Een samenvatting van een contract bevat een clausule die er niet in staat.
- Een AI-tool geeft een bron met een titel en auteur die echt lijken, maar verzonnen zijn.
- Een analyse noemt een percentage dat nergens op is gebaseerd.
Bij welke taken is het risico groot of klein?
| Taak | Risico op hallucinaties | Waarom |
|---|---|---|
| Een tekst herschrijven die je zelf aanlevert | Laag | Het model werkt met jouw informatie |
| Een document samenvatten | Laag tot midden | Controleer of er niets is toegevoegd |
| Vragen beantwoorden over je eigen bedrijf zonder bronnen | Hoog | Het model kent je bedrijf niet |
| Bronnen, wetsartikelen of cijfers noemen | Hoog | Precieze gegevens worden vaak verzonnen |
| Vragen beantwoorden met RAG en bronvermelding | Laag | Het antwoord komt uit je eigen documenten |
| Brainstormen en ideeën bedenken | Niet relevant | Hier is creativiteit juist de bedoeling |
Waarom het risico reëel is voor bedrijven
Twee bekende zaken laten zien wat er kan gebeuren:
- In de Verenigde Staten kregen advocaten in 2023 een sanctie van de rechter, nadat ze in een processtuk uitspraken hadden aangehaald die ChatGPT had verzonnen (Mata tegen Avianca).
- In Canada moest Air Canada in 2024 een klant compenseren, nadat de chatbot van de luchtvaartmaatschappij een verkeerde regeling voor rouwtarieven had beschreven. Het bedrijf kon zich niet verschuilen achter de chatbot (Moffatt tegen Air Canada).
De les: wat een AI-systeem namens je bedrijf zegt, geldt als jouw informatie. Daarom moet een AI die met klanten communiceert goed zijn ingericht.
Benieuwd wat dit voor jouw bedrijf oplevert?
In 45 minuten kijken we samen waar AI in jouw bedrijf tijd oplevert. Gratis en vrijblijvend.
Hoe beperk je AI-hallucinaties?
Je kunt hallucinaties niet helemaal uitsluiten, maar wel sterk beperken:
- Laat AI antwoorden op basis van je eigen bronnen. Met RAG zoekt het systeem eerst de juiste informatie in je documenten en schrijft het pas daarna een antwoord.
- Vraag om bronvermelding. Laat het systeem bij elk antwoord laten zien uit welk document het komt, zodat het te controleren is.
- Laat het systeem "ik weet het niet" zeggen. Stel het zo in dat het bij twijfel een medewerker inschakelt, in plaats van te gokken.
- Beperk de taak. Een AI die alleen over je retourbeleid mag antwoorden, hallucineert minder dan een AI die overal antwoord op moet geven.
- Laat een mens controleren. Bij alles wat naar buiten gaat of gevolgen heeft voor geld, klanten of medewerkers, keurt een mens goed.
- Test met lastige vragen. Probeer voor de livegang vragen waarop het systeem het antwoord niet weet, en kijk wat het doet.
- Houd je bronnen actueel. Verouderde documenten geven verouderde antwoorden.
Hallucinaties in algemene tools en in eigen AI-systemen
| Algemene AI-assistent (ChatGPT, Copilot, Gemini) | Eigen AI-systeem met je eigen bronnen | |
|---|---|---|
| Waar het antwoord vandaan komt | Uit het model, eventueel aangevuld met internet | Uit je eigen documenten en systemen |
| Risico op hallucinaties | Hoger bij vragen over je bedrijf | Lager, mits de bronnen kloppen |
| Bronvermelding | Soms | In te stellen |
| Gedrag bij onzekerheid | Wisselend | In te stellen: doorzetten naar een mens |
| Geschikt voor | Schrijven, brainstormen, samenvatten van wat je zelf aanlevert | Klantvragen, interne vragen, processen |
Hoe herken je een hallucinatie?
- Het antwoord is erg precies (een getal, datum of bron), maar zonder herkomst.
- Een bron of link bestaat niet als je hem opzoekt.
- Het antwoord klopt niet met wat je zelf weet of met je eigen documenten.
- Bij dezelfde vraag geeft het model een ander antwoord.
Controleer bij twijfel altijd de oorspronkelijke bron. Leg in je AI-gebruiksbeleid vast dat medewerkers cijfers, bronnen en juridische of financiële informatie uit een AI-tool altijd nakijken voordat ze die gebruiken of doorsturen. Dat is een kleine moeite, en voorkomt de meeste problemen.
Veelgestelde vragen over AI-hallucinaties
Wat is een AI-hallucinatie?
Een AI-hallucinatie is een antwoord van een AI-model dat overtuigend klinkt maar feitelijk niet klopt, zoals een verzonnen bron, getal of feit.
Waarom hallucineert ChatGPT?
Taalmodellen zoals ChatGPT voorspellen het meest waarschijnlijke antwoord, niet het ware. Als het model de informatie niet heeft, maakt het vaak een plausibel antwoord in plaats van te zeggen dat het het niet weet.
Kun je hallucinaties helemaal voorkomen?
Nee, maar je kunt ze sterk beperken: laat AI antwoorden op basis van je eigen bronnen (RAG), vraag om bronvermelding, laat het systeem bij twijfel een mens inschakelen en laat belangrijke antwoorden controleren.
Hallucineren nieuwe AI-modellen minder?
Nieuwe modellen worden over het algemeen betrouwbaarder, maar alle modellen hallucineren nog. De opzet van je systeem, met eigen bronnen en controle, maakt meer verschil dan de keuze voor het nieuwste model.
Wat is het verschil tussen een hallucinatie en een gewone fout?
Een gewone fout herken je vaak aan een rare formulering of een duidelijk onlogisch antwoord. Een hallucinatie is lastiger, omdat het antwoord vloeiend en zelfverzekerd klinkt. Juist daardoor valt het minder snel op, en is controle belangrijk.
Wie is aansprakelijk als een chatbot iets verkeerds zegt?
In het algemeen het bedrijf dat de chatbot inzet. In de zaak Moffatt tegen Air Canada (2024) moest de luchtvaartmaatschappij een klant compenseren voor verkeerde informatie van haar chatbot. Laat dit voor jouw situatie juridisch beoordelen.
Hoe voorkom je hallucinaties in een klantenservice-chatbot?
Laat de chatbot alleen antwoorden op basis van je kennisbank en voorwaarden, beperk de onderwerpen, laat hem bij twijfel doorverbinden met een medewerker, en test voor de livegang met lastige vragen. Lees meer over AI klantenservice.