Hallucinatie
Een hallucinatie is wanneer een AI-model overtuigend iets beweert dat niet klopt. Het model gokt dan een plausibel klinkend antwoord in plaats van te zeggen dat het iets niet weet.
Hallucineren komt voort uit hoe een taalmodel werkt: het voorspelt waarschijnlijke tekst, en soms is het waarschijnlijkste antwoord niet het juiste. Het is dus geen kwade wil maar een bekend risico dat je moet beheersen, zeker als klanten de antwoorden zien.
Je beperkt het door het model te laten putten uit een gecontroleerde kennisbank, door het te laten doorverwijzen bij twijfel, en door belangrijke acties door een mens te laten bevestigen.
In de praktijk.
Bij de reviewafhandeling van Inge de Bruijn Zwembad geeft een mens akkoord op het door AI voorgestelde antwoord, juist om te voorkomen dat een gehallucineerd antwoord naar buiten gaat.
Veelgestelde vragen.
Wat is een AI-hallucinatie?
Het is wanneer een AI-model overtuigend iets beweert dat niet klopt: het gokt een plausibel klinkend antwoord in plaats van te zeggen dat het iets niet weet. Dat komt voort uit hoe taalmodellen werken.
Hoe voorkom je hallucinaties in een bedrijfs-AI?
Door het model te laten putten uit een gecontroleerde kennisbank (RAG), het bij twijfel te laten doorverwijzen naar een mens, en belangrijke acties door een mens te laten bevestigen voordat ze naar buiten gaan.
Verwante begrippen.
Zien hoe dit in de praktijk werkt? Bekijk AI-assistent en AI-receptie.
Benieuwd wat dit voor jou kan doen?
Plan de gratis Werk-check. In een half uur wijs ik aan waar in jouw bedrijf dit soort werk blijft hangen, en wat het zou schelen om het over te nemen.