Hallucinatie (AI)

In kunstmatige intelligentie treedt een hallucinatie op wanneer een model valse, verzonnen of onnauwkeurige informatie genereert en die met dezelfde overtuiging presenteert als een juist feit. Het gebeurt omdat een taalmodel geen database met feiten raadpleegt: het voorspelt de meest plausibele tekst op basis van zijn patronen, en soms is de meest plausibele niet de ware. Het kan citaten, data, bronnen of productkenmerken verzinnen die niet bestaan. Het is een van de belangrijkste beperkingen van generatieve AI en de reden waarom de antwoorden ervan geverifieerd moeten worden, vooral bij medische, juridische of financiële onderwerpen. Technieken zoals het model verbinden met echte bronnen (RAG) of het om bronvermelding vragen verkleinen het probleem, maar nemen het niet volledig weg. De praktische regel is duidelijk: nuttig als assistent, niet als uiteindelijke bron van waarheid.