miniatuur|350x350px|ChatGPT vat een niet-bestaand artikel samen (maart 2023)
Bij kunstmatige intelligentie (AI) is een hallucinatie een zelfverzekerde reactie van de tool die niet lijkt gerechtvaardigd te worden door de werkelijkheid of de trainingsgegevens waarop de tool getraind werd.
Een hallucinerende chatbot zal bijvoorbeeld een willekeurig getal genereren als er naar de omzet van een specifiek bedrijf gevraagd wordt. Vervolgens kan het gebeuren dat de chatbot hieraan blijft vasthouden, en dus de fout herhaaldelijk zal blijven herhalen.
Dergelijke verschijnselen worden "hallucinaties" genoemd, naar analogie met het fenomeen hallucinatie in de menselijke psychologie. Merk op dat hoewel een menselijke hallucinatie een waarneming is van een mens die niet op redelijke wijze kan worden geassocieerd met het deel van de externe wereld dat de mens momenteel rechtstreeks waarneemt met zijn of haar zintuigen, een AI-hallucinatie in plaats daarvan een zelfverzekerde reactie is van een AI die niet kan worden geaard in al zijn trainingsgegevens. Dienovereenkomstig geven sommige psychologen de voorkeur aan de term confabulatie.
AI-hallucinatie kreeg bekendheid rond 2022 bij de uitrol van bepaalde grote taalmodellen (Large Language Models of LLM's) zoals ChatGPT. Gebruikers klaagden dat dergelijke bots vaak "sociopathisch" en zinloos plausibel klinkende willekeurige onwaarheden in de gegenereerde inhoud leken te stoppen.
Tegen 2023 beschouwden analisten frequente hallucinaties als een groot probleem in de LLM-technologie, een probleem dat ook met recentere en krachtigere LLMs moeilijk op te lossen blijkt.
Oorzaken Fouten bij het coderen en decoderen tussen tekst en representaties kunnen hallucinaties veroorzaken. AI-training om verschillende reacties te produceren kan ook leiden tot hallucinaties.
Hallucinaties kunnen ook optreden wanneer de AI wordt getraind op een dataset waarin gelabelde samenvattingen, ondanks dat ze feitelijk juist zijn, niet direct gebaseerd zijn op de gelabelde gegevens die ogenschijnlijk "samengevat" zijn. Grotere datasets kunnen een probleem van parametrische kennis creëren (kennis die vast zit in aangeleerde systeemparameters), waardoor hallucinaties ontstaan als het systeem te veel vertrouwen heeft in zijn intrinsieke kennis. In systemen zoals GPT-3 genereert een AI elk volgend woord op basis van een reeks voorgaande woorden (inclusief de woorden die het zelf eerder heeft gegenereerd in het huidige antwoord), waardoor een waterval van mogelijke hallucinaties ontstaat naarmate het antwoord langer wordt.
Misleiding Onderzoekers toonden in 2024 aan dat grote taalmodellen schadelijk gedrag kunnen vertonen en hun opdrachtgevers daarover kunnen misleiden door dit niet te melden, of soms door te liegen.
Voorbeelden: In 2024 was er een GPT-4-agent in de realistische, gesimuleerde omgeving van een autonome aandelenhandelaar. Het model verkreeg een insidertip over een lucratieve aandelenhandel en ging daarop in, hoewel handel met voorkennis in het bedrijf was verboden. Bovendien verzweeg het model consequent de echte redenen achter zijn verboden actie. In september 2026 doorzocht AI-model Copilot de mailbox en interne VRT-documenten van journalist Luc Pauwels waarmee het een (foute) historische claim (over het oude hertogdom Brabant) wilde onderbouwen. De bot ontkende dit nadien met klem.
In de media Op 19 september 2025 gaf rector Petra De Sutter bij de start van het academiejaar aan de UGent een toespraak, waarbij ze onder meer filosoof Hans Jonas en psycholoog Paul Verhaeghe citeerde. Ze schreef ook de uitspraak "Dogma is the enemy of the progress" toe aan Einstein. Onderzoek van Apache wees uit dat de drie gebruikte citaten verzonnen waren door een AI-tool. Op de Vlaamse Radio 1 werd presentator Kobe Ilsen in een "gesprek" op 7 september 2026, door Grok, de AI-chatbot van X, in gore schuttingtaal uitgescholden.
Categorie:Filosofie van de kunstmatige intelligentie Categorie:Automatisch leren Categorie:Computationele taalkunde