Fundamenter

Hallucination

Når en AI udtaler noget forkert med fuld tillid — opfundne fakta, tal eller kilder, der lyder helt plausibelt.

Hallucination er den AI-fejlmode, som hver leder må internalisere: modellen producerer flydende, tillidsfulde, forkerte svar. Den kan opfinde en statistik, misattributere et citat eller citerer en retssag, der ikke eksisterer. Det er ikke løgn — den har ingen begreb om sandhed, kun om plausibelt sprog.

Lederne skal bekymre sig, fordi tone er ingen signal. Et hallucineret svar lyder lige så tillidsfuldt som et korrekt, så intuition ('det lød sikker') fejler helt. Risikoen koncentrerer sig omkring tal, navne, datoer, citationer og niche-fakta — præcis de detaljer, som travle mennesker skimrer. Organisationer, der springer verificering over, ender med at sende et tillidsfuldt fejl til en klient, en tilsynsmyndighed eller offentligheden.

Konkret eksempel: advokater i flere jurisdiktioner er blevet sanktioneret efter at have indgivet skrifter, der indeholder AI-opfundne retscitationer — hver en professionel, der havde tillid til flydende sprog over for verificering.

Modforanstaltningerne er proces, ikke teknologi: kræv kilder for væsentlige påstande, check faktisk en stikprøve af dem, foretræk RAG-konfigurationer, der besvarer fra jeres dokumenter, og klassificer brugsændringer, så højrisikosvar altid får menneskelig gennemgang.