Grundläggande principer

Hallucination

När en AI uppger något falskt med fullständig säkerhet — påhittade fakta, siffror eller källor som låter fullständigt trovärdiga.

Hallucination är AI-felmodellen som varje chef måste internalisera: modellen producerar flytande, säkra, felaktiga svar. Den kan hitta på en statistik, felattribuera ett citat eller citera ett rättsfall som inte existerar. Den ljuger inte — den har ingen uppfattning om sanning, bara om trovärdig språk.

Chefer bör bry sig eftersom tonen inte är något signal. Ett hallucinerat svar låter exakt lika säkert som ett korrekt svar, så intuitionen ("det lät säkert") fungerar inte alls. Risken koncentreras i siffror, namn, datum, citat och nischfakta — precis de detaljer som upptagna människor skummar. Organisationer som hoppar över verifiering kommer slutligen att skicka ett säkert fel till en kund, en tillsynsmyndighet eller allmänheten.

Konkret exempel: advokater i flera jurisdiktioner har fått sanktioner efter att ha lämnat in inlagor som innehåller AI-påhittade rättsfallsreferenser — var och en en professionell som litade på flyt över verifiering.

Contramått är process, inte teknik: kräv källor för väsentliga påståenden, kontrollera faktiskt ett urval av dem, föredra RAG-konfigurationer som svarar från era dokument och klassificera användningsfall så att högriskutdata alltid får mänsklig granskning.