Grundlagen

Halluzination

Wenn ein KI-System etwas Falsches mit voller Überzeugung äußert — erfundene Fakten, Zahlen oder Quellen, die völlig plausibel klingen.

Halluzination ist der Fehlermodus des KI-Systems, den jeder Geschäftsführer internalisieren muss: Das Modell produziert flüssige, überzeugende, falsche Antworten. Es kann eine Statistik erfinden, ein Zitat falsch zuordnen oder ein Rechtsfall zitieren, der nicht existiert. Es lügt nicht — es hat kein Konzept von Wahrheit, nur von plausibler Sprache.

Geschäftsführer sollten sich darum kümmern, weil der Ton kein Signal ist. Eine halluzinierte Antwort liest sich genauso überzeugend wie eine korrekte, sodass die Intuition („es klang sicher“) völlig versagt. Das Risiko konzentriert sich auf Zahlen, Namen, Daten, Zitate und spezielle Fakten — genau die Details, die beschäftigte Menschen überlesen. Organisationen, die die Überprüfung skippen, liefern letztendlich einen überzeugenden Fehler an einen Kunden, einen Regulierungsbehörde oder die Öffentlichkeit.

Konkretes Beispiel: Anwälte in mehreren Gerichtsbarkeiten wurden sanktioniert, nachdem sie Schriftsätze mit von KI-Systemen erfundenen Rechtsfallzitaten eingereicht hatten — jeder ein Profi, der Flüssigkeit über Überprüfung vertraute.

Die Gegenmaßnahmen sind prozessual, nicht technisch: Quellen für wesentliche Behauptungen erforderlich machen, tatsächlich eine Stichprobe davon überprüfen, RAG-Setups bevorzugen, die aus Ihren Dokumenten antworten, und Anwendungsfälle klassifizieren, damit Ausgaben mit hohen Einsätzen immer eine menschliche Überprüfung erhalten.