Was ist eine Halluzination bei KI?

Warum Sprachmodelle halluzinieren

Ein Large Language Model schlägt nichts nach. Es berechnet bei jedem Schritt, welches Textstück am wahrscheinlichsten passt. Meist ist das Wahrscheinliche auch das Richtige – aber nicht immer. Fehlt dem Modell eine Information, füllt es die Lücke mit etwas, das so ähnlich schon oft vorkam: einem typischen Datum, einem üblichen Betrag, einem gängigen Namen.

Dazu kommt, dass Modelle darauf trainiert sind, hilfreich und flüssig zu antworten. Ein „Das weiß ich nicht“ ist für sie keine naheliegende Fortsetzung, solange es ihnen nicht ausdrücklich beigebracht oder erlaubt wurde. Neuere Modelle halluzinieren spürbar seltener, frei davon ist aber keines.

Der Begriff ist übrigens umstritten: Kritiker:innen halten ihn für zu menschlich und sprechen lieber von Konfabulation oder schlicht von Fehlern. Durchgesetzt hat sich „Halluzination“ trotzdem.

Typische Formen

Halluzinationen sind selten offensichtlicher Unsinn. Gefährlich sind gerade die unauffälligen:

• Erfundene Details: eine Frist, ein Betrag oder eine Uhrzeit, die im Material nie vorkam
• Erfundene Quellen: Paragrafen, Studien, Links oder Zitate, die es nicht gibt
• Falsche Zuordnung: Eine Aussage wird der falschen Person zugeschrieben
• Überzeichnete Gewissheit: Aus „Wir schauen uns das an“ wird „Es wurde beschlossen“
• Widerspruch zum Material: Die Zusammenfassung sagt das Gegenteil dessen, was im Transkript steht

Fachleute unterscheiden dabei zwei Arten: Halluzinationen, die dem mitgelieferten Material widersprechen, und solche, die etwas hinzufügen, was weder im Material steht noch stimmt.

Halluzination oder Erkennungsfehler?

Bei Meeting-Zusammenfassungen gibt es zwei Fehlerquellen, die oft verwechselt werden. Steht im Protokoll „Herr Huber“, obwohl Herr Hofer sprach, kann schon die Spracherkennung den Namen falsch verstanden haben – das ist ein Erkennungsfehler, messbar über die Wortfehlerrate. Das Sprachmodell hat dann nur korrekt zusammengefasst, was falsch im Transkript stand.

Eine Halluzination ist es erst, wenn die Zusammenfassung etwas enthält, das im Transkript gar nicht vorkommt. Die Unterscheidung ist praktisch wichtig: Gegen Erkennungsfehler helfen bessere Mikrofone und ein Wörterbuch für Namen, gegen Halluzinationen helfen Prompts, Quellenbezug und Gegenlesen.

Was gegen Halluzinationen hilft

Ganz verhindern lassen sie sich nicht, aber das Risiko lässt sich deutlich senken:

• Material mitgeben: Mit Transkript oder Dokument im Prompt arbeitet das Modell viel verlässlicher als aus dem Gedächtnis – das Prinzip hinter RAG
• Nur aus dem Material antworten lassen und „steht nicht drin“ ausdrücklich erlauben
• Belege verlangen: Zitat oder Zeitstempel zu jeder wichtigen Aussage
• Niedrige Temperatur bei Faktenaufgaben – das macht Antworten gleichförmiger, aber nicht automatisch richtig
• Gezielt gegenlesen: Zahlen, Namen, Termine, Zusagen – also genau die Stellen, an denen ein Fehler Folgen hat

Hilfreich ist auch eine einfache Arbeitsteilung: Die KI liefert den Entwurf, ein Mensch prüft die kritischen Stellen, bevor das Ergebnis das Haus verlässt. Bei internen Notizen genügt ein kurzer Blick, bei Zusagen an Kund:innen, Beschlüssen oder rechtlich relevanten Dokumenten sollte der Abgleich mit der Quelle selbstverständlich sein.