Halluzination (KI).

Von Halluzination spricht man, wenn ein Sprachmodell etwas behauptet, das nicht stimmt, und dabei genauso sicher klingt wie bei richtigen Angaben. OpenAI beschreibt Halluzinationen als plausible, aber falsche Aussagen von Sprachmodellen. Anthropic schreibt, dass auch die fortschrittlichsten Modelle Texte erzeugen können, die sachlich falsch sind oder nicht zum gegebenen Kontext passen. Für Unternehmen ist das kein Randthema: Ein erfundenes Produktmerkmal auf der Website oder ein falsches Datum in einem Angebot fällt auf euch zurück, nicht auf das Werkzeug.

Warum KI halluziniert

Sprachmodelle lernen, wie Text weitergeht, nicht, was wahr ist. Laut OpenAI lernen Modelle im ersten Training, das nächste Wort in riesigen Textmengen vorherzusagen, ohne dass Aussagen als wahr oder falsch markiert sind. Rechtschreibung folgt festen Mustern, seltene Einzelfakten wie ein Geburtstag dagegen nicht. Genau dort entstehen laut OpenAI die Fehler.

Dazu kommt laut einem Forschungspapier von OpenAI aus dem September 2025 ein falscher Anreiz: Übliche Bewertungen belohnen Raten stärker als das Eingeständnis von Unsicherheit, ähnlich wie ein Multiple-Choice-Test ohne Minuspunkte. Unvermeidlich sind Halluzinationen laut OpenAI nicht, weil ein Modell bei Unsicherheit auch auf eine Antwort verzichten kann. Eine Genauigkeit von 100 Prozent hält OpenAI aber für unerreichbar, weil manche Fragen grundsätzlich nicht beantwortbar sind.

What You Should Keep in Mind at Work

Erlaubt der KI ausdrücklich, Unsicherheit zuzugeben. Anthropic nennt das als erste Maßnahme und schreibt, dass sie falsche Angaben drastisch verringern kann. Ein Satz im Prompt wie „Wenn dir Angaben fehlen, sag es, statt zu raten" genügt.

Gebt die Fakten mit und verlangt Belege. Anthropic empfiehlt, das Modell auf bereitgestellte Dokumente zu beschränken und jede Aussage mit einem Zitat zu belegen. Findet das Modell kein passendes Zitat, soll es die Aussage laut Anthropic zurückziehen. Wie ihr Firmenwissen dauerhaft anbindet, steht unter RAG.

Lasst Zahlen, Fristen und Rechtsaussagen von Menschen prüfen. Je teurer ein Fehler, desto wichtiger ist die Freigabe durch jemanden, der sich in der Sache auskennt. In Projekten sehen wir oft, dass Halluzinationen in Details wie Normen, Paragrafen oder Versionsnummern stecken, die beim schnellen Lesen glaubwürdig wirken.

Vergleicht mehrere Antworten. Anthropic schlägt vor, denselben Prompt mehrmals laufen zu lassen. Weichen die Ergebnisse voneinander ab, kann das laut Anthropic auf eine Halluzination hindeuten.

Häufige Fragen zu KI-Halluzinationen

Halluzinieren neuere Modelle weniger? OpenAI berichtet für GPT-5 deutlich weniger Halluzinationen, besonders wenn das Modell vor der Antwort nachdenkt. Zugleich nennt OpenAI Halluzinationen weiterhin eine grundlegende Herausforderung für alle großen Sprachmodelle.

Woran erkenne ich eine Halluzination? Am Ton meist gar nicht, denn das Modell formuliert falsche Angaben genauso sicher wie richtige. Verlässlich hilft nur der Abgleich mit der Originalquelle.

Ist jeder Fehler in einer KI-Antwort eine Halluzination? Nicht unbedingt. Steht in eurem Dokument eine veraltete Angabe und die KI gibt sie korrekt wieder, liegt der Fehler in der Quelle. Warum Tempo allein noch keine Qualität bringt, zeigt KI schreibt schneller, aber nicht automatisch besser.

Wie euer Team KI-Ergebnisse sicher prüft, üben wir im KI-Workshop an euren eigenen Aufgaben.