Halluzination
Wenn KI überzeugend klingende, aber falsche Informationen generiert.
Erklärung
Eine Halluzination tritt auf, wenn ein KI-Modell Fakten erfindet, die plausibel klingen, aber nicht stimmen. Das passiert, weil das Modell auf Wahrscheinlichkeiten basiert – nicht auf Wahrheit.
So funktioniert's
LLMs generieren immer die „wahrscheinlichste Fortsetzung". Wenn das Modell keine echte Antwort kennt, füllt es die Lücke mit plausibel klingendem Text – ohne zu wissen, dass er falsch ist.
Praxisbeispiel
Ein Chatbot erfindet eine Paragraphennummer in einem Gesetz, die gar nicht existiert, oder zitiert ein nicht existierendes Forschungspapier.
Warum es wichtig ist
Halluzinationen sind das größte Vertrauensrisiko beim KI-Einsatz. Gegenmaßnahmen wie Grounding und RAG sind daher essentiell.
Was ist eine KI-Halluzination und warum entsteht sie?
Eine KI-Halluzination ist eine Antwort, die sprachlich überzeugend wirkt, inhaltlich aber falsch oder frei erfunden ist. Das Modell täuscht dabei nicht bewusst. Ein LLM berechnet, welche Wörter mit hoher Wahrscheinlichkeit folgen, und hat keinen eingebauten Abgleich mit der Wirklichkeit.
Typische Auslöser sind fehlendes Wissen, etwa zu internen Daten oder Ereignissen nach dem Trainingsstichtag, unklare Fragen, sehr seltene Fakten wie Artikelnummern oder Paragrafen und Aufgaben, bei denen das Modell zu einer Antwort gedrängt wird. Eine 2025 veröffentlichte Untersuchung von OpenAI argumentiert zudem, dass übliche Trainings- und Bewertungsverfahren Raten eher belohnen als das Eingeständnis von Unsicherheit.
Wie verhindert man Halluzinationen im Unternehmen?
Ganz ausschließen lassen sich Halluzinationen nicht, aber stark reduzieren. Die wirksamsten Maßnahmen im Überblick:
Grounding und RAG: Das Modell antwortet auf Basis bereitgestellter Dokumente statt aus dem Gedächtnis und nennt seine Quellen. Erlaubtes Nichtwissen: Der Prompt sagt ausdrücklich, dass „Dazu liegen keine Informationen vor“ eine gute Antwort ist. Rückfragen: Fehlen Angaben, fragt das System nach, statt Lücken zu füllen.
Prüfregeln: Zahlen, Beträge oder IDs werden automatisch gegen die Quellsysteme geprüft. Evals: Ein Testset mit bekannten richtigen Antworten zeigt, wie oft das System danebenliegt, auch nach Modellwechseln. Human in the Loop: Bei kritischen Ausgaben gibt ein Mensch frei.
Häufige Fragen
Wie häufig halluzinieren KI-Modelle?
Das hängt stark von Modell, Aufgabe und Aufbau ab. Bei offenen Wissensfragen ohne Quellen sind Fehler deutlich häufiger als bei Aufgaben, in denen das Modell ein bereitgestelltes Dokument zusammenfasst. Belastbar ist nur eine Messung mit eigenen Testfällen.
Hilft eine niedrige Temperatur gegen Halluzinationen?
Nur begrenzt. Eine niedrige Temperatur macht Antworten konsistenter, aber nicht automatisch richtiger. Fehlt dem Modell das Wissen, halluziniert es auch bei Temperatur 0, nur reproduzierbar.
Halluzinieren neuere Modelle nicht mehr?
Neuere Modelle halluzinieren in vielen Tests seltener, aber nicht nie. Für produktive Anwendungen bleiben Grounding, Quellenangaben und Tests deshalb notwendig.