Zurück zum KI-Glossar Grundlagen
Halluzination
Wenn KI überzeugend klingende, aber falsche Informationen generiert.
Erklärung
Eine Halluzination tritt auf, wenn ein KI-Modell Fakten erfindet, die plausibel klingen, aber nicht stimmen. Das passiert, weil das Modell auf Wahrscheinlichkeiten basiert – nicht auf Wahrheit.
So funktioniert's
LLMs generieren immer die „wahrscheinlichste Fortsetzung". Wenn das Modell keine echte Antwort kennt, füllt es die Lücke mit plausibel klingendem Text – ohne zu wissen, dass er falsch ist.
Praxisbeispiel
Ein Chatbot erfindet eine Paragraphennummer in einem Gesetz, die gar nicht existiert, oder zitiert ein nicht existierendes Forschungspapier.
Warum es wichtig ist
Halluzinationen sind das größte Vertrauensrisiko beim KI-Einsatz. Gegenmaßnahmen wie Grounding und RAG sind daher essentiell.