Eine Halluzination bezeichnet bei KI-Sprachmodellen eine Antwort, die überzeugend formuliert, aber faktisch falsch oder frei erfunden ist. Das Modell präsentiert dabei falsche Informationen mit derselben Selbstsicherheit wie korrekte, was die Erkennung für Nutzer erschwert.
Was bedeutet Halluzination?
Von einer Halluzination spricht man, wenn ein Sprachmodell Inhalte erzeugt, die nicht der Realität entsprechen. Das können erfundene Fakten, falsche Zahlen, nicht existierende Quellen oder erdachte Zitate sein. Das Modell lügt dabei nicht bewusst, sondern berechnet schlicht die wahrscheinlichste Wortfolge, ohne deren Wahrheitsgehalt zu prüfen.
Halluzinationen entstehen, weil ein LLM keine Datenbank mit Fakten abfragt, sondern statistisch Sprache vorhersagt. Fehlt zu einem Thema verlässliches Wissen oder ist die Frage mehrdeutig, füllt das Modell die Lücke mit plausibel klingenden, aber unzutreffenden Aussagen.
Warum ist die Halluzination wichtig?
Für Unternehmen sind Halluzinationen ein echtes Risiko, weil falsche KI-Aussagen über deine Marke, Produkte oder Branche entstehen können. Wenn deine korrekten Informationen in der KI-Sichtbarkeit gut auffindbar sind, sinkt die Wahrscheinlichkeit, dass eine KI über dich falsche Angaben erfindet.
So lassen sich Halluzinationen reduzieren
- Klare, faktenbasierte und gut strukturierte Inhalte bereitstellen
- KI-Systeme nutzen, die Quellen abrufen (RAG)
- KI-Antworten bei wichtigen Fakten gegenprüfen
- Eindeutige Angaben zu Marke und Produkten veröffentlichen
Verwandte Begriffe
Häufige Fragen
Warum halluzinieren KI-Modelle?
KI-Modelle erzeugen Text auf Basis von Wahrscheinlichkeiten, nicht auf Basis geprüfter Fakten. Wenn Wissen fehlt oder eine Frage unklar ist, generiert das Modell eine plausibel wirkende Antwort, die jedoch falsch sein kann.
Kann man Halluzinationen ganz verhindern?
Vollständig verhindern lassen sich Halluzinationen bislang nicht. Man kann sie aber deutlich reduzieren, etwa durch Quellenanbindung per RAG, sorgfältige Prompts und das Gegenprüfen wichtiger Aussagen durch Menschen.