Eine Halluzination ist eine plausible Antwort, die zufällig falsch ist
Bittet man ein Sprachmodell um die Seitenzahl eines Zitats aus einem Buch, über das es zwar gelesen, das es aber nie gesehen hat, nennt es eine Seitenzahl. Es wird nicht sagen "das kann ich nicht wissen". Die Zahl ist korrekt formatiert, steht in einem Satz, der wie jedes andere Zitat in den Trainingsdaten klingt, und ist erfunden.
Das ist eine Halluzination: eine flüssige, selbstsichere Aussage ohne Tatsache dahinter. Das Wort ist eine Metapher und eine etwas irreführende dazu, denn es funktioniert nichts fehlerhaft. Das Modell wurde nach der wahrscheinlichsten Fortsetzung eines Zitats gefragt und hat eine geliefert. Bei einer Frage, bei der die plausibel klingendste Antwort auch die wahre ist, was auf die meisten Fragen zutrifft, ist genau dieser Vorgang das, was das Modell nützlich macht.
Die Formen sind vorhersehbar: erfundene Quellenangaben und URLs, Statistiken ohne Quelle, Zitate, die realen Personen zugeschrieben werden, die sie nie gesagt haben, Produktmerkmale, die nicht existieren, und rechtliche oder medizinische Behauptungen, die als gesicherte Tatsache präsentiert werden. Warum KI Dinge falsch macht geht jeden Typ im Detail durch; diese Seite behandelt, warum sie überhaupt entstehen.
Warum ein Modell, das das ganze Internet gelesen hat, trotzdem Dinge erfindet
Zwei Mechanismen, und sie summieren sich.
Das Modell sagt vorher, es ruft nicht ab. Ein Sprachmodell besitzt keinen Faktenindex. Alles, was es gelesen hat, wurde in seine Parameter komprimiert, und beim Antworten erzeugt es Text Token für Token neu aus dieser Komprimierung, indem es jedes Token nach Wahrscheinlichkeit auswählt. War die richtige Antwort in den Trainingsdaten häufig, ist die wahrscheinlichste Fortsetzung auch die wahre. War sie selten, fehlte sie oder wurde sie widerlegt, muss das Modell trotzdem ein Token wählen, und es wählt ein plausibles. Was ist ein LLM erklärt die Architektur; kurz gesagt gibt es keinen Schritt, in dem sich das Modell fragt, ob der Satz, den es gerade schreibt, real ist.
Das Training belohnt Raten. Im September 2025 veröffentlichte OpenAI ein Paper mit dem Titel "Why Language Models Hallucinate", das argumentiert, dass die Benchmarks, an denen Modelle bewertet werden, eine falsche Antwort und eine leere Antwort gleich bewerten, nämlich mit null, während ein glücklicher Treffer die volle Punktzahl bringt. Ein Modell, das auf diese Bewertung hin optimiert wird, lernt dieselbe Lektion wie ein Schüler bei einem Multiple-Choice-Test ohne Punktabzug für Falschantworten: immer raten. Der Vorschlag des Papers ist, die Bewertung so zu ändern, dass "ich weiß es nicht" mehr wert ist als ein selbstsicherer Fehlschuss.
Zwei Gerichtsfälle, die einer Halluzination einen Preis in Dollar gaben
Mata v. Avianca, New York, 2023. Zwei Anwälte reichten einen Schriftsatz ein, der sechs Gerichtsentscheidungen zitierte, die ChatGPT erzeugt hatte. Keine der sechs existierte. Der Richter verhängte im Juni 2023 eine Strafe von $5,000 gegen die Anwälte und ließ sie an die Richter schreiben, denen die erfundenen Urteile zugeschrieben worden waren. Screenshots, die mit der eidesstattlichen Erklärung des Anwalts eingereicht wurden, zeigen, wie er ChatGPT fragt, ob die Fälle echt seien, und wie ChatGPT bestätigt, dass sie es seien.
Moffatt v. Air Canada, British Columbia, 2024. Der Chatbot auf der Website von Air Canada teilte einem Kunden mit, er könne ein Vollpreisticket für eine Beerdigung buchen und im Nachhinein einen Trauerrabatt beantragen. Die tatsächliche Richtlinie der Fluggesellschaft besagte das Gegenteil. Als Air Canada argumentierte, der Chatbot sei eine eigenständige juristische Instanz, die für ihre eigenen Aussagen verantwortlich sei, wies das Civil Resolution Tribunal das im Februar 2024 zurück und verurteilte die Fluggesellschaft zur Zahlung von C$812.02.
Kein Modell war defekt. Jedes lieferte die plausibelste Antwort auf eine Frage, deren wahre Antwort außerhalb seiner Reichweite lag. Die Kosten trug, wer nicht nachgeprüft hat.
Halluzination ist einer von vier Fehlertypen, und die Lösungen unterscheiden sich
Menschen verwenden das Wort für jede falsche Antwort, und das verschleiert, dass die vier häufigen Fehler vier verschiedene Ursachen haben.
| Fehler | Was passiert ist | Woran man es erkennt | Die Lösung |
|---|---|---|---|
| Halluzination | Das Modell hat eine Tatsache erfunden, um einen plausiblen Satz zu vervollständigen | Konkret, überprüfbar, ohne Quelle | Nach der Quelle fragen, dann öffnen; ein zweites Modell fragen |
| Veraltetes Wissen | Die Tatsache stimmte bei Trainingsende und stimmt jetzt nicht mehr | Preise, Versionen, Amtsinhaber, alles Datierte | Websuche aktivieren oder die aktuelle Seite einfügen |
| Fehltreffer bei der Suche | Die Suche oder die hochgeladene Datei hat die falsche Textstelle geliefert | Die Antwort zitiert dein Dokument, behandelt aber eine andere Frage | Die zitierte Stelle lesen, nicht nur das Zitat |
| Missverständnis | Das Modell hat eine leicht andere Frage beantwortet, als du gestellt hast | Die Antwort stimmt, nur zu etwas anderem | Die Frage mit der Einschränkung explizit neu formulieren |
Nur die erste Zeile ist eine Halluzination im strengen Sinn. Zeile zwei und drei sind Probleme der Verankerung und lassen sich größtenteils lösen, indem man dem Modell etwas zum Lesen gibt. Zeile vier ist ein Prompt-Problem. Alle vier als ein einziges mysteriöses Manko zu behandeln führt Menschen zur falschen Lösung, meist "ein größeres Modell verwenden", was bei Zeile eins am wenigsten hilft.
Der Zwei-Modell-Check, und was er kostet
Die zuverlässigste Gewohnheit gegen die strenge Art von Halluzination ist, ein zweites, anderes Modell dieselbe Frage zu stellen und zu vergleichen. Zwei Modelle aus verschiedenen Labs, trainiert auf unterschiedlichen Daten mit unterschiedlichem Post-Training, erfinden selten dasselbe Zitat. Übereinstimmung ist ein schwacher Beleg dafür, dass die Tatsache stimmt. Widerspruch ist ein starkes Signal, vor dem Handeln nachzuprüfen.
Der Grund, warum das funktioniert, wo "dasselbe Modell noch einmal nachprüfen lassen" nicht funktioniert: Ein zweiter Durchlauf desselben Modells ist derselbe Prädiktor, der aus derselben Komprimierung erneut rät. Ein anderes Modell ist eine andere Komprimierung.
Die zweite Meinung muss nicht von einem teuren Modell kommen. Im Artificial Analysis Intelligence Index, einem Verbundwert aus öffentlichen Reasoning-, Coding- und Wissensbenchmarks, abgelesen am 2026-09-17, erreicht DeepSeek V4 Flash 40 Punkte und kostet 1 Whizi-Credit pro Nachricht; Claude Sonnet 5 erreicht 38 Punkte und kostet 10. Die gepunktete Linie ist die Grenzlinie, der beste Wert bei jedem Preis, und jeder Punkt darauf stammt von einem anderen Lab. Ein Gegencheck mit zwei Labs bei 1 und 10 Credits kostet 11 Credits, und die Nebeneinander-Ansicht schickt eine Frage an beide auf einem Bildschirm. Die Anwälte in Mata v. Avianca zahlten $5,000 für den Check, den sie nicht durchgeführt hatten.
Was Halluzinationen reduziert, geordnet nach Wirkung
- Verankerung. Websuche, ein hochgeladenes Dokument oder eine eingefügte Quelle macht aus der Aufgabe "erinnern" ein "lesen und zusammenfassen", was Modelle deutlich zuverlässiger können. Das ist die größte Reduktion und eine Produkteinstellung, kein Prompt-Trick.
- Ein zweites Modell. Anderes Training, andere Fehlermuster. Fängt die meisten erfundenen Details ab.
- Nach Quellen fragen und sie öffnen. Ein Modell, das um eine Quellenangabe gebeten wird, liefert eine; die Prüfung besteht darin, ob das Zitat existiert und das aussagt, was die Antwort behauptet.
- Erlaubnis, nein zu sagen. "Wenn du dir nicht sicher bist, sag es" ändert, was die wahrscheinlichste Fortsetzung ist, sodass das Modell bei schwierigen Fragen häufiger ablehnt, statt zu erfinden.
- Ein größeres Modell. Frontier-Modelle halluzinieren bei Allgemeinwissen weniger als kleine, aber die Lücke ist genau dort am kleinsten, wo es zählt, bei seltenen und spezifischen Fakten.
Die Reihenfolge ist der Punkt. Die meisten greifen zuerst zu Punkt fünf, und das ist der schwächste Hebel auf der Liste.
- Jede konkrete, überprüfbare Behauptung ohne Quelle als unbestätigt behandeln: eine Quellenangabe, eine Statistik, ein Zitat, ein Produktmerkmal
- Websuche aktivieren oder das Dokument anhängen, wann immer die Antwort von etwas Aktuellem, Privatem oder Präzisem abhängt
- Vor dem Handeln nach einer Zahl oder einem Zitat ein zweites Modell aus einem anderen Lab fragen; Widerspruch bedeutet nachprüfen
- Die zitierte Quelle öffnen und bestätigen, dass sie aussagt, was die Antwort behauptet, nicht nur, dass sie existiert
- "Sag es, wenn du dir nicht sicher bist" bei schwierigen Fragen in den Prompt aufnehmen
Häufige Fragen
Warum halluzinieren KI-Modelle?
Weil sie die plausibelsten nächsten Wörter erzeugen, statt Fakten nachzuschlagen, und weil ihr Training eine selbstsichere Vermutung stärker belohnt als das Eingeständnis von Unwissen. OpenAIs Paper "Why Language Models Hallucinate" von September 2025 zeigt, dass die Benchmarks eine leere Antwort und eine falsche Antwort gleich bewerten, sodass Raten die Strategie ist, die das Modell als Gewinnstrategie lernt.
Können KI-Halluzinationen vollständig verhindert werden?
Mit den derzeitigen Modellen nicht, weil das Erzeugen plausiblen Texts derselbe Mechanismus ist, der sowohl richtige als auch erfundene Antworten hervorbringt. Sie lassen sich deutlich reduzieren: Das Modell in Suchergebnissen oder einem Dokument zu verankern, ein zweites Modell zu fragen und Quellen zu verlangen, die man dann öffnet, entfernt einen großen Teil davon. Was bleibt, ist das Restrisiko bei seltenen, spezifischen Fakten.
Welche KI halluziniert am wenigsten?
Frontier-Modelle von OpenAI, Anthropic und Google halluzinieren bei Allgemeinwissen weniger als kleine Modelle, doch der Unterschied schrumpft bei seltenen und spezifischen Fakten, genau dort, wo der Schaden entsteht. Ein verankertes kleines Modell mit aktivierter Websuche schlägt bei Faktenfragen typischerweise ein unverankertes Frontier-Modell, weshalb die Einstellung mehr zählt als das Etikett.
Ist eine Halluzination dasselbe wie ein Fehler?
Sie ist eine Art davon. Eine Halluzination ist eine erfundene Tatsache, die selbstsicher präsentiert wird. Veraltetes Wissen (bei Trainingsende wahr, jetzt falsch), ein Fehltreffer bei der Suche (die falsche Textstelle wurde geladen) und eine falsch verstandene Frage sind andere Fehler mit anderen Lösungen, und nur der erste reagiert auf "nach Quellen fragen".
Was ist im ChatGPT-Anwaltsfall passiert?
In Mata v. Avianca, eingereicht in New York, reichten zwei Anwälte einen Schriftsatz ein, der sechs von ChatGPT erfundene Fälle zitierte. Das Gericht bestrafte sie im Juni 2023 mit $5,000. Ein Jahr später, in Moffatt v. Air Canada, verurteilte ein Tribunal die Fluggesellschaft zur Zahlung von C$812.02, nachdem ihr Chatbot eine erfundene Trauerrabatt-Richtlinie behauptet hatte, und wies das Argument zurück, der Chatbot sei für seine eigenen Aussagen verantwortlich.
