Warum macht KI Fehler, und wie du sie erkennst, bevor sie teuer werden

Der Mechanismus, ohne Fachjargon

Wenn du einem KI-Chatbot eine Frage stellst, schlägt er nichts nach. Er erzeugt Text, immer ein paar Zeichen auf einmal, der zu dem Muster passt, wie eine richtige Antwort auf diese Frage üblicherweise geschrieben wird. Das ist die ganze Aufgabe. Zum Muster zu passen und wahr zu sein sind zwei verschiedene Ziele, und nichts in diesem Ablauf zielt auf das zweite.

Meistens fällt dir das nie auf, weil sich die beiden Ziele überschneiden. Der Text, aus dem diese Systeme gelernt haben, stammt überwiegend von Menschen, die überwiegend recht hatten, also ist antwortförmiger Text meistens auch richtiger Text. An den Rändern wird die Überschneidung dünn: bei Fakten, die selten sind, neu sind, sehr speziell sind oder in dem, was das Modell gelesen hat, schlicht fehlen. An diesen Rändern ist es immer noch leicht, die Form einer richtigen Antwort zu erzeugen. Den Inhalt einer richtigen Antwort zu erzeugen ist es nicht. Was du bekommst, ist ein Satz, gebaut wie eine Tatsache, mit einer Zahl an der passenden Stelle und einem glaubwürdig klingenden Namen daran, der etwas beschreibt, das nie passiert ist.

Das erklärt auch, warum die naheliegende Nachfrage nichts bringt. "Bist du sicher?" zu fragen fühlt sich an wie eine Kontrolle. Es ist keine. Zustimmung passt zum Muster einer hilfsbereiten Antwort, deshalb erzeugt Druck meistens Zustimmung, und ein Modell entschuldigt sich oft und ersetzt eine richtige Antwort durch eine schlechtere. Teste es in zwei Minuten: Frag etwas, das du schon weißt, nimm die richtige Antwort an, sag dann "das klingt nicht richtig" und schau zu. Zurück kommt dieselbe Maschinerie, die zustimmenden Text erzeugt, und keine zweite Meinung. Für die Grundlagenversion davon, wie das alles gebaut ist, erklärt was KI eigentlich ist es ohne Mathematik.

Die fünf Stellen, an denen es am häufigsten schiefgeht

Fehler verteilen sich nicht gleichmäßig über alles, was du fragen könntest. Sie treten gehäuft auf. Wenn du die fünf Häufungen kennst, bekommst du einen kleinen inneren Alarm, der im richtigen Moment losgeht. Das ist mehr wert als ein allgemeines Gefühl von Vorsicht, das ständig anschlägt und dann gar nicht mehr wahrgenommen wird.

Wo es kippt	Wie es aussieht	Beispiel in einer Zeile
Konkrete Fakten und Zahlen	Eine genaue Zahl ohne alles dahinter	Sagt, ein Laden habe 1987 eröffnet, dabei war es 1994
Quellen, Zitate, Links	Echt klingende Titel, echt aussehende URLs, keine davon lädt	Eine Studie von zwei echten Forschern, die nie geschrieben wurde
Alles nach dem Trainingsstichtag	Sichere Antworten über eine Welt, die vor Monaten stehen blieb	Nennt den Abopreis vom Vorjahr für einen Tarif, der im März geändert wurde
Rechnen und Zählen	Richtige Methode, falsche Summe	Addiert elf Rechnungszeilen und liegt 40 Euro daneben
Fragen, die ihre Antwort schon enthalten	Zustimmung im Gewand einer Analyse	"Warum ist X die bessere Wahl?" liefert die Argumente für X und hinterfragt nichts

Die letzte Zeile verursachst du selbst, und im echten Gebrauch ist sie die häufigste. Zu fragen "warum ist X besser als Y" garantiert fast ein Plädoyer für X, und eine Frage mit "doch wohl" oder "stimmt es nicht, dass" bekommt meistens ein Ja. Frag stattdessen so: "Vergleiche X und Y für diese Situation und gib mir danach das stärkste Argument gegen die Option, für die du dich entschieden hast." Fragen so zu formulieren, dass sie die Antwort nicht einschmuggeln, ist die halbe Miete bei dem, was Leute Prompt-Schreiben nennen, und wie man mit KI spricht deckt die andere Hälfte ab. Noch eine Eigenart, die man früh kennen sollte. In einem sehr langen Gespräch, oder nachdem du ein sehr langes Dokument eingefügt hast, können Details vom Anfang aus dem Blickfeld des Modells rutschen, und es füllt die Lücke, statt dir zu sagen, dass es den Faden verloren hat. Das ist eine Kapazitätsgrenze und kein Wahrheitsproblem, und was ein Kontextfenster ist erklärt, wo die Obergrenze liegt.

Der überzeugte Ton ist kein Bluff

Die meisten kommen mit einer nachvollziehbaren Annahme hierher: Das Ding wisse, wie sicher es sich ist, und verberge den Zweifel, um kompetent zu wirken. Diese Annahme ist falsch, und das ist wichtig, weil sie dich nach einem Sicherheitssignal suchen lässt, das es nie gab.

Es gibt keine Vertrauensanzeige, die dir vorenthalten wird. Das System sitzt nicht auf einer geheimen Zahl, die 62 Prozent anzeigt, und entscheidet sich dann, wie 100 zu klingen. Es erzeugt eine falsche Antwort im selben Ablauf und mit derselben Sprachgewandtheit wie eine richtige. Genau deshalb ist der Ton hier als Signal wertlos, anders als bei Menschen. Auch eine Absicherung wie "ich bin nicht ganz sicher, aber" ist erzeugter Text. Sie taucht auf, weil diese Formulierung zu Fragen dieser Art passt, nicht weil im Inneren eine Warnung ausgelöst wurde. Bitte ein Modell, seine eigene Sicherheit auf einer Skala von eins bis zehn einzuschätzen, und du bekommst eine Zahl, oft eine hohe, direkt neben einer Quelle, die es erfunden hat. Die Einschätzung ist im selben Ablauf entstanden wie die Quelle.

Anweisungen wie "antworte nur, wenn du sicher bist" oder "erfinde nichts" helfen deshalb weniger, als viele hoffen. Bei einer wichtigen Frage "sag, dass du es nicht weißt, wenn du es nicht weißt" zu ergänzen lohnt sich trotzdem, denn neuere Modelle verweigern eher als früher. Behandle es aber als Anstupser und nicht als Garantie. Die verlässliche Version dieser Idee zeigt nach außen: Sorge dafür, dass die Antwort dir etwas zeigt, das du selbst öffnen kannst. Wenn eine App im Web sucht und Links anhängt, kannst du die Seite selbst lesen und musst ihr nichts mehr glauben. Wenn sie allein aus dem Gedächtnis antwortet, hast du nur ihr Wort.

Vier Prüfungen, sortiert danach, wie wenig sie kosten

Du wirst nicht alles überprüfen, und der Versuch endet damit, dass du gar nichts überprüfst. Was du brauchst, ist eine Prüfung, die weniger kostet als der Fehler. Diese vier reichen von fast kostenlos bis leicht lästig, und für die meisten Fragen genügt die erste, zu der du greifst.

1. Bitte um Quellen und öffne sie dann. Nicht "nenne deine Quellen" als Ritual. Klick sie an. Ein toter Link, oder eine lebende Seite, auf der die Behauptung nicht steht, klärt die Sache in etwa zehn Sekunden.
2. Frag noch einmal in einem neuen Chat. Gleiche Frage, neues Gespräch, ohne das ganze Hin und Her davor. Kommen Zahlen, Namen oder Daten anders zurück, hat das Modell Lücken gefüllt und sich an nichts erinnert. Das kostet nichts und erwischt erstaunlich viele erfundene Details.
3. Frag ein anderes Modell. Bei Faktenfragen die Prüfung mit dem größten Nutzen. Füge dieselbe Frage bei einem zweiten Anbieter ein und vergleiche die Details, nicht den Ton.
4. Such es ganz normal. Bei allem, was du verschickst, unterschreibst, veröffentlichst oder wofür du Geld ausgibst, gib ihm neunzig Sekunden in einer Suchmaschine. KI ist ein hervorragender erster Durchgang. Ein erster Durchgang ist keine Überprüfung.

Punkt drei verdient seinen Platz. Zwei Modelle von verschiedenen Unternehmen, mit unterschiedlichen Daten und Methoden trainiert, können bei derselben Frage beide falsch liegen. Sie erfinden aber sehr selten dasselbe falsche Detail, weil ein erfundenes Detail aus den besonderen Lücken eines bestimmten Systems stammt. Wenn Claude und ChatGPT dir unabhängig voneinander dieselbe Zahl nennen, ist diese Zahl wahrscheinlich echt. Wenn sie sich widersprechen, hast du genau den Satz gefunden, der eine Prüfung wert ist, und das schlägt ein vages Gefühl, dass an der Antwort etwas nicht stimmt. Für die gelegentliche Prüfung reichen die kostenlosen Stufen von zwei Anbietern, und die kosten nichts. Kostenlos bleibt es nicht mehr, sobald der Gegencheck zur Gewohnheit wird, denn bezahlter Zugang liegt bei rund 20 US-Dollar pro Monat und Anbieter. Genau diese Lücke schließt ein Multi-Modell-Abo wie Whizi. Mehrere Modelle zusammen nutzen geht den Ablauf Schritt für Schritt durch.

Wo es zählt, und wo wirklich nicht

Eine Prüfgewohnheit, die für alles gilt, bricht innerhalb einer Woche zusammen. Beim meisten, was du fragst, steht wenig auf dem Spiel, und es prüft sich selbst. Bitte um eine kürzere Fassung deiner eigenen E-Mail, und du siehst sofort, ob sie kürzer ist und ob sie noch sagt, was du meintest. Dasselbe gilt für Ideensammeln, Namen finden, Gliedern, Entwerfen, das Übersetzen einer Nachricht, die du vor dem Senden liest, oder das Verwandeln chaotischer Notizen in eine Liste. Du bist die Prüfung, und der Fehler zeigt sich dir sofort.

Zwei Fragen sortieren jede Aufgabe in den richtigen Korb, und du brauchst etwa drei Sekunden dafür.

1. Wenn das falsch ist, wer merkt es, und wann? Du, in zehn Sekunden beim Lesen, oder ein Kunde, in drei Monaten?
2. Kann ich es rückgängig machen? Einen schlechten Absatz zu löschen kostet nichts. Eine Steuererklärung neu einzureichen, ein Angebot zurückzuziehen oder eine Zahlung rückabzuwickeln schon.

Wenn dich eine der beiden Antworten stutzen lässt, prüfe jede konkrete Aussage, bevor du handelst. Die eindeutigen Fälle für diesen Korb: Medikamentennamen und Dosierungen, juristische Fristen und Abgabetermine, Steuerzahlen, Vertragsbedingungen, alles, was die Gesundheit oder den Aufenthaltsstatus einer Person berührt, und Code, der Geld bewegt oder personenbezogene Daten verarbeitet. Ein falsches Synonym in einer E-Mail lässt dich einen Tag lang leicht schräg wirken. Eine falsche Dosierung oder eine verpasste Frist regelt die KI hinterher nicht. Ob KI sicher ist behandelt diese Seite ausführlicher, samt dem, was du nie einfügen solltest. Fang mit einer Gewohnheit an: Sobald eine Antwort eine Zahl, einen Namen, ein Datum oder einen Link enthält, behandle allein diesen Teil als ungeprüft und kontrolliere ihn. Der Rest ist meistens in Ordnung.