„Kann ChatGPT nicht einfach sagen, dass es was nicht weiß?”
Du tippst den Namen deiner eigenen Firma bei ChatGPT ein — und zurück kommt ein Preis, den ihr nie gewonnen habt, direkt neben einer Zahl, die im ganzen Haus keiner kennt. Vorgetragen ohne den Hauch eines Zweifels.
Kennst du das?
Ging mir genauso. Ich hab’s mal mit der Firma eines Bekannten probiert und bekam eine komplette Gründungsgeschichte serviert, die es nie gegeben hat. Ich musste zweimal hinschauen.
Aber das Komische ist gar nicht, dass sich das Modell irrt. Das Komische ist das andere: „sag halt, dass du’s nicht weißt.” Ein Mensch würde da doch mit den Schultern zucken und „keine Ahnung, sorry” sagen. Das Modell dichtet stattdessen. Und klingt dabei auch noch großartig.
Im September 2025 hat sich ein Forschungsteam von OpenAI genau diese Frage vorgenommen und ein Paper dazu veröffentlicht (das Paper). Schauen wir uns an, was da drinsteht.
Ist eine Halluzination irgendein mysteriöser KI-Defekt?
Erst mal zum Wort. Eine ist, wenn eine KI etwas Unwahres behauptet — flüssig und mit voller Überzeugung.
Die meisten legen das im Kopf unter „komischer Fehler, der halt manchmal auftaucht” ab. Und darunter liegt die Annahme: Bessere Modelle wachsen da eh von allein raus.
Das Paper sagt: nein. Halluzinationen sind kein Defekt, sondern das ganz normale, vorhersagbare Ergebnis davon, wie diese Modelle trainiert und vor allem, wie sie benotet werden.
Die Autoren haben das an sich selbst durchgespielt: Sie haben ein Modell dreimal nach dem Geburtsdatum eines der Autoren gefragt. Zurück kamen drei verschiedene Daten. Alle falsch, alle ohne den kleinsten Vorbehalt.
Dreimal gefragt, dreimal danebengelegen, null Zögern.
Der Schüler, der niemals ein Feld leer lässt
Warum also kann das Ding nicht einfach die Klappe halten? Die anschaulichste Erklärung im Paper ist ein Schüler in einer Prüfung.
Stell dir das mal vor. Du kommst zu einer Frage, die du nicht kannst. Lässt du das Feld leer, gibt’s garantiert null Punkte. Schreibst du irgendwas hin, hast du zumindest eine Chance auf einen Glückstreffer.
Also schreibst du irgendwas hin.
Genau derselbe Anreiz wirkt beim Modell, so lesen es die Autoren. Denn ein ehrliches „weiß ich nicht” lohnt sich weniger als eine plausibel klingende Antwort. Und was sich lohnt, macht man.
Heißt: Die KI lügt nicht, weil sie lügen will. Sie geht auf Punktejagd.
Wie wurde Raten zur besten Strategie?
Und jetzt zum Kern. Das läuft in zwei Stufen ab.
Die erste ist das Training selbst. Das Modell liest riesige Textmengen und lernt, wie Wörter zusammenhängen. In diesen Textmengen stecken aber richtige und falsche Sätze durcheinander. Ohne eine perfekte Methode, beides zu trennen, ist ein gewisser Fehleranteil statistisch schlicht unvermeidbar. Das geht auch nicht weg.
Richtig weh tut aber erst die zweite Stufe: wie die Fähigkeiten des Modells anschließend gemessen werden.
Gemessen wird mit — sprich: den standardisierten Prüfungen der Branche. Viele Fragen, eine Punktzahl, am Ende eine Rangliste.
Und der Großteil dieser Bewertung ist binär: richtig gibt einen Punkt, falsch gibt null. Nach diesen Regeln bringen ein ehrliches „weiß ich nicht” und eine selbstbewusst vorgetragene Falschaussage exakt dasselbe. Nämlich nichts.
Warum das ehrliche Modell in der Rangliste verliert
Wo genau liegt jetzt das Problem an dieser Bewertung?
Wenn „weiß ich nicht” null Punkte bringt, ist Raten reiner Bonus: Die Zufallstreffer nimmt man mit, die Fehlschüsse kosten nichts extra. Und das Modell, das seine Unsicherheit ehrlich anzeigt, lässt genau diese Punkte liegen und rutscht in der Rangliste nach unten.
Das ist dasselbe wie beim Schüler, dem man vor der Klausur einbläut, ja kein Feld leer zu lassen. Ehrlichkeit zahlt sich nicht aus, forsches Raten schon. Auf diesem Platz haben alle Modelle gegeneinander gespielt.
Deshalb schlägt das Paper eben nicht vor, „noch einen Halluzinations-Test dazuzunehmen”. Sondern die Bewertung der großen, etablierten Benchmarks selbst zu ändern: selbstsicher vorgetragene Fehler stärker abstrafen und für ein angebrachtes „weiß ich nicht” Teilpunkte geben. Ehrlichkeit soll aufhören, teuer zu sein.
Und das ist der eigentliche Punkt der ganzen Arbeit: Halluzinationen lösen sich nicht in Luft auf, sobald die Modelle klüger werden. Solange die Benotung das Raten belohnt, rät auch ein klügeres Modell weiter.
Fazit: Selbstsicherheit ist kein Beleg für Richtigkeit
Was heißt das jetzt für dich, wenn du eine Marke verantwortest?
Der wichtigste Punkt: Wie überzeugt eine Antwort klingt und wie richtig sie ist, haben nichts miteinander zu tun. „Weiß ich nicht” fällt diesen Systemen strukturell schwer — und je weniger sie wissen, umso geschmeidiger erfinden sie. Die flüssige, ungebremste Antwort ist die überzeugendste auf dem Bildschirm. Beweisen tut diese Flüssigkeit gar nichts.
Aussitzen kannst du das auch nicht. „Das nächste Modell wird’s schon richten” trägt nicht, solange die Prüfungen fürs Raten bezahlen. Behandle also alles, was eine KI über dein Unternehmen sagt, als Behauptung, die einmal ein Mensch gegenprüft — egal wie frisch das Modell ist.
Und daraus folgt die eine Gewohnheit, die wirklich etwas ändert: Lass es nicht bei einer einzigen Kontrolle. Die Antworten schwanken von Sitzung zu Sitzung, und ein Modell-Update kann sie komplett drehen. Was die KI über dich erzählt und wie viel davon stimmt, schaut man sich besser regelmäßig an, statt darauf zu vertrauen, dass es schon passen wird.
Unspektakulär, ja. Aber genau das bewahrt dich davor, dich von einem allzu selbstsicheren Ton herumschubsen zu lassen.
