„Ist die KI-Antwort wirklich verstanden – oder nur gut geraten?”
Wer KI im Job nutzt, kommt um diese Frage nicht herum. Die Antwort liest sich flüssig, klar, sauber. Aber hat das Modell den Inhalt wirklich durchdrungen – oder klingt es nur so?
Je mehr du es für Konzept-Entwürfe oder Analyse-Notizen einsetzt, desto stärker nagt das halt. Und das Komische ist: Je besser das Ergebnis aussieht, desto mehr beschleicht dich der Verdacht, dass da nur „Klang” und keine Substanz dahintersteckt.
Diese Frage ist keine Spielerei. Sie entscheidet mit, wie viel du der KI überhaupt anvertraust – und damit, welches Modell du am Ende auswählst.
Im vorigen Teil habe ich die Reihe Physics of Language Models vorgestellt. Genau dieser Frage geht sie nach – und zwar nicht über das Ausgabe-Verhalten, sondern über eine Analyse des Innenlebens.
Heute schauen wir uns an, was dabei aus zwei Blickwinkeln rauskam: dem „verborgenen Zustand” und der „Aufmerksamkeit”.
Verfolgt man den verborgenen Zustand, taucht der „Bauplan” des Satzes auf
Das Forschungsteam um Zeyuan Allen-Zhu und Yuanzhi Li bei Microsoft Research hat das Modell mit synthetischen Daten getestet, also mit klar strukturiertem Material nach festen Regeln. Der Vorteil: Man weiß genau, was man misst – und kann das „Verstehen” sauber nachverfolgen.
Angeschaut haben sie dabei den . Der heißt im Kern: die interne Notiz, die das Modell sich beim Lesen eines Satzes Schritt für Schritt macht. So eine Art Arbeitsspeicher im Kopf halt, könnte man sagen.
Und was kam raus? Bei verschachtelten Sätzen baute das Modell im Inneren eine ganze Hierarchie von Beziehungen nach.
Heißt, es hat eben nicht stur eine flache Wortkette abgearbeitet. Es hat die Struktur des Satzes erfasst – sprich: den „Bauplan”, nicht nur die Reihenfolge der Wörter.
Die Aufmerksamkeit floss wie ein „Lösungsplan”
Noch spannender ist, wie das Modell diese Struktur überhaupt zusammengebaut hat. Dazu hat das Team auch die verfolgt – also den Mechanismus, der bestimmt, auf welche anderen Wörter sich das Modell gerade stützt.
Und der Fluss dieser Aufmerksamkeit ähnelte verblüffend der . Das heißt im Kern: ein großes Problem in Teilprobleme zerlegen und die Zwischenergebnisse wiederverwenden, statt jedes Mal von vorn zu rechnen.
Sprich, das Modell legt sich im Inneren eine Reihenfolge zurecht, in der es die Sache löst. Denn es rät nicht einfach drauflos.
Genau das ist der Kern, wenn man über „Verstehen” reden will. Ein eigener Lösungsplan im Kopf ist eben etwas anderes als ein gut getarnter Glückstreffer.
Das Design entscheidet mit, wie tief das Verständnis reicht
Jetzt der wichtige Haken: Nicht jede KI ist gleich gebaut – und genau das macht eben einen Unterschied. Je nach Modell-Design fiel die Tiefe des strukturellen Verständnisses nämlich deutlich verschieden aus.
Nimm die Frage, wie ein Modell die Position der Wörter im Satz kodiert. Hier schnitt , ein Verfahren mit relativen Positionen, besser ab als die starre, absolute Variante. Das Modell merkt sich also eher Abstände zwischen Wörtern als feste Plätze – und kommt mit der Struktur dadurch besser zurecht.
Auch der Vergleich der Bauformen war aufschlussreich. Beim GPT-Typ (liest streng von links nach rechts) gegen den BERT-Typ zeigte sich: In manchen Fällen brachte gerade die stärker eingeschränkte Bauform das tiefere strukturelle Verständnis hervor.
Heißt für die Praxis: Zwei Modelle mit gleicher Punktzahl sind eben nicht automatisch gleich stark. Wie das Innere gebaut ist, schlägt durch – auch wenn die Rangliste außen dasselbe behauptet.
Fazit: Schau aufs „Design” und die „Fehlerarten”, nicht auf die schöne Oberfläche
Was hier am stärksten in den Arbeitsalltag durchschlägt, ist dieser eine Punkt: Dass eine Antwort natürlich klingt, und dass im Inneren stabil verarbeitet wird, sind zwei verschiedene Dinge. Ein sauberer Text beruhigt – aber ohne den Blick darauf, wo das Modell bei langen Texten, bei Vergleichen oder bei Wenn-dann-Verzweigungen anfängt zu bröckeln, weißt du noch nicht, wie belastbar es im Job wirklich ist.
Wenn du Kandidaten-Modelle vergleichst, dann notier dir nicht nur die Trefferquote, sondern auch die Arten von Fragen, an denen sie gescheitert sind. Genau diese Fehlerkarte sagt dir mehr über die nächste echte Aufgabe als jede Gesamtnote.
Und wenn ein Anbieter dir sein Modell vorstellt: Frag nicht nach den Vorzeige-Erfolgen, sondern nach den schwachen Bedingungen und den Testbedingungen. Unter welchen Fragen wackelt es denn, und wie wurde überhaupt gemessen? Bevor du dich festlegst, teste es lieber einmal an deiner eigenen Aufgabe nach. Diese Portion Abstand zur hübschen Demo zahlt sich später eben aus.
Quellen
- Zeyuan Allen-Zhu, Yuanzhi Li, „Physics of Language Models: Part 1, Learning Hierarchical Language Structures”, ICML 2023, arXiv:2305.13673
- Physics of Language Models – Projektseite: physics.allen-zhu.com
