„Lass das doch die KI denken“ – nur, wie weit darf ich da gehen?
Inzwischen ist es ganz normal, die KI eine Analyse-Notiz oder einen Maßnahmen-Vorschlag schreiben zu lassen. Eine Zusammenfassung? Die gebe ich beruhigt aus der Hand. Aber sobald echtes Schlussfolgern im Spiel ist, bleibt halt ein mulmiges Gefühl.
Mir geht’s da oft so: Ist dieses Ergebnis wirklich durchdacht – oder nur schön formuliert?
Genau diese Frage hat sich mal jemand richtig vorgenommen, nämlich in Part 2.1 und Part 2.2 der Reihe „Physics of Language Models“.
Tian Ye, Zeyuan Allen-Zhu und Kollegen von Microsoft Research haben das Schlussfolgern an Rechenaufgaben Schritt für Schritt verfolgt.
Warum ausgerechnet Rechnen? Ganz simpel: Die Lösung ist eindeutig, und auch der Weg dorthin lässt sich sauber überprüfen.
Im Rechen-Experiment hat die KI innerlich „im Kopf gerechnet“
Das Team hat auf synthetische Daten gesetzt – also auf selbst erzeugte Textaufgaben, bei denen jede Bedingung streng kontrolliert ist. Weniger Variablen als in natürlicher Sprache, dafür misst man die Schlussfolgerungs-Fähigkeit direkter.
Die Idee ist dieselbe wie der „Test, bei dem keiner spicken kann“ aus dem ersten Teil der Reihe. Und das Ergebnis ist: Die KI hat intern versteckte Denkschritte durchlaufen.
Selbst bei einer simplen Addition – ohne den Rechenweg auszuschreiben – hat das Modell innen drin den Lösungsweg aufgebaut. Heißt, ein Verhalten, das man mit reinem Auswendiglernen nur schwer erklärt.
Das ist ein Gegenbeleg zur Sorge „Die KI kopiert doch nur stumpf zusammen“. Zumindest im Rechenbereich wurde echte schlussfolgernde Verarbeitung beobachtet.
„Nur das Richtige lernen“ war schwächer als „erst irren, dann korrigieren“
In Part 2.2 kommt der eigentlich wichtige Punkt: Trainingsdaten, die auch Fehler enthalten, haben gezogen. Modelle, denen man Irrtum samt Korrektur zeigte, schlossen schärfer als solche, die nur korrekte Lösungen sahen.
Und das bei gleicher Datenmenge. Sprich: Nicht die Menge entscheidet, sondern die Qualität dessen, was gelernt wird.
Beim menschlichen Lernen wirkt das Aufarbeiten von Fehlern ja auch. Dass bei der KI eine ähnliche Struktur auftaucht, ist für die Praxis ein dickes Pfund.
Schlussfolgern können heißt nicht: ungeprüft übernehmen
Das Ergebnis macht Mut – und nennt im selben Atemzug die Grenze. Denn auch wenn intern geschlussfolgert wird, taucht der Denkweg in der Ausgabe oft nicht vollständig auf.
Heißt, eine Antwort einfach zu übernehmen, weil sie richtig aussieht, ist beim Entscheiden gefährlich. Genau hier brauchst du ein .
Fazit: Bei Reasoning-Aufgaben „Umfang“ und „Prüfschritt“ zusammen festlegen
Was diese Forschung zeigt: Selbst wenn die KI etwas tut, das nach Schlussfolgern aussieht, heißt das noch lange nicht, dass man ihr eine wichtige Entscheidung überlassen darf. Gerade bei Aufgaben mit Zahlen, Vergleichen oder Wenn-dann-Logik kann der Gedankengang plausibel wirken – und am Ende stimmt nur die letzte Zahl nicht.
Deshalb legst du besser vorher fest, was du der KI überlässt und wie du es prüfst – beides zusammen. Antworten mit Zahlen rechnest du nach. Antworten, die einen Beleg brauchen, gleichst du mit der Quelle ab. Und bei der Modell-Bewertung schaust du nicht nur auf die Trefferquote, sondern auch darauf, wie gut ein Modell aus Fehlern heraus korrigiert. Schon damit kommst du weg vom „klingt schlau, also nehmen wir’s“.
Quellen
- Tian Ye, Zicheng Xu, Yuanzhi Li, Zeyuan Allen-Zhu, „Physics of Language Models: Part 2.1, Grade-School Math and the Hidden Reasoning Process“, arXiv:2407.20311, 2024. Link zum Paper
- Tian Ye, Zicheng Xu, Yuanzhi Li, Zeyuan Allen-Zhu, „Physics of Language Models: Part 2.2, How to Learn From Mistakes on Grade-School Math Problems“, arXiv:2408.16293, 2024. Link zum Paper
- Physics of Language Models – die gesamte Reihe: Projektseite
Verwandte Artikel
- Versteht die KI wirklich – oder klingt sie nur so? — ein Blick auf die inneren Mechanismen
