„Die KI, die ich abgeschrieben hatte, war plötzlich eine andere”
Vor einem halben Jahr hast du irgendein KI-Tool aufgemacht, kurz rumprobiert, „für unsere Prozesse noch nichts” gedacht und den Tab zugemacht.
Neulich machst du es nochmal auf. Und da sitzt ein anderes Ding.
Kennst du das? Ging mir ja genauso, mehr als einmal. Erst abgeschrieben, später zurückgerudert.
Wir gehen halt alle davon aus, dass eine KI genau in dem Maß schlauer wird, in dem sie lernt. Mehr Training, ein bisschen besser. Noch mehr Training, noch ein bisschen. Schön ordentlich, wie mit dem Lineal gezogen.
Nur: So brav läuft das offenbar nicht. Und dazu gibt es Forschung.
„Was soll das denn sein, dieses Grokking?”
Angefangen hat die Sache mit einem Phänomen, das Forscher von OpenAI 2022 beschrieben haben: Grokking.
Heißt, kurz gesagt: Die KI paukt ihre Trainingsdaten auswendig, sieht danach lange aus wie am Limit — und fängt sehr viel später auf einmal an, sich so zu verhalten, als hätte sie die Sache doch verstanden.
Das englische grok meint ungefähr „der Groschen fällt”. Und genau so sieht es von außen aus: Eines Tages fällt er halt.
Der Punkt ist nicht, dass es besser wird. Der Punkt ist, wie: nicht als Rampe, sondern als Sprung.
Und genau da liegt das Ganze quer zu dem Bild, das wir alle mit uns rumtragen.
Erst auswendig lernen. Verstehen kommt viel später
Getestet wurde das an modularer Arithmetik — Rechnen, das bei einer festen Zahl wieder von vorn anfängt, so wie die Zeiger auf einer Uhr. Wirklich simpel, und genau das ist der Witz an dem Aufbau.
Am Anfang macht die KI ja genau das, was ein fauler Schüler auch machen würde: Sie lernt Aufgaben und Lösungen auswendig. Alles, was sie schon gesehen hat, sitzt fast perfekt. Alles Neue: Totalausfall.
Sprich: Altklausuren gebüffelt, verstanden nichts.
Aber wenn man an der Stelle nicht aufhört — wenn man einfach weitertrainiert, lange über den Punkt hinaus, an dem es sinnlos wirkt —, dann kommt irgendwann der Moment, in dem auch die neuen Aufgaben sitzen.
Vom Auswendiglernen zum Verstehen der Regel. Nur eben mit ordentlich Verspätung. Generalisierung heißt im Kern nämlich genau das: Gelerntes auf etwas anwenden, das man vorher nie gesehen hat.
Sah nach Stillstand aus. War aber Baustelle
Und jetzt die spannende Frage: Was hat die KI in dieser langen Flaute eigentlich gemacht?
Spätere Forscher (die Analyse von Nanda und Kollegen) haben da mal ins Modell reingeschaut. Hinter dem scheinbaren Stillstand haben sich die Schaltkreise für die Generalisierung Stück für Stück zusammengesetzt. Von außen: nichts. Innen: Aufbau.
Das ist wie mit der Zimmerpflanze, die du wochenlang gießt und die oben rum keinen Millimeter macht. Unten wachsen derweil in aller Ruhe die Wurzeln.
Daraus ist eine Sichtweise entstanden: das Ganze als Phasenübergang zu lesen. Ein Phasenübergang ist das, was Wasser bei null Grad macht — flüssig, flüssig, flüssig, und dann kippt es schlagartig zu Eis. Fähigkeit wächst demnach eben nicht sauber an, sondern liegt rum und springt, sobald eine Schwelle überschritten ist. Wohlgemerkt: Beobachtet wurde das in kleinen, simplen Versuchsaufbauten. Dass sich das eins zu eins auf die riesigen KI-Systeme im Arbeitsalltag übertragen lässt, sollte man deshalb nicht einfach behaupten.
Aber der Hinweis an sich — Fähigkeit springt halt manchmal — wiegt schon ganz schön schwer.
Fazit: Bewerte keine KI nach einer einzigen Momentaufnahme
Runtergebrochen auf deinen Alltag ist die Lehre simpel: „So gut ist die KI gerade” ist kein Urteil, das man einmal fällt und dann ablegt.
Denn wenn Fähigkeit sprunghaft zulegen kann, ist die Entscheidung „noch nicht brauchbar” oder „ist eh am Limit” auf Basis einer Momentaufnahme ziemlich wackelig. Hinter der Flaute kann der nächste Sprung im Bau sein — und von außen sieht die Baustelle exakt aus wie eine Sackgasse.
Was zählt, ist deshalb nicht die einmalige Bewertung, sondern der feste Beobachtungspunkt. Nimm die KI, die dich interessiert, jag einmal im Quartal dieselbe Aufgabe durch und achte auf die ersten Anzeichen, dass sich was bewegt hat. Wer seine Bewertung als etwas Laufendes führt, verpasst den Sprung nicht.
Und das gilt nicht nur für Fähigkeiten. Wie eine KI über dein Unternehmen redet und welche Marken sie auf die Liste setzt, kann sich genauso von heute auf morgen drehen. Einmal nachschauen und beruhigt sein: riskant. Von einem festen Punkt aus mitverfolgen: nützlich — und wohl die beste Vorbereitung, die gerade zu haben ist.
