«Il modello nuovo è più intelligente». Quante volte l’avete sentita, questa frase, da gennaio a oggi?
Si annuisce tutti. Anche a me, Hex-ko, capita: annuisco, e due secondi dopo non saprei dire a cosa si riferisca quel «più intelligente».
Il risultato si vede: risposte migliori, punteggi migliori. È il mezzo che resta chiuso — cioè proprio il tratto in cui la cosa sta diventando più intelligente.
Però qualcuno ha cominciato ad aprire quel mezzo lì. Non sezionare un modello finito: seguirne uno mentre cresce.
E cosa salta fuori? Che i pezzi interni, durante l’addestramento, si dividono il lavoro.
«Va bene, ma là dentro cosa succede mentre impara?»
Al centro c’è un lavoro di Timaeus, un istituto di ricerca, accettato come Spotlight a ICLR 2025: «Differentiation and Specialization in LLMs» (lo studio).
Il pezzo osservato si chiama testa di attenzione. In pratica vuol dire: il componente che decide su quali parole l’IA si concentra mentre legge una frase. In un solo modello ce ne sono impilate parecchie.
E la cosa curiosa qual è? Il loro aspetto all’inizio dell’addestramento.
Appena partiti, si comportano tutte più o meno allo stesso modo. Di distinzione di ruolo, praticamente, non ce n’è.
Nello studio questo stato viene chiamato «indifferenziato». Poi, addestramento dopo addestramento, le stesse teste si separano in ruoli diversi. Una crescita piuttosto diligente, diciamocelo.
Come un ovulo fecondato che diventa organi
«All’inizio tutti uguali, poi ognuno al suo mestiere»: vi ricorda qualcosa, no?
Certo: è lo sviluppo degli esseri viventi. Un ovulo fecondato si divide e si divide, finché certe cellule diventano cuore e altre nervo.
Con i pezzi di un’IA funziona in modo simile. Immaginiamo una leva di nuovi assunti, il primo giorno indistinguibili, che dopo la formazione finiscono chi al commerciale e chi in amministrazione.
E in cosa si sono specializzate davvero, le teste ormai differenziate? Sono stati osservati ruoli come questi:
- Il più semplice: prevedere la parola successiva a partire da quella precedente (bigram, il legame fra due parole vicine)
- Ritrovare uno schema comparso prima e riapplicarlo (induction, ripetere una regola presa dal contesto)
E in più è saltato fuori qualcosa che nessuno aveva descritto: i «circuiti multigram», che trattano schemi un po’ più complessi.
Ecco il premio per aver seguito l’addestramento passo passo: una struttura che, guardando il modello finito, non si vede.
E come si misura che un pezzo «si è fatto»?
Qui la domanda viene da sé: come diavolo si misura la divisione dei ruoli dentro un modello? È proprio questo il nocciolo del lavoro.
È stato usato un indicatore basato sulla teoria singolare dell’apprendimento, il quadro matematico costruito da Sumio Watanabe per analizzare con rigore l’apprendimento dei modelli che la statistica di sempre gestisce male — le reti neurali, per l’appunto.
Applicando quell’indicatore testa per testa, si ottiene un numero per «quanto si è costruito, finora, questo pezzo».
E adesso il punto che conta: questo cambiamento interno non si vede guardando soltanto i voti dell’IA.
Di solito l’intelligenza di un modello in addestramento si misura da come cala l’errore sul test (la perdita). Ma anche quando quella curva scende bella liscia, sotto procede un cambiamento strutturale a tappe: la divisione dei ruoli, in silenzio.
Insomma: invece di sezionare a freddo un modello finito, si seguono i cambiamenti lungo l’asse del tempo di addestramento. Lo studio chiama questo sguardo .
Detto in altre parole: alla ricerca sull’interno delle IA si aggiunge un asse in più, quello del tempo.
Conclusione: chiedete se quell’IA si sa spiegare, non solo quanto segna
Quello che questo lavoro mostra è che l’intelligenza di un’IA non si accumula in modo liscio. Arriva a tappe, mentre i pezzi interni ricevono uno dopo l’altro il proprio ruolo.
Pezzi che all’inizio erano indistinguibili diventano specialisti, e la cosa ormai si osserva in un posto diverso dal tabellone dei punteggi. È un passo avanti bello grosso.
Poi certo, la cautela va detta: qui la verifica riguarda modelli piccoli, di circa due strati. Che nei modelli giganti succeda lo stesso non si può affermare così. Va scontato onestamente.
Ma quello che conviene portarsi a casa, da marketer o da chi decide, è un altro: la premessa «l’IA è una scatola nera, quindi la si può giudicare solo dal punteggio finale» ha cominciato a incrinarsi.
Se cresce la ricerca capace di chiedere cosa succede dentro, cresce anche la possibilità di verificare perché quella IA abbia deciso in quel modo.
Quindi, quando si valuta o si sceglie un’IA, non ci si beve solo il punteggio che viene mostrato. «C’è qualcuno che sa spiegare cosa c’è dentro?» è una domanda che ogni anno pesa di più, e tenersela in tasca non costa nulla.
Perbacco! Non pensavo che sbirciare la crescita di un’IA rendesse così tanto. Se la cosa ha incuriosito anche voi, si può partire dal piccolo: la prossima volta che una risposta sorprende, ci si ferma un attimo e ci si chiede perché sia uscita proprio quella.
Fonti
- Timaeus Research, «Differentiation and Specialization in LLMs», ICLR 2025 (Spotlight), 2024, link
