Si fa una domanda all’IA e torna indietro una risposta che, tutto sommato, sta in piedi.
Però provate a spiegare perché è uscita proprio quella risposta. Lì, di colpo, si annebbia tutto, no?
Quella nebbia la chiamiamo «scatola nera», e di solito ci si ferma lì.
Capita anche a me: la faccenda finisce archiviata alla voce «tanto non si saprà mai».
Solo che quella scatola, da qualche anno, qualcuno la sta aprendo sul serio. E si è arrivati parecchio più in là di quanto si creda.
«Ma quanto si vede, oggi, dentro un’IA?»
L’esempio di riferimento è la serie Monosemanticity di Anthropic.
Parola ostica, concetto semplice: una cosa, un significato. La ricerca va a caccia, dentro il modello, di pezzi che corrispondano a un singolo concetto invece che a un minestrone di tutto insieme.
E la parte interessante quale sarebbe? Mica le figure colorate.
È che, una volta trovata la caratteristica interna, se la si muove cambia anche la risposta del modello. Non sono etichette appiccicate a posteriori, insomma: assomigliano a manopole che girano davvero.
All’inizio erano 4.096 «unità di significato»
Il punto di partenza è Towards Monosemanticity, pubblicato da Anthropic nel 2023.
Il modello sotto esame era minuscolo: un transformer a un solo strato con 512 neuroni, cioè una versione in miniatura dell’architettura su cui girano i modelli linguistici di oggi.
Da lì sono state estratte 4.096 caratteristiche interpretabili con uno sparse autoencoder, che in pratica è un meccanismo per scomporre uno stato interno aggrovigliato in pochi pezzi dotati di senso.
E cosa ne è venuto fuori? Categorie sorprendentemente nitide: sequenze di DNA, linguaggio giuridico, richieste HTTP, testo in ebraico, etichette nutrizionali.
Con esempi così concreti la sensazione di «stiamo guardando dentro» sale parecchio.
Il passaggio che conta, però, è un altro: l’unità di analisi non è più il singolo neurone, ma la combinazione di caratteristiche. Via il «una lampadina, un significato»: si passa a estrarre le componenti di senso da un segnale mescolato.
Con Claude 3 Sonnet si sale a circa 34 milioni
Bene, ma quel primo lavoro riguardava un modello minuscolo. Regge anche alla scala dei modelli che si usano tutti i giorni?
Ci ha pensato Scaling Monosemanticity, del 2024: da uno strato intermedio di Claude 3 Sonnet sono state estratte circa 34 milioni di caratteristiche. Vale a dire circa 8.000 volte le 4.096 di prima.
E non si tratta di semplici etichette di parole. Le caratteristiche riportate vanno dal concreto all’astratto: il ponte Golden Gate, Michael Jordan, il «comportamento ingannevole».
Ancora più curioso: lo stesso concetto compariva come caratteristica condivisa fra più lingue e persino con le immagini. Non una parola inglese, quindi, ma piuttosto un nucleo concettuale verso cui puntano ingressi diversi.
Si gira la manopola e l’IA cambia discorso
L’esperimento più famoso è questo: si amplifica artificialmente la caratteristica del ponte Golden Gate e la risposta del modello scivola tutta verso il ponte.
Non è una metafora. E non è nemmeno una manopola che l’utente possa toccare nel prodotto.
È un’attivazione interna, modificata di proposito, con un effetto causale su ciò che esce dall’altra parte.
A questo punto dire che «l’IA si limita a incollare parole che suonano bene» diventa una descrizione un po’ sbrigativa. Là dentro ci sono caratteristiche agganciate a concetti, e nella risposta ci mettono del loro.
Anthropic riferisce inoltre di caratteristiche legate alla sicurezza: inganno, compiacenza, pregiudizio, contenuti pericolosi. Ed è questa la parte che tocca da vicino il lavoro di chi gestisce un marchio.
E i circuiti mostrano pure i vizi del modello
Nel 2025 Circuit Tracing ha fatto un passo oltre le singole caratteristiche e ha seguito come si collegano fino alla risposta.
Sotto esame c’era Claude 3.5 Haiku, e il flusso di calcolo interno viene rappresentato come attribution graph: in sostanza, una mappa di quale caratteristica ha influenzato quale.
Gli esempi meritano. Nella traduzione, le rappresentazioni concettuali degli strati intermedi risultavano condivise fra le lingue. Nello scrivere una poesia in rima, il modello sceglieva la parola in rima prima di scrivere il verso. E nelle addizioni faceva girare in parallelo un percorso di calcolo approssimato e uno preciso.
Insomma, «l’IA prevede solo la parola successiva, una alla volta» è vero, però non racconta tutto.
Somiglia a quelle trasmissioni di cucina in cui il conduttore dice «e adesso mescoliamo», mentre fuori campo sono già passate dieci fasi di preparazione. Normale che, guardando solo il piatto finito, non si capisca granché.
Conclusione: guardate anche i vizi, non solo le parole
E a chi si occupa di marketing o di marchio, tutto questo a cosa serve? Diciamocelo: niente da usare domani mattina. Nessuna azienda, oggi, può ispezionare «le caratteristiche interne che riguardano il proprio marchio», e il lavoro di Anthropic è ricerca sulla comprensione dei modelli e sulla sicurezza, non una funzione di misura per il pubblico. Della valutazione dei marchi non si occupa in modo diretto.
Cambia però quanto peso si può dare a una singola risposta. Sotto la frase che si legge possono mescolarsi caratteristiche di persone, luoghi, pericolosità, compiacenza e pregiudizio.
Quindi, quando l’IA parla del vostro marchio con una prudenza strana, o calca la mano sui rischi, o scivola verso una certa impressione appena entra in scena un concorrente, potrebbe non essere una semplice oscillazione di stile. Potrebbe dipendere dalla rappresentazione interna o da associazioni apprese.
E allora, in pratica, la mossa è semplice. Non fermarsi a una risposta sola, guardata una volta: conviene confrontare più domande, più modelli, più contesti. E non basta segnare se il marchio è uscito o no: si annota anche con quali attributi e con quale impressione è uscito.
Monosemanticity non vuol dire che adesso si legga nella testa dell’IA. Ma arrendersi con un «tanto la risposta dell’IA è una scatola nera, non c’è niente da misurare» è arrendersi troppo presto, ora che perfino caratteristiche e circuiti sono finiti sul tavolo.
Fonti
- Bricken et al. (Anthropic, 2023), “Towards Monosemanticity: Decomposing Language Models With Dictionary Learning”, Transformer Circuits Thread
- Templeton et al. (Anthropic, 2024), “Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet”, Transformer Circuits Thread
- Lindsey et al. (Anthropic, 2025), “Circuit Tracing: Revealing Computational Graphs in Language Models”, Transformer Circuits Thread
