Sarà capitato a molti di voi di digitare il nome della propria azienda su ChatGPT, giusto per vedere che cosa ne esce.
In un settore il nome salta fuori senza problemi. In quello accanto, sparito.
Capita anche a me, e ormai non mi stupisco più: una domanda e siamo un punto di riferimento, la domanda dopo non ci conosce nessuno (una crisi d’identità in due prompt).
Solo che resta lì un dubbio che non se ne va. Come fa un modello a decidere che noi siamo «un’azienda di quel tipo»?
Perché se dietro c’è una struttura, ci si può lavorare. Se invece è tutto a casaccio, non c’è niente da fare. Diciamocelo, non è un dettaglio da poco.
E su questa domanda c’è chi è andato ad aprirlo per davvero, il modello. Andiamo a vedere che cosa ci ha trovato.
«Quelli lì fanno software»: l’IA dove se lo segna?
Il lavoro di cui si parla è uscito su arXiv nell’aprile 2026 (R).
Il tema è il , in italiano il legame: quel lavorio che tiene insieme due informazioni separate in un blocco solo. «Tal dei Tali S.p.A.» e «azienda di software» tenute insieme, non due parole che galleggiano.
Senza quel legame non si segue né una conversazione né un paragrafo: bisogna pur tenere traccia di chi ha fatto che cosa. A ragionare per relazioni i modelli se la cavano già benissimo, ma su come costruissero quei legami al proprio interno nessuno sapeva dire granché.
Il gruppo di ricerca si è messo al lavoro con gli strumenti dell’: in pratica vuol dire smontare il modello pezzo per pezzo e stabilire quale componente ha prodotto la risposta. Per chi gestisce un marchio la ricaduta è semplice: un meccanismo che si sa nominare, prima o poi si sa anche misurare. L’impianto sperimentale, in sintesi:
- due famiglie di modelli aperti
- un insieme di dati controllato, con entità (persone, organizzazioni) e relazioni annotate
- la domanda: dai soli segnali interni si riesce a leggere «quale entità, quale relazione»?
E che cosa è saltato fuori? Uno schedario
Uno schedario, appunto, molto più in ordine di quanto ci si aspettasse. Il gruppo lo chiama Cell-based Binding Representation, cioè una rappresentazione a caselle: un piccolo sottospazio, una casella, per ogni coppia entità-relazione.
L’immagine è quella di un muro di cassetti. «Tal dei Tali, relazione numero 1» ha il suo cassetto, «Tal dei Tali, relazione numero 2» quello di fianco. L’attributo sta lì dentro, e quando il modello risponde va ad aprire proprio quello sportello.
La parte curiosa è la geometria. Proiettando i segnali interni sul piano giusto, le caselle si allineano in un reticolo. Carta millimetrata dentro la testa dell’IA, praticamente! E di quale casella si tratti lo si legge con un semplice calcolo lineare, che ha retto cambiando ambito tematico e cambiando famiglia di modelli.
E se cambia il contesto? Le caselle non si sparpagliano mica: traslano in blocco, legate da un unico spostamento. Gli indirizzi si muovono insieme, e quel che è stato imparato in un contesto si porta in un altro.
Insomma, non è un mandare a memoria alla buona: somiglia piuttosto a un sistema di indirizzi riutilizzabile.
Si tocca una casella e la risposta cambia
Qui il lettore diffidente alza la mano, e fa benissimo: un bel disegno non dimostra nulla. Trovare un reticolo non dice ancora che il modello lo usi, perché una struttura ordinata può sempre essere un effetto collaterale.
Ed ecco che entra in scena l’: si sostituisce una porzione del segnale interno mentre il modello lavora, e si guarda se la risposta si sposta. È la differenza tra «queste due cose vanno insieme» e «questa causa quella». I risultati sono due:
- manipolando il sottospazio delle caselle, la previsione su «di quale relazione stiamo parlando» cambia in modo sistematico
- distruggendo quel sottospazio, la capacità di rispondere alle domande relazionali cala
Perbacco! Il reticolo non è un ornamento: è un muro portante.
«Tal dei Tali fa software» non usciva da una sensazione vaga. Usciva da un cassetto ben preciso.
Fin dove è lecito generalizzare?
Due cautele, e conviene tenersele strette.
Questa è un’analisi su un insieme di dati controllato e annotato, con due famiglie di modelli. Non racconta per intero il comportamento di un sistema di massa come ChatGPT, e gli autori non lo sostengono.
Poi, capire come si forma il legame e saperlo prendere di mira sono due mestieri diversi. «Scrivete così e finirete nella casella» è una promessa che nessuno ha ancora verificato: potrebbe arrivare, ma per ora il cantiere resta aperto.
Resta il punto: sapere che la memoria del modello ha una struttura non è poco. Una struttura si osserva e, in linea di principio, ci si può lavorare. Sul puro caso, invece, non c’è presa.
Conclusione: rendersi facili da legare, e poi misurare
Rimettiamoci nei panni di chi fa marketing. Che un’IA vi nomini come «una delle aziende del settore» dipende dall’esistenza, là dentro, del legame fra il marchio e quell’attributo. Se non si è mai formato, il nome non esce: è un problema di struttura, non di umore della macchina.
Quindi anche la risposta è strutturale, e ci si ferma di proposito a due mosse. La prima: fare di «siamo in questa categoria» un fatto costante, ripetuto, quasi noioso, sul sito ufficiale e in quello che gli altri scrivono. Stesse parole, stessa categoria, zero variazioni creative (la creatività, qui, la si tiene per altro): l’obiettivo è risultare facili da legare.
La seconda: misurare in quali categorie i modelli collocano il marchio adesso. Se il nome non compare proprio nella categoria che conta, è il segnale che il legame è debole, non che l’IA faccia i capricci.
Mettere giù i fatti, lasciare che il legame si riformi, tornare a misurare: questo andirivieni sembra lento ed è la strada più corta. Alla fine, aperto da dentro, il modello è messo molto meglio di come sembra da fuori — e vale la pena andare a vedere che cosa c’è, in questo momento, nel vostro cassetto.
Fonti
- Qin Dai, Benjamin Heinzerling, Kentaro Inui, «Cell-Based Representation of Relational Binding in Language Models», arXiv:2604.19052, 21 aprile 2026, arxiv.org (analisi di interpretabilità meccanicistica su come i LLM legano entità, relazioni e attributi. Individua una Cell-based Binding Representation: un sottospazio lineare a bassa dimensionalità — una «casella» — per ogni coppia entità × indice di relazione. L’indice è decodificabile linearmente con regressione PLS, la proprietà regge attraverso domini e famiglie di modelli e forma un motivo geometrico a reticolo nello spazio delle attivazioni proiettato. Le rappresentazioni specifiche di un contesto sono legate da vettori di traslazione, il che consente il trasferimento fra contesti. Gli interventi di activation patching sul sottospazio cambiano in modo sistematico la previsione della relazione, e la sua distruzione degrada le prestazioni: il sottospazio ha quindi un ruolo causale. Perimetro: due famiglie di modelli e un insieme di dati controllato annotato per entità e relazioni. Limite: analisi in contesto controllato, che non spiega per intero il comportamento dei modelli di grandi dimensioni in produzione.)
