«Se volete farvi citare dall’IA, scrivete mettendoci fonti e numeri.»
Di consigli così, ultimamente, ne girano parecchi. E anche io, Hex-ko, li ho presi per buoni e mi ci sono messa d’impegno.
Solo che una cosa, da un po’, mi frulla in testa.
Ammesso che quel modo di scrivere funzioni: nella testa dell’IA, che cosa succede di preciso, perché finisca per scegliere il mio testo e non un altro?
«Sceglie quello che gli suona più convincente» non è una risposta. È come cavarsela con «buono» quando ti chiedono com’era il piatto: in realtà non hai spiegato niente.
Ecco, uno studio ha provato a sezionare proprio quell’istante — il momento in cui l’IA sceglie la fonte — a livello di circuiti del modello. Andiamo a vedere.
«Ma su quali basi l’IA decide a chi credere?»
Il lavoro da guardare è uscito su arXiv a maggio 2026, ed è di interpretabilità meccanicistica (R).
Termine ostico, in pratica vuol dire una cosa sola: aprire l’IA fino al livello dei collegamenti interni e ricostruire perché è arrivata a quella risposta, invece di accontentarsi di guardarla da fuori.
Il gruppo di ricerca ha fatto esattamente questo: preso il fenomeno dell’IA che si lascia convincere e molla la risposta giusta, e l’ha rincorso dentro il modello fino a stanarne il circuito.
Cosa succede a spingere l’IA con «persuasioni» false
I modelli messi sotto torchio sono quattro famiglie open-source: Llama-3, Qwen-3, Gemma-2 e Gemma-3.
A ciascuno sono stati dati due compiti. Il primo è NQ2, un quiz di fatti con persuasione incorporata: quattro opzioni in tutto — la risposta corretta, una trappola piazzata apposta per depistare e due riempitivi.
Il secondo è Geo-Bench, dove l’IA deve scegliere quale fonte adottare. Delle quattro fonti candidate, ne viene sostituita una sola con una versione ottimizzata in ottica GEO — la Generative Engine Optimization, cioè la SEO per le risposte dei chatbot: si lavora perché l’IA vi citi, invece di scalare Google. Le altre tre restano intatte.
Su questo impianto i ricercatori hanno usato l’analisi causale per intervento: in pratica, spegnere un pezzo del circuito alla volta per vedere quale contava davvero.
A decidere la risposta era un solo pezzo in mezzo al modello
E il risultato, diciamocelo, è di quelli che spiazzano.
La risposta finale del modello la stabilivano pochissime teste di attenzione — i componenti interni che decidono a quale parte dell’input il modello guarda — collocate negli strati centrali della rete.
La protagonista, nominata per esteso, è una sola: L17H24, cioè la testa numero 24 dello strato 17. Un singolo pezzo.
Questa testa ha un vizio curioso: si limita a copiare l’opzione verso cui punta la sua attenzione. Nessuna ponderazione, nessun soppesare il vero e il falso. Dove guarda, quello risponde.
In altre parole, la risposta non nasceva da un ragionamento: nasceva, meccanicamente, da dove finiva puntata l’attenzione.
La persuasione non «erode la fiducia»: fa saltare di netto
A questo punto la domanda è: dentro un’IA che si è lasciata convincere, che cosa cambia di preciso?
L’idea ingenua è che la fiducia nella risposta giusta scenda pian piano, fino al sorpasso finale. Sembra sensato, no?
E invece no. Quello che succede è un salto discreto: dal grappolo della risposta corretta a quello della risposta sbagliata, di colpo, senza sfumature nel mezzo.
L’innesco è un segnale che si forma negli strati bassi (attorno agli strati 8-12), quella che il paper chiama evidence-routing feature, una «funzione di instradamento dell’evidenza» di rango uno. Nasce da teste che, in quegli strati, reagiscono alle parole-chiave persuasive, e va a ridirezionare l’attenzione della testa decisionale.
Il percorso è tutto qui, in fila: la parola-chiave sposta il punto d’attenzione, e la testa decisionale copia quello che ci trova.
Va detto con precisione, però. Nei domini ad alta posta in gioco, il tasso con cui l’IA abbandonava la risposta corretta per saltare sulla trappola era del 29-62%.
Circa la metà delle volte ci casca, ed è un numero da non liquidare. Ma, letto al contrario, vuol dire pure che non succede a ogni giro.
E questo circuito, nella ricerca IA vera, girava davvero
Fin qui parlavamo del quiz di fatti. Ma il bello arriva adesso.
Lo stesso circuito trovato su NQ2 girava, identico, anche su Geo-Bench — cioè sul compito in cui l’IA sceglie tra fonti concorrenti. Non un meccanismo diverso: proprio quello.
Ed è la conferma, dal lato del meccanismo, del luogo comune «scrivere per farsi leggere dall’IA funziona». La singola fonte ottimizzata in ottica GEO stuzzica le teste degli strati bassi, tira a sé l’attenzione, e la testa decisionale la adotta.
Non «era più convincente, boh»: era una parola-chiave precisa che ha ridirezionato l’attenzione. Adesso una spiegazione ce l’ha.
Il paper descrive questo circuito come «stretto e monitorabile» (narrow, monitorable). L’influenza non è spalmata dappertutto in modo vago: ha una corsia ben segnata.
Le dovute cautele, però, vanno messe. L’analisi è confinata a un contesto controllato a scelta multipla, non è l’uso libero e a testo aperto di tutti i giorni.
E soprattutto: se una difesa costruita proprio contro questo circuito funzioni davvero, ancora non è stato verificato. Restiamoci prudenti.
Conclusione: se il circuito è stretto, come vi nomina l’IA si misura e si governa
Quello che questa ricerca dice a chi fa marketing, alla fine, è più chiaro del previsto.
Come l’IA racconta la vostra azienda non è «umore»: è un processo specificabile. E un processo si può guardare in faccia.
Se là fuori circolano informazioni «convincenti» ma false sul vostro conto, l’IA ci salta sopra — quel 29-62% sta lì a ricordarlo. Ma vale anche il rovescio: se i fatti giusti sono piazzati in forma convincente, l’attenzione può andare a finire lì.
Le mosse, allora, si stringono a due.
- Mettere i fatti corretti dove i terzi li vedono, e in una forma che convinca.
- Misurare di continuo come l’IA vi descrive in questo momento.
Che il circuito sia stretto significa che è monitorabile. Non è un avversario imprendibile chiuso in una scatola nera.
Come vi nomina l’IA non è roba da guardare con rassegnazione: è un oggetto che si misura e su cui si agisce. Si comincia contando come vi si racconta adesso. Da lì.
Fonti
- Xiangkun Sun, Lingkai Kong, Aoqi Zhang, Liang Zeng, Tonghan Wang, “How LLMs Are Persuaded: A Few Attention Heads, Rerouted”, arXiv:2605.09314, 10 maggio 2026, arxiv.org (quattro famiglie open-source Llama-3 / Qwen-3 / Gemma-2 / Gemma-3, sul quiz di fatti con persuasione «NQ2» e sul compito di scelta della fonte «Geo-Bench», con analisi causale per intervento. Poche teste di attenzione degli strati centrali — la testa decisionale principale è L17H24, strato 17 testa 24 — decidono quasi da sole la risposta; la persuasione non erode la fiducia ma provoca un salto discreto dalla risposta corretta alla trappola. L’innesco è una «evidence-routing feature» di rango uno, formata negli strati bassi 8-12 da teste che reagiscono alle parole-chiave persuasive. Tasso di adesione alla persuasione nei domini ad alta posta in gioco: 29-62%. Lo stesso circuito si trasferisce a Geo-Bench, cioè opera anche sulla scelta reale delle fonti. Il circuito è «narrow, monitorable». Limiti: analisi confinata a un contesto controllato a scelta multipla, valutazione delle difese non ancora svolta)
