« Si vous voulez être cité par l’IA, écrivez avec des sources et des chiffres. » Ce conseil, on le croise un peu partout en ce moment, non ?
Hex-ko l’a pris au mot, et elle applique la recette bien sagement.
Mais il y a un truc qui la titille depuis un moment.
Admettons que ça marche : dans la tête de l’IA, qu’est-ce qui se passe au juste pour que ce soit votre texte qui ressorte plutôt qu’un autre ?
Répondre « elle choisit celui qui a l’air le plus convaincant », franchement, ça n’explique rien du tout.
Se contenter d’un « ça a l’air convaincant », c’est comme résumer un plat d’un seul « c’est bon » : au fond, on n’a rien dit.
Une étude a justement disséqué ce moment précis — « l’IA choisit sa source » — au niveau des circuits du modèle. On creuse ça aujourd’hui.
« Quand l’IA choisit une source, qu’est-ce qui décide au juste ? »
Ce qu’on regarde, c’est une étude d’interprétabilité mécaniste publiée sur arXiv en mai 2026 (R).
L’interprétabilité mécaniste, c’est la discipline qui ouvre l’IA jusqu’au niveau du câblage pour retracer « pourquoi cette réponse plutôt qu’une autre ». Autrement dit : on ne regarde pas ce que le modèle dit, mais le circuit qui l’a produit.
Ce que l’équipe a cherché à faire, c’est localiser dans les entrailles du modèle le moment où l’IA, persuadée, lâche la bonne réponse.
On a soumis quatre IA à une « fausse persuasion »
Les modèles testés sont quatre familles open source : Llama-3, Qwen-3, Gemma-2 et Gemma-3.
On leur a soumis deux épreuves. La première s’appelle NQ2, un quiz factuel enrichi d’une tentative de persuasion.
Quatre options à chaque fois : la bonne réponse, une cible trompeuse plantée là exprès, et deux leurres. Le jeu consiste à voir si l’IA bascule vers le piège.
La seconde épreuve, c’est Geo-Bench, une tâche où l’IA doit choisir quelle source retenir.
Sur quatre sources candidates, une seule est remplacée par une version optimisée GEO — le GEO (Generative Engine Optimization), c’est l’art de façonner un contenu pour qu’une IA générative le cite et le reprenne. Les trois autres restent inchangées.
Là-dessus, les chercheurs ont mené une analyse causale par intervention : on désactive les composants du circuit un par un, et on regarde ce qui change dans la réponse.
Au bout du fil : une seule tête au milieu du modèle
Et le résultat a de quoi surprendre.
La réponse finale du modèle était décidée, pour l’essentiel, par un tout petit nombre de têtes d’attention situées dans les couches du milieu. Une tête d’attention, c’est l’un des composants internes de l’IA, celui qui gère « à quelle partie du texte je fais attention ».
La vedette désignée par les auteurs, c’est un seul composant : la tête 24 de la couche 17, surnommée L17H24.
Cette tête a une propriété assez cocasse : elle se contente de recopier comme réponse l’option vers laquelle son attention est tournée. Rien de plus.
Autrement dit, elle ne soupèse pas le vrai du faux. La réponse se décide mécaniquement selon la direction que prend l’attention.
La persuasion ne grignote pas la confiance, elle fait sauter d’un bloc
Reste à savoir ce qui change, à l’intérieur, quand l’IA se laisse convaincre.
Spontanément, on imagine la confiance dans la bonne réponse qui s’effrite peu à peu, avant de basculer au dernier moment.
Sauf que non : ce que l’étude observe, c’est un saut discret, brutal, de la « colline » de la bonne réponse vers celle de la mauvaise. Pas d’érosion progressive, un basculement d’un bloc.
Le déclencheur ? Un signal fabriqué dans les couches peu profondes — autour des couches 8 à 12 — que les auteurs appellent une « caractéristique de routage des preuves ».
Ce signal naît de têtes des couches peu profondes qui réagissent aux mots-clés persuasifs, et il réoriente l’attention de la fameuse tête de décision.
En clair : un mot-clé rebranche le point d’attention, et la tête de décision recopie ce qui se trouve au bout. Un couloir bien droit.
Posons le chiffre avec précision, parce qu’il compte. Dans les domaines à fort enjeu, le taux auquel l’IA a abandonné la bonne réponse pour se rabattre sur la cible plantée montait à 29-62 %.
Près d’une fois sur deux, dans le haut de la fourchette : impossible de balayer ça d’un revers de main. Mais l’envers du décor, c’est que ce n’est pas systématique non plus.
Le même circuit tourne dans une vraie sélection de sources
Jusqu’ici, on parlait d’un quiz. Mais voilà où ça devient intéressant.
Le circuit repéré sur NQ2 fonctionnait tel quel sur Geo-Bench, la tâche de sélection de sources. Le même petit groupe de têtes, à l’œuvre dans les deux cas.
Voilà qui donne un fondement mécaniste au vieil adage « écrire pour être lu par l’IA, ça marche ». La source optimisée GEO stimule les têtes des couches peu profondes, attire l’attention, et la tête de décision l’adopte.
Ce n’est donc pas « elle avait l’air convaincante », mais bien « un mot-clé précis a rebranché l’attention ». L’explication tient enfin debout.
L’article qualifie ce circuit d’« étroit et surveillable » (narrow, monitorable). L’influence ne se disperse pas en une nappe large et diffuse : le chemin de passage est net.
Cela dit, gardons les réserves à leur place. Cette analyse se limite à un cadre contrôlé de questions à choix multiples, pas à l’usage réel en texte libre.
Et surtout, on ne sait pas encore si une défense visant ce circuit fonctionne vraiment : cette évaluation-là n’a pas été menée.
Conclusion : un circuit étroit, donc une réputation qu’on peut mesurer et travailler
Au fond, ce que cette étude apprend à un marketeur est plus net qu’on ne le croirait.
La manière dont l’IA parle de votre marque n’est pas une « humeur » : c’est un traitement identifiable.
Si des informations « convaincantes » mais fausses sur vous traînent quelque part, l’IA peut y sauter — les 29-62 % le rappellent. À l’inverse, si les bons faits sont posés de façon convaincante, l’attention a de quoi s’y diriger.
Deux leviers, donc, et pas trois. D’abord, placer les faits exacts sous une forme convaincante, là où des tiers les verront. Ensuite, mesurer en continu la façon dont l’IA vous décrit aujourd’hui.
Un circuit étroit, ça veut dire un circuit surveillable. Pas un adversaire insaisissable enfermé dans une boîte noire.
La façon dont l’IA parle de vous ne se subit pas les bras croisés : elle se mesure, et on peut agir dessus. Commencez par compter comment on vous décrit en ce moment.
Sources
- Xiangkun Sun, Lingkai Kong, Aoqi Zhang, Liang Zeng, Tonghan Wang, « How LLMs Are Persuaded: A Few Attention Heads, Rerouted », arXiv:2605.09314, 10 mai 2026, arxiv.org (interprétabilité mécaniste sur quatre familles open source — Llama-3 / Qwen-3 / Gemma-2 / Gemma-3 — avec un quiz factuel persuasif « NQ2 » et une tâche de sélection de sources « Geo-Bench », par analyse causale d’intervention. Un petit nombre de têtes d’attention des couches du milieu décide l’essentiel de la réponse ; la tête de décision principale est L17H24, soit la couche 17, tête 24. La persuasion n’est pas une érosion de la confiance mais un saut discret de la bonne réponse vers la cible plantée. Le déclencheur est une « caractéristique de routage des preuves » de rang un, formée dans les couches peu profondes 8 à 12 par des têtes réagissant aux mots-clés persuasifs. Taux d’adoption de la persuasion dans les domaines à fort enjeu : 29-62 %. Le même circuit se transfère à Geo-Bench, donc à une vraie sélection de sources. Circuit qualifié de « narrow, monitorable ». Limites : cadre contrôlé de choix multiples uniquement, efficacité d’une défense visant ce circuit non encore évaluée)
