On est nombreux à avoir tapé le nom de sa boîte dans ChatGPT, juste pour voir ce qui sort.
Sur un secteur, le nom apparaît sans problème. Sur le secteur d’à côté, plus personne.
Hex-ko a vu ce phénomène tellement de fois qu’elle a arrêté de s’en étonner. Une question, vous êtes une référence ; la question suivante, vous n’existez plus.
Sauf que ça laisse une interrogation qui ne part pas : comment un modèle décide-t-il, au juste, que vous êtes « une boîte de ce type-là » ? Parce que s’il y a une structure derrière, on peut travailler dessus. Si c’est de l’aléatoire, on ne peut rien faire. Autant dire que ce n’est pas un détail.
Et justement, une équipe est allée ouvrir le modèle pour répondre à cette question précise. Allons voir ce qu’elle y a trouvé.
« Une boîte de logiciels », l’IA range ça où ?
Le travail dont on parle a été publié sur arXiv en avril 2026 (R).
Le sujet, c’est le , qu’on peut traduire par « liaison ». C’est-à-dire le mécanisme qui noue deux informations séparées en un seul bloc : « Machin SA » et « éditeur de logiciels » tenus ensemble, et pas comme deux mots qui flottent. Sans ça, rien ne tient : on ne suit ni une conversation ni un paragraphe si on ne sait plus qui a fait quoi.
Les modèles savent déjà très bien raisonner sur des relations. En revanche, personne ne savait dire comment, à l’intérieur, ces liaisons étaient fabriquées.
L’équipe s’y est attaquée avec les outils de : autrement dit, on démonte le modèle pièce par pièce pour identifier ce qui a produit la réponse. Et concrètement, pour vous : un mécanisme qu’on sait nommer est un mécanisme qu’on finira par savoir mesurer.
Le dispositif expérimental, en gros :
– deux familles de modèles ouverts – un jeu de données contrôlé, avec des entités (personnes, organisations) et des relations annotées – la question posée : peut-on lire « quelle entité, quelle relation » à partir des seuls signaux internes ?
Ce qu’on a trouvé : un mur de casiers
Et le résultat, c’est du rangement, beaucoup plus soigné que ce qu’on imaginait. L’équipe l’appelle Cell-based Binding Representation, soit une « représentation par cases » : un petit sous-espace, une case, pour chaque couple entité-relation.
Imaginez un mur de casiers. « Machin SA, relation n° 1 » a son casier ; « Machin SA, relation n° 2 » a celui d’à côté. L’attribut est rangé dedans, et quand le modèle répond, il va ouvrir cette porte-là.
Le plus curieux, c’est la géométrie. En projetant les signaux internes sur le bon plan, les cases s’alignent en quadrillage. Du papier millimétré dans la tête de l’IA, en somme.
Savoir dans quelle case on se trouve se lit par un simple calcul linéaire, et cette lecture tient quand on change de domaine, et quand on change de famille de modèles. Ce n’est donc pas la lubie d’un modèle isolé.
Changez le contexte, et les cases ne partent pas dans tous les sens : elles se décalent en bloc, reliées par une même translation. Les adresses bougent ensemble, et ce qui a été appris dans un contexte se transporte dans un autre. Bref, ce n’est pas du par-cœur bricolé : ça ressemble plutôt à un système d’adressage réutilisable.
On touche à la case, et la réponse du modèle change
C’est là que le lecteur méfiant lève la main, et il a raison : un joli motif, ça ne prouve rien. Trouver un quadrillage ne dit pas que le modèle s’en sert.
Une belle régularité, ça peut très bien n’être que du papier peint.
L’équipe a donc sorti l’ : on remplace une partie du signal interne pendant que le modèle tourne, et on regarde si la réponse bouge. C’est toute la différence entre « ces deux choses vont ensemble » et « celle-ci cause celle-là ».
Deux résultats :
– en manipulant le sous-espace des cases, la prédiction du modèle sur « de quelle relation on parle » change de façon systématique – en détruisant ce sous-espace, sa capacité à répondre aux questions relationnelles chute
Le quadrillage n’est donc pas décoratif : il porte le mur. « Machin SA = éditeur de logiciels » ne sortait pas d’une impression vague, mais d’un tiroir précis.
Jusqu’où a-t-on le droit de généraliser ?
Deux réserves à garder en tête, parce qu’on préfère que vous nous croyiez la prochaine fois aussi.
C’est une analyse menée sur un jeu de données contrôlé et annoté, avec deux familles de modèles. Ça ne raconte pas tout du comportement d’un système grand public comme ChatGPT, et les auteurs ne le prétendent pas.
Ensuite, comprendre comment la liaison se fabrique et savoir la viser sont deux métiers différents. « Écrivez comme ça et vous entrerez dans la case » : personne n’a encore validé cette promesse-là. Ça pourrait venir, mais pour l’instant le chantier est ouvert.
Il n’empêche : « la mémoire du modèle a une structure », ce n’est pas rien. Une structure, ça s’observe, et en principe ça se travaille. Le hasard, non.
Conclusion : rendre sa catégorie facile à nouer, puis la mesurer
Reprenons tout ça côté marketing. Qu’une IA vous cite comme « une des boîtes de ce secteur » dépend de l’existence, à l’intérieur, de la liaison entre votre marque et cet attribut. Si elle ne s’est jamais formée, votre nom ne sort pas — et c’est un problème de structure, pas d’humeur.
Donc la réponse est structurelle elle aussi. Deux gestes, et on s’arrête volontairement à deux. D’abord, faire de « nous sommes dans cette catégorie » un fait constant, répétitif, presque ennuyeux : sur votre propre site, et dans ce que les tiers écrivent sur vous. Mêmes mots, même catégorie, zéro variation créative. L’objectif est d’être facile à nouer.
Ensuite, mesurer dans quelles catégories les modèles vous placent aujourd’hui. Si vous êtes absent de celle qui compte, c’est le signal que la liaison est faible — pas que l’IA fait des caprices.
Poser les faits, laisser le renouage se faire, remesurer. Cet aller-retour a l’air lent, et c’est pourtant le chemin le plus court qu’on connaisse. L’intérieur du modèle est finalement bien mieux rangé que son comportement ne le laisse croire : reste à savoir ce qu’il y a, en ce moment, dans votre casier.
Sources
- Qin Dai, Benjamin Heinzerling, Kentaro Inui, « Cell-Based Representation of Relational Binding in Language Models », arXiv:2604.19052, 21 avril 2026, arxiv.org (analyse d’interprétabilité mécaniste de la façon dont les grands modèles de langage (LLM) lient entités, relations et attributs. Mise en évidence d’une Cell-based Binding Representation : un sous-espace linéaire de faible dimension — une « case » — par couple entité × indice de relation. L’indice se décode linéairement par régression PLS, la propriété tient à travers les domaines et les familles de modèles, et forme un motif géométrique en quadrillage dans l’espace d’activations projeté. Les représentations propres à un contexte sont reliées par des vecteurs de translation, ce qui permet le transfert entre contextes. Les interventions par activation patching sur ce sous-espace modifient systématiquement la prédiction de relation, et sa destruction dégrade la performance : le sous-espace joue donc un rôle causal. Périmètre : deux familles de modèles et un jeu de données contrôlé annoté en entités et relations. Limite : analyse en cadre contrôlé, qui n’explique pas entièrement le comportement des très grands modèles en production.)
