On pose une question à une IA, et il en sort une réponse qui a l’air correcte. Très bien.
Mais essayez d’expliquer pourquoi c’est cette réponse-là qui est sortie. Là, d’un coup, tout devient flou, non ?
Ce flou, on l’appelle « la boîte noire », et en général on s’arrête là.
Hex-ko aussi avait classé l’affaire dans le tiroir « de toute façon, on ne saura jamais ». Sauf que la boîte, cela fait quelques années qu’on l’ouvre petit à petit.
Anthropic publie depuis 2023 une série de travaux qui font exactement ça. On va voir aujourd’hui jusqu’où ils sont allés, et ce que ça change pour vous.
« Jusqu’où voit-on vraiment l’intérieur d’une IA ? »
L’exemple de référence, c’est la série Monosemanticity d’Anthropic.
Le mot est imposant, l’idée est simple : une chose, un sens. Il s’agit d’isoler, dans le modèle, des pièces qui correspondent à un seul concept, et pas à une bouillie de concepts mélangés.
Et ce qui rend ce travail intéressant, ce ne sont pas les jolies visualisations.
C’est qu’une fois la caractéristique interne repérée, si on la pousse, la sortie du modèle bouge. Autrement dit, ce ne sont pas des étiquettes collées après coup : on s’approche de vrais boutons.
Au départ, 4 096 « unités de sens »
Le point de départ, c’est Towards Monosemanticity, publié par Anthropic en 2023.
À partir d’un transformeur à une seule couche de 512 neurones, l’équipe a extrait 4 096 caractéristiques interprétables grâce à un sparse autoencoder, un dispositif qui décompose un état interne enchevêtré en quelques briques qui, elles, ont un sens.
Et qu’est-ce qu’on y trouve ? Des catégories étonnamment nettes : séquences d’ADN, langage juridique, requêtes HTTP, texte en hébreu, étiquettes nutritionnelles.
Avec des exemples aussi concrets, la sensation de « regarder à l’intérieur » monte d’un cran.
Le point important, c’est le changement d’unité d’analyse : non plus le neurone isolé, mais la combinaison de caractéristiques. On abandonne le « une ampoule, un sens » pour extraire les composantes de sens d’un signal brouillé.
Avec Claude 3 Sonnet, on passe à 34 millions
D’accord, mais ce premier travail portait sur un modèle minuscule. Est-ce que ça tient à l’échelle des modèles que vous utilisez tous les jours ?
C’est justement l’objet de Scaling Monosemanticity, publié en 2024 : environ 34 millions de caractéristiques extraites d’une couche intermédiaire de Claude 3 Sonnet. Soit à peu près 8 000 fois les 4 096 du début.
Et ces caractéristiques ne sont pas de simples étiquettes de mots. Celles qui sont rapportées vont du concret à l’abstrait : le pont du Golden Gate, Michael Jordan, le « comportement trompeur ».
Plus curieux encore : une même caractéristique se retrouvait d’une langue à l’autre, et jusque dans les images. Pas un mot anglais, donc, mais plutôt un même bloc conceptuel, vers lequel pointent des entrées de nature différente.
On tourne le bouton, et l’IA change de discours
L’expérience célèbre est celle-ci : amplifiez artificiellement la caractéristique « pont du Golden Gate », et la sortie du modèle penche vers le pont.
Ce n’est pas une métaphore. Ce n’est pas non plus un bouton que l’utilisateur pourrait tripoter dans le produit.
C’est une activation interne, modifiée exprès, avec un effet causal sur ce qui sort à l’autre bout.
Du coup, dire que « l’IA se contente d’enchaîner des mots qui sonnent bien » devient un peu court. À l’intérieur, des caractéristiques liées à des concepts — et à la sûreté — pourraient bien participer à la réponse.
Et Anthropic rapporte justement des caractéristiques liées à la sûreté : tromperie, complaisance, biais, contenus dangereux. C’est cette partie-là qui touche directement votre travail, si vous gérez une marque.
Les circuits montrent aussi les manies du modèle
En 2025, Circuit Tracing est allé au-delà des caractéristiques isolées pour suivre comment elles se relient jusqu’à la réponse.
Le sujet d’étude, c’était Claude 3.5 Haiku, et le calcul interne se représente sous forme d’attribution graph : une carte de qui a influencé quoi.
Les exemples valent le détour. En traduction, les représentations conceptuelles des couches intermédiaires étaient partagées entre les langues. Pour écrire un poème rimé, le modèle choisissait la rime avant d’écrire le vers. Et pour une addition, il faisait tourner en parallèle un chemin de calcul approché et un chemin de calcul précis.
Bref, on explique souvent la sortie d’une IA par « elle prédit le mot suivant, un par un ». Sauf qu’à l’intérieur, des préparatifs et des circuits nettement plus complexes semblent à l’œuvre.
C’est un peu l’émission de cuisine où l’animateur lâche « et on mélange » alors que dix étapes de préparation ont eu lieu hors champ. Normal qu’on n’y comprenne rien en regardant seulement le plat fini.
Conclusion : regardez les manies, pas seulement la formulation
Et concrètement, pour vous, marketeur ou responsable de marque ?
Soyons honnêtes : rien à utiliser demain matin. Aucune entreprise ne peut aujourd’hui inspecter « les caractéristiques internes concernant sa marque », et le travail d’Anthropic relève de la compréhension des modèles et de la sûreté, pas d’une fonction de mesure pour le public. L’évaluation de marque n’y est pas traitée directement.
Mais ça change le poids qu’on accorde à une réponse isolée. Sous la phrase que vous lisez peuvent se mêler des caractéristiques de personnes, de lieux, de dangerosité, de complaisance et de biais.
Alors quand une IA parle de votre marque avec une prudence bizarre, ou insiste lourdement sur les risques, ou penche toujours vers la même image dès qu’un concurrent entre dans le cadre, ce n’est peut-être pas un simple hasard de formulation. Ça pourrait venir de la représentation interne, ou d’associations apprises.
Et ça atterrit sur quelque chose de simple. Ne vous contentez pas d’un seul coup d’œil sur une seule réponse. Comparez plusieurs questions, plusieurs modèles, plusieurs contextes.
Et notez plus que « la marque est sortie ou pas » : notez à quels attributs et à quelle impression elle est associée.
La série Monosemanticity ne veut pas dire qu’on lit désormais dans la tête des modèles. Mais renoncer en se disant « la réponse d’une IA est une boîte noire, il n’y a rien à mesurer », c’est renoncer un peu vite, maintenant que les caractéristiques et les circuits sont eux-mêmes devenus des objets d’étude.
Sources
- Bricken et al. (Anthropic, 2023), « Towards Monosemanticity: Decomposing Language Models With Dictionary Learning », Transformer Circuits Thread
- Templeton et al. (Anthropic, 2024), « Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet », Transformer Circuits Thread
- Lindsey et al. (Anthropic, 2025), « Circuit Tracing: Revealing Computational Graphs in Language Models », Transformer Circuits Thread
