« Cette réponse, elle vient d’une vraie compréhension, ou pas ? »
Dès qu’on se sert d’une IA au travail, cette question finit toujours par revenir. La réponse est fluide, bien tournée, mais derrière, est-ce qu’il y a vraiment quelque chose qui a compris ?
Et plus on lui confie de travail — une trame de présentation, une note d’analyse — plus la question gratte. Bizarrement, plus le résultat est bon, plus on se méfie de la simple « façade ».
Or ce doute n’est pas un caprice. Il décide jusqu’où on peut déléguer à une IA, donc il pèse directement sur le choix de l’outil.
Une série de travaux baptisée « Physics of Language Models », menée par Microsoft Research (Zeyuan Allen-Zhu et Yuanzhi Li), a justement pris ce doute au sérieux. Dans le précédent article, on a vu comment ils mesurent l’intelligence d’un modèle. Aujourd’hui, on regarde ce que leur analyse interne a fait remonter.
Suivre les « états internes », et la « charpente » de la phrase apparaît
Les chercheurs ont testé les modèles sur des données synthétiques à la structure parfaitement nette. Quand on fabrique soi-même les problèmes, on sait exactement ce qu’on mesure : impossible de confondre « le modèle a compris » avec « le modèle a déjà croisé ce cas ».
Ce qu’ils ont scruté, ce sont les états internes du modèle. C’est ce qu’on appelle la représentation de travail que la machine maintient pendant qu’elle lit une phrase. Autrement dit : son brouillon mental, le bloc-notes sur lequel elle griffonne au fur et à mesure.
Et qu’est-ce qu’on y trouve ? Sur des phrases imbriquées — du genre « le chat que le chien que la fille adore poursuit dort » — le modèle reconstruit en interne toute une hiérarchie de relations. Il ne traite pas une file de mots à plat : il manipule la charpente de la phrase, son plan de construction.
C’est déjà un premier indice sérieux. Le modèle ne se contente pas de deviner le mot suivant ; il se représente comment la phrase est bâtie.
L’attention ressemblait à une stratégie de calcul bien organisée
Reste la question : comment monte-t-il cette charpente ? Pour le savoir, les chercheurs ont suivi le cheminement de l’« attention », c’est-à-dire la façon dont le modèle décide, à chaque étape, quels mots regarder en priorité.
Et là, surprise : le tracé ressemblait beaucoup à de la , c’est-à-dire une stratégie qui découpe un gros problème en sous-problèmes et réutilise les résultats déjà calculés plutôt que de tout refaire à zéro.
Autrement dit, le modèle ne tape pas au hasard en espérant tomber juste. Il se fabrique un ordre des opérations, un enchaînement interne pour résoudre la phrase. Voilà qui se rapproche pour de bon de ce qu’on appelle « comprendre ».
Pourquoi deux IA au même score ne se valent pas forcément
Attention quand même : tous les modèles ne logent pas à la même enseigne. La conception de l’architecture pèse lourd sur la profondeur de cette compréhension structurelle.
Premier exemple, la manière de coder la position des mots. Avec une méthode dite — qui repère les mots par leur écart les uns aux autres, pas par leur place absolue — les modèles s’en sortaient nettement mieux sur la structure.
Deuxième exemple, la comparaison entre une architecture de type GPT (qui lit de gauche à droite) et une de type BERT (qui voit toute la phrase d’un coup). Dans certains cas, c’est la conception la plus contrainte qui révélait la compréhension la plus fine.
La leçon métier tient en une phrase : deux modèles affichés à égalité dans un tableau ne sont pas forcément à égalité dans la tête. Le score masque des différences de structure interne qui, elles, décident de la régularité sur votre travail.
Conclusion : regardez moins le score, plus les conditions et les échecs
Ce qui sert le plus, au fond, c’est ce constat : une sortie qui paraît fluide et un traitement interne stable, ce sont deux choses différentes. Une belle phrase rassure, mais elle ne dit rien de l’endroit où le modèle va craquer dès qu’on l’emmène sur du texte long, de la comparaison ou des conditions emboîtées.
Concrètement, pour départager des modèles candidats, ne gardez pas seulement le taux de bonnes réponses : notez aussi le type de questions qui ont échoué. C’est cette liste-là qui prédit la tenue en production, bien mieux qu’un chiffre global.
Et quand un fournisseur vous présente son outil, posez la question dans l’autre sens. Demandez ses conditions faibles et ses conditions de test, pas seulement ses cas de réussite. Puis, avant d’adopter quoi que ce soit, refaites le test sur vos propres tâches, avec votre vocabulaire métier : c’est le seul moyen de savoir si la « compréhension » observée en laboratoire tient chez vous.
Sources
- Zeyuan Allen-Zhu, Yuanzhi Li, « Physics of Language Models: Part 1, Learning Hierarchical Language Structures », ICML 2023, arXiv:2305.13673
- Physics of Language Models — site officiel de la série, physics.allen-zhu.com
