« Elle comprend quelque chose, ou elle devine juste la suite ? »
En réunion, il y a toujours quelqu’un pour lâcher la phrase, avec un demi-sourire : « l’IA ne fait que prédire le mot suivant ».
Et on comprend qu’elle circule autant.
Vous utilisez ChatGPT toute la journée, le texte sort propre, il attrape même ce que vous vouliez dire — puis on vous explique qu’au fond, c’est de l’autocomplétion avec un gros moteur.
Hex-ko a fait l’aller-retour entre les deux impressions pendant des mois. « Ça marche étonnamment bien » d’un côté, « alors ça casse où ? » de l’autre.
Sauf que les neurosciences regardent depuis un moment quelle part de prédiction il y a dans votre façon de traiter le langage. Et la réponse n’est pas « aucune ».
On va donc regarder ce qu’elles trouvent. Et surtout où la ressemblance s’arrête.
Les modèles qui devinent le mieux la suite prédisent aussi le mieux le cerveau
Le travail qui a lancé le sujet vient de Schrimpf et ses collègues du MIT, publié dans PNAS (l’étude).
L’équipe a pris des dizaines de modèles de langage à réseaux de neurones et les a confrontés à trois jeux de données neuronales — des enregistrements de cerveaux humains en train de traiter du langage — plus un jeu de données comportementales.
La question était directe : quel modèle d’IA prédit le mieux ce qu’un cerveau humain fait d’une phrase ?
Et qu’est-ce que ça donne ?
Plus un modèle était bon pour prédire le mot suivant, mieux il prédisait aussi l’activité cérébrale. Le meilleur s’est même approché du plafond de bruit, c’est-à-dire du point où l’erreur qui reste relève de la mesure et non d’un défaut du modèle.
La prédiction du mot suivant, ça porte bien son nom : à partir de tout ce qui précède, deviner le mot d’après. Autrement dit, c’est l’objectif sur lequel on entraîne un LLM (grand modèle de langage, la mécanique sous ChatGPT).
Si les humains anticipent eux aussi la suite d’une phrase en lisant, un recouvrement entre les maths du modèle et notre traitement du langage n’a rien de choquant. C’est même assez attendu.
C’est là qu’on a envie de conclure que la machine comprend comme nous. Gardez l’idée de côté deux minutes.
Votre cerveau est déjà en avance sur la phrase
Tout ça reste mesuré sur des textes et des tâches très cadrés. Et dans une situation plus naturelle, quand on se contente d’écouter, comme un client qui suit d’une oreille distraite une pub dans un podcast ?
C’est le dispositif monté par Kölbl et ses collègues, publié dans Scientific Reports (l’étude). 29 participants ont écouté un livre audio en allemand pendant que leur activité cérébrale était enregistrée par deux voies en même temps : l’EEG (l’activité électrique captée au niveau du cuir chevelu) et la MEG (les champs magnétiques très faibles émis par le cerveau).
L’équipe a ensuite comparé ces motifs cérébraux aux scores de prédictibilité de BERT sur quatre catégories : noms, verbes, adjectifs, noms propres. BERT est un modèle de langage antérieur à ChatGPT, plus léger, qui reste une référence pour ce type d’analyse.
Deux résultats sortent du lot :
- Sur les noms, une pré-activation significative apparaît avant même le début du mot.
- Plus BERT jugeait un nom prédictible, plus l’amplitude de la N400 baissait — cette réponse cérébrale qui enfle quand un mot cadre mal avec ce qui précède.
Autrement dit : même en écoute naturelle, votre cerveau court devant celui qui parle. La prédiction n’est pas le petit truc que l’IA fait à la place de comprendre. Elle ressemble à une pièce centrale de notre propre traitement du langage.
Franchement fascinant. Et c’est exactement là qu’il faut freiner avant d’en tirer une conclusion métier.
Là où la ressemblance s’arrête
Parce que si la prédiction expliquait tout, un seul chiffre issu du modèle devrait rendre compte des données cérébrales. Ce n’est pas le cas.
Krieger et ses collègues ont pris le problème de front dans Brain Research (l’étude). Leur objet, c’est la surprisal : la mesure de ce qu’un mot a d’inattendu pour le modèle. Faible quand le modèle voit le mot venir, élevée quand il tombe des nues.
Le résultat : la surprisal des LLM n’a expliqué de façon constante ni la N400 ni la P600, une réponse cérébrale plus tardive liée au fait de reprendre une phrase pour la réanalyser. Les petits modèles se laissaient tirer par la simple association de mots. Et les gros ne captaient toujours pas la plausibilité graduelle ni la connaissance des événements.
La connaissance des événements, c’est le bon sens du quotidien : un client peut renvoyer une veste, ne va pas la manger, et ne lui demandera certainement pas son avis.
Voilà le trou. Un modèle peut écrire « ce qui compte le plus pour nos clients, c’est le délai de livraison » dans un français impeccable, sans avoir jamais croisé un seul de vos clients. La fluidité est une propriété du texte. Le fondement, lui, dépend de l’origine de l’affirmation.
Il se pourrait que tout cela généralise moins bien qu’il n’y paraît : trois études, une poignée de mesures cérébrales. Mais la direction est cohérente, et elle colle à ce que soupçonne déjà quiconque a vérifié un résumé d’IA ligne à ligne.
Conclusion : juger une réponse d’IA sur sa source, pas sur son aisance
La version utilisable de tout ça est un peu vexante : fluide et sourcé sont deux choses différentes, et on est très mauvais pour les séparer. En partie parce que notre propre lecture tourne, elle aussi, à la prédiction.
Une seule chose à changer cette semaine. Quand un résumé d’IA parle de votre marché ou de vos clients, lisez-le à côté d’une source primaire : verbatims d’entretiens, tickets de support, avis, données d’achat. Le modèle résume, regroupe, propose des hypothèses. La décision, elle, se tranche sur la donnée réelle.
Et le corollaire que presque personne n’applique : ce que l’IA dit de votre marque est un signal qui se mesure, pas un verdict sur votre catégorie. Son récit de qui domine votre catégorie reste une supposition fluide, bricolée à partir de ce qu’elle a lu. C’est précisément pour ça qu’il vaut la peine d’être suivi : c’est souvent la première chose que votre acheteur voit de vous, et ça bouge.
Et si vous voulez voir ce qui se passe à l’intérieur du modèle pendant qu’il fabrique cette supposition, « L’IA comprend-elle vraiment ? » : on a ouvert le capot pour voir reprend le fil par le dedans.
Sources
- Schrimpf, M. et al., « The neural architecture of language: Integrative modeling converges on predictive processing », PNAS, 2021, pnas.org
- Kölbl, M. et al., « Prediction, syntax and semantic grounding in the brain and large language models », Scientific Reports, 2026, nature.com
- Krieger, K. et al., « On the limits of LLM surprisal as a functional explanation of the N400 and P600 », Brain Research, 2025, sciencedirect.com
