« Bon, je lui confie ça ou pas ? » : la vraie question quand on délègue un raisonnement à l’IA
Faire rédiger une note d’analyse ou une ébauche de plan d’action par une IA, c’est devenu un réflexe. Pour un résumé, on délègue sans trembler. Mais dès qu’il y a du raisonnement dans l’affaire, le doute revient, non ?
Hex-ko aussi se pose souvent la question : cette conclusion, c’est le fruit d’un vrai raisonnement, ou juste d’un texte joliment tourné ?
Sauf que cette intuition, jusqu’ici, on ne savait pas vraiment comment la vérifier. C’est précisément ce qu’ont attaqué les volets Part 2.1 et Part 2.2 de la série « Physics of Language Models ».
Tian Ye, Zeyuan Allen-Zhu et leurs collègues, chez Microsoft Research, ont suivi à la trace ce qui se passe dans le raisonnement d’un modèle pendant qu’il résout des problèmes de calcul.
Et le choix du calcul n’a rien d’anodin : la bonne réponse est unique, et chaque étape intermédiaire se vérifie facilement. Parfait pour ouvrir le capot.
Sur des problèmes de calcul, l’IA « calculait » bel et bien dans sa tête
Les chercheurs ont fabriqué des problèmes de mathématiques façon école primaire à partir de données synthétiques, c’est-à-dire des énoncés que l’examinateur construit lui-même et dont il maîtrise toutes les conditions. Moins de variables que dans une vraie phrase, donc une mesure plus directe de la capacité à raisonner.
C’est le même esprit que le « test impossible à tricher » abordé dans le premier article de la série. Et le verdict tombe : le modèle franchissait des étapes de raisonnement cachées, à l’intérieur, sans les afficher.
Concrètement, même sur une addition simple, il n’écrivait pas le détail du calcul en sortie, mais construisait quand même la trame de l’opération dans ses états internes. Autrement dit : un comportement qu’on a du mal à expliquer par du pur par-cœur.
Et c’est une réponse à la question qui nous taraude tous : « cette IA, elle ne fait pas que recracher du copier-coller, si ? » Au moins sur le terrain du calcul, on observe bien un traitement interne de type raisonnement.
« Apprendre uniquement les bonnes réponses » marchait moins bien que « se tromper et corriger »
Le Part 2.2 ajoute un résultat encore plus parlant : les données d’entraînement qui contiennent des erreurs font la différence. Montrer au modèle non pas seulement des solutions correctes, mais aussi des erreurs suivies de leur correction, a fait grimper la justesse de son raisonnement.
Et le plus frappant, c’est qu’à quantité de données égale, l’écart se creusait. Ce n’est donc pas le volume qui décide, mais la qualité de ce qu’on donne à apprendre.
Chez l’humain aussi, revenir sur ses erreurs fait progresser, non ? Voir une mécanique proche émerger chez une IA, c’est un signal précieux pour qui travaille avec ces outils au quotidien.
Une IA qui raisonne, ça ne veut pas dire « je gobe sa réponse les yeux fermés »
Le résultat est encourageant, mais il pose aussi une limite très nette. Même quand un raisonnement interne existe, il n’apparaît pas toujours en entier dans la réponse affichée.
Du coup, prendre une « réponse qui a l’air juste » et la verser telle quelle dans une décision, c’est risqué. C’est là qu’entre en jeu un , autrement dit la petite routine qu’on s’impose avant d’envoyer une sortie d’IA en production.
La conclusion : pour les tâches de raisonnement, fixez d’avance le périmètre confié ET la vérification
Ce que montre cette recherche, c’est qu’une IA peut très bien exécuter quelque chose qui ressemble à du raisonnement sans pour autant mériter qu’on lui confie une décision importante les yeux fermés. Sur les tâches qui touchent aux chiffres, aux comparaisons ou aux conditions, le cheminement peut sembler correct alors que seul le résultat final dérape.
Le geste sûr, alors, c’est de décider à l’avance, et ensemble, deux choses : jusqu’où on délègue, et comment on vérifie. Toute réponse chiffrée, on la recalcule ; toute réponse qui demande des preuves, on la confronte à ses sources ; et pour évaluer un modèle, on ne regarde pas que le taux de bonnes réponses, mais aussi sa capacité à se reprendre après une erreur. Mettre ça dans le quotidien, c’est déjà passer du « il a l’air malin, on adopte » à un choix qui tient debout.
Bref, retenez surtout ceci : un raisonnement qui semble juste n’est pas un raisonnement vérifié.
Sources
- Tian Ye, Zicheng Xu, Yuanzhi Li, Zeyuan Allen-Zhu, « Physics of Language Models: Part 2.1, Grade-School Math and the Hidden Reasoning Process », arXiv:2407.20311, 2024. lien vers l’article
- Tian Ye, Zicheng Xu, Yuanzhi Li, Zeyuan Allen-Zhu, « Physics of Language Models: Part 2.2, How to Learn From Mistakes on Grade-School Math Problems », arXiv:2408.16293, 2024. lien vers l’article
- Physics of Language Models — site officiel de la série, physics.allen-zhu.com
Articles liés
- « L’IA comprend-elle vraiment ? » : on a ouvert le capot pour voir — comprendre les mécanismes internes
