« ChatGPT ne peut pas juste dire qu’il ne sait pas ? »
Vous tapez le nom de votre entreprise dans ChatGPT, et il vous ressort un prix que vous n’avez jamais remporté, à côté d’un chiffre que personne dans la boîte ne reconnaît. Le tout sans l’ombre d’une hésitation.
Ça vous est déjà arrivé, non ?
Hex-ko aussi s’est fait avoir. En testant la société d’une connaissance, elle a eu droit à tout un historique d’entreprise qui n’a jamais existé. Il a fallu relire deux fois.
Mais le plus étrange n’est pas que l’IA se trompe. C’est ce qui manque juste à côté : un simple « je ne sais pas ». Un humain hausserait les épaules et lâcherait un « aucune idée, désolé ». Le modèle, lui, invente. Et il le fait très bien.
En septembre 2025, une équipe de recherche d’OpenAI a pris cette question au sérieux et publié un article dessus (l’étude). Allons voir ce qu’elle raconte.
L’hallucination, c’est une panne mystérieuse de l’IA ?
Commençons par le mot. Une , c’est quand une IA affirme quelque chose de faux, avec fluidité et une assurance totale.
La plupart du temps, on range ça dans la case « bug bizarre qui apparaît de temps en temps ». Avec, en dessous, l’idée que des modèles plus intelligents s’en débarrasseront tout seuls.
L’article dit exactement l’inverse. Les hallucinations ne sont pas une panne : c’est le résultat prévisible de la façon dont ces modèles sont entraînés et, surtout, de la façon dont on les note.
Les auteurs ont fait le test sur eux-mêmes. Ils ont demandé au modèle la date de naissance de l’un d’entre eux. Trois fois. Trois dates différentes sont sorties, toutes fausses, aucune assortie du moindre doute.
Trois essais, trois erreurs, zéro hésitation.
L’élève qui ne laisse jamais une case vide
Alors pourquoi ce truc n’arrive-t-il pas à se taire ? L’explication la plus parlante de l’article, c’est celle de l’élève en examen.
Imaginez la scène. Vous tombez sur une question dont vous ignorez la réponse. Si vous laissez la case vide, c’est zéro, garanti. Si vous écrivez quelque chose, il reste une chance de tomber juste par hasard.
Donc vous écrivez quelque chose.
Le modèle obéit exactement à la même incitation, d’après les auteurs. Dire « je ne sais pas » rapporte moins que fabriquer une réponse plausible. Et ce qui rapporte, on le refait.
Autrement dit : l’IA ne ment pas par envie de mentir. Elle va chercher des points.
Comment deviner est devenu la meilleure stratégie
Et là on arrive au cœur du sujet. Ça se joue en deux étapes.
La première, c’est l’entraînement lui-même. Le modèle avale des quantités énormes de texte et apprend comment les mots s’enchaînent. Sauf que dans ce tas cohabitent des phrases vraies et des phrases fausses. Sans méthode parfaite pour trier, une part d’erreur serait statistiquement inévitable. Celle-là ne partira pas.
La seconde étape, elle, fait bien plus mal : c’est la façon dont on mesure les capacités du modèle ensuite.
On les mesure avec des , c’est-à-dire les examens standardisés du secteur. Beaucoup de questions, une note, un classement au bout.
Et l’essentiel de cette correction est binaire : bonne réponse, un point ; mauvaise réponse, zéro. Avec ces règles, un « je ne sais pas » honnête et un mensonge dit avec aplomb rapportent exactement la même chose. Rien.
Pourquoi le modèle honnête perd au classement
Où est le problème, concrètement, avec cette façon de noter ?
Si « je ne sais pas » vaut zéro, deviner ne peut que rapporter : on encaisse les coups de chance et les erreurs ne coûtent rien de plus. Le modèle qui signale honnêtement son incertitude, lui, laisse ces points de côté et dégringole dans le classement.
C’est exactement ce qu’on fait subir à l’élève à qui on répète de ne jamais rendre une copie avec des blancs. L’honnêteté ne paie pas, l’assurance oui. Et c’est sur ce terrain-là que tous les modèles se sont affrontés.
D’où la proposition de l’article, qui n’est pas « ajoutons un test d’hallucination de plus ». Elle consiste à changer la correction des grands examens déjà utilisés : pénaliser plus lourdement l’erreur affirmée avec assurance, et accorder des points partiels à un « je ne sais pas » justifié. Faire en sorte que l’honnêteté cesse de coûter cher.
Et c’est là le vrai apport de ce travail. Il suggère que l’hallucination n’est pas un problème qui se dissout dès que les modèles deviennent plus intelligents. Tant que la notation récompense le pari, un modèle plus intelligent continuera de parier.
Conclusion : ne prenez pas l’assurance de l’IA pour une preuve
Qu’est-ce que tout ça change pour qui s’occupe d’une marque ?
L’essentiel tient en une phrase : le degré d’assurance d’une réponse et son exactitude n’ont aucun rapport. Dire « je ne sais pas » est structurellement difficile pour ces systèmes, et moins ils savent, plus ils inventent avec aisance. Plus une réponse est fluide et catégorique, plus on a envie d’y croire. Cette fluidité ne prouve rien.
Ce n’est pas non plus une chose qu’on peut attendre tranquillement. « Le prochain modèle réglera ça » ne tient pas tant que les examens paient pour deviner. Partez donc du principe que tout ce qu’une IA raconte sur votre entreprise passe au moins une fois sous l’œil d’un humain, aussi récent soit le modèle.
D’où l’habitude qui change vraiment la donne : ne vous contentez pas d’une seule vérification. Les réponses bougent d’une session à l’autre, et une mise à jour du modèle peut les retourner entièrement. Ce que l’IA raconte sur vous, et la part d’exact là-dedans, se regarde à intervalles réguliers. On ne le devine pas.
C’est une routine peu spectaculaire. Mais c’est elle qui vous évite de vous faire promener par un ton un peu trop sûr de lui.
