« Pourquoi l’IA me ressort toujours les mêmes marques étrangères ? »
Ça arrive de plus en plus souvent. On veut s’acheter quelque chose d’un peu haut de gamme et, avant même d’ouvrir un moteur de recherche, on pose la question à ChatGPT.
Des baskets, une crème, une bouilloire correcte. « Une bonne référence dans ce budget ? », et on regarde ce qui tombe.
Hex-ko aussi fait ça. Et quand on relit les réponses tranquillement, les noms ont un petit air de famille : les grosses marques internationales, encore et encore. La bonne marque française à laquelle on pensait, elle, n’apparaît jamais.
L’explication rassurante, c’est que l’IA connaît le sujet et qu’elle recommande au mérite. Sauf que ce n’est pas tout à fait ce qui se passe.
Une équipe s’est justement penchée sur la question, avec quatre modèles alignés côte à côte.
Quatre modèles, une seule question, beaucoup de pays
L’étude est signée Kamruzzaman, Nguyen et Kim, et a été présentée à EMNLP 2024, la conférence internationale de traitement automatique des langues (« Global is Good, Local is Bad? »).
Les chercheurs ont demandé des recommandations de marques à quatre LLM (pour large language models, les grands modèles de langage — autrement dit, la mécanique derrière ChatGPT) : GPT-4o, Llama-3, Gemma et Mistral. Puis ils ont regardé comment ces recommandations changeaient d’un pays à l’autre.
Le protocole n’a rien de sophistiqué. Des catégories du quotidien comme les chaussures, les vêtements, les boissons ou l’électronique, et la même demande répétée d’un pays à l’autre : « quelles marques recommanderiez-vous à quelqu’un de ce pays ? »
Les chercheurs ont regardé trois choses :
- si la recommandation change entre les pays à hauts revenus et les pays à faibles revenus
- si le modèle part sur des marques de luxe ou sur des marques du quotidien
- s’il cite les marques mondialement connues ou les marques locales du pays
Et qu’est-ce que ça donne ?
L’écart n’a rien de subtil.
Tous les modèles associaient les marques mondiales à l’idée de « bon produit » de façon disproportionnée.
Les chiffres :
- aux personnes des pays à hauts revenus, des marques de luxe recommandées dans 88 à 100 % des cas
- aux personnes des pays à faibles revenus, des marques hors luxe dans 84 à 98 % des cas
- Gemma étant le cas extrême : pour les pays à hauts revenus, 100 % de marques de luxe dans presque toutes les catégories
Autrement dit, la même phrase — « vous me conseillez quoi ? » — faisait remonter des marques d’une tout autre gamme selon que le pays de la question était riche ou pauvre. Ce n’est pas la qualité du produit qui a tranché. C’est le niveau de revenu de celui qui demande.
Pourquoi une IA croit-elle que « étranger » veut dire « bien » ?
Il n’y a aucune malveillance là-dedans. Ce sont les données d’entraînement qui remontent à la surface, tout simplement.
Une IA devient savante en lisant les textes du monde entier. Et dans ces textes, les grandes marques mondiales sont beaucoup plus souvent citées — et traitées plus favorablement. Et si la petite marque locale qui démarre ne ressort pas, c’est simplement parce qu’on en parle beaucoup moins.
Le modèle avale donc ce déséquilibre comme si c’était « ce que tout le monde sait », et vous le ressert sous forme de recommandation. Un peu comme quelqu’un qui aurait appris par cœur tous les avis clients du web et qui annoncerait, très digne, le sentiment général de l’humanité.
L’histoire n’est pas totalement à sens unique, cela dit. L’étude relève aussi l’effet pays d’origine : quand un produit est associé à la spécialité d’un pays, la marque locale est choisie plus volontiers. Sur les voitures allemandes ou les couteaux de cuisine japonais, le local a de vraies chances.
Mais c’est un couloir étroit. Sur l’ensemble de l’étude, c’est tout de même le penchant pour le mondial qui dominerait, selon les auteurs.
Conclusion : comptez le nombre de fois où l’IA prononce votre nom
Ramené au métier, ça donne quelque chose d’un peu rugueux : la façon dont une IA parle de vous ne se joue pas seulement sur la qualité de votre produit. Il y a par-dessus une couche d’origine géographique et de notoriété mondiale.
Et dans cette couche, les marques centrées sur leur marché domestique et les jeunes pousses sont structurellement du mauvais côté. On peut être objectivement meilleur et ne jamais sortir de la bouche du modèle.
Alors commencez par le geste le moins cher. Prenez vos catégories principales, demandez plusieurs fois des recommandations à ChatGPT, et comptez le nombre de fois où votre nom apparaît vraiment. Pas au feeling (« on est connus, ça ira ») : une vraie petite liste sous les yeux.
Si le compte est plus bas que prévu, je n’y lirais pas un verdict sur votre marque, mais plutôt le signe que vous pesez peu dans la matière que ces modèles lisent. Et ça, un instantané ne le dit pas : ce qui sert, c’est de voir ce même compte bouger sur plusieurs mois.
Considérer l’IA comme un arbitre neutre, en tout cas, c’est encore un peu prématuré.
Source
- Kamruzzaman, M., Nguyen, H.M. & Kim, G.L., ""Global is Good, Local is Bad?”: Understanding Brand Bias in LLMs”, EMNLP 2024, lien
