«Ma perché mi tira fuori sempre le solite marche straniere?»
Capita sempre più spesso. Si vuole comprare qualcosa di un po’ migliore e, prima ancora di aprire il motore di ricerca, si chiede a ChatGPT.
Scarpe, una crema, un bollitore decente. «Cosa mi consigli con questo budget?», e si guarda cosa esce.
Capita anche a me. E rileggendo le risposte con calma, i nomi hanno tutti un’aria di famiglia: i grandi marchi internazionali, uno dietro l’altro. Il marchio italiano onesto che si aveva in testa non compare mai.
La spiegazione comoda è che l’IA ne sa parecchio e sceglie in base alla qualità. Solo che le cose non stanno proprio così.
E c’è uno studio che a questa domanda ha provato a rispondere sul serio, con quattro modelli messi uno accanto all’altro.
Quattro modelli, la stessa domanda, tanti paesi
La ricerca è di Kamruzzaman, Nguyen e Kim ed è stata presentata a EMNLP 2024, il congresso internazionale sull’elaborazione del linguaggio naturale (lo studio).
Si sono fatti consigliare dei marchi da quattro LLM (i large language models, cioè i modelli linguistici che stanno dietro a ChatGPT e simili): GPT-4o, Llama-3, Gemma e Mistral. Poi si è guardato come cambiavano quei consigli.
L’impianto è di quelli ordinari. Categorie di tutti i giorni come calzature, abbigliamento, bevande ed elettronica, e la stessa richiesta ripetuta cambiando ogni volta il paese della domanda: «quali marchi consiglieresti a una persona di questo paese?».
Le cose osservate erano sostanzialmente tre:
- se il consiglio cambia tra paesi ad alto reddito e paesi a basso reddito
- se il modello va sul marchio di lusso oppure su quello di uso quotidiano
- se nomina i marchi famosi a livello mondiale oppure quelli locali del paese
E i risultati, allora?
Lo squilibrio salta all’occhio.
Tutti i modelli legavano i marchi globali all’idea di «roba buona» in modo sproporzionato.
E quanto è grosso, di preciso? I numeri:
- alle persone dei paesi ad alto reddito venivano consigliati marchi di lusso nell’88-100% dei casi
- alle persone dei paesi a basso reddito venivano consigliati marchi non di lusso nell’84-98% dei casi
- Gemma è il caso estremo: per i paesi ad alto reddito ha proposto marchi di lusso al 100% in quasi tutte le categorie
Insomma, la stessa frase — «consigliami qualcosa» — tirava fuori una classe di marchio diversa a seconda che il paese nella domanda fosse ricco o povero. Non ha deciso la qualità del prodotto. Ha deciso il livello di reddito di chi fa la domanda.
E perché mai un modello dovrebbe credere che «straniero» voglia dire «buono»?
Cattiveria non ce n’è! Sono i dati di addestramento che riaffiorano tali e quali.
L’IA diventa brava leggendo i testi di mezzo mondo. E in quei testi i grandi marchi globali vengono citati molto più spesso, per giunta con toni più benevoli. Del marchio locale appena nato, invece, non parla quasi nessuno!
Ecco quindi che il modello si beve quello squilibrio come se fosse «il senso comune» e ce lo restituisce sotto forma di consiglio. È un po’ come chi impara a memoria tutte le recensioni di internet e poi annuncia, impettito, il pensiero dell’umanità.
Del tutto a senso unico, però, non è. Nello studio si è osservato anche l’effetto paese d’origine: quando un prodotto è associato alla specialità di un paese, il marchio locale viene scelto più volentieri. Sulle auto tedesche o sui coltelli da cucina giapponesi, il locale qualche carta se la gioca.
Ma è una corsia stretta. Nel complesso della ricerca, a comandare era la pendenza verso il globale.
Conclusione: contiamo quante volte l’IA fa il vostro nome
Portata sul lavoro di chi gestisce un marchio, la faccenda è ruvida: come l’IA parla di voi non lo decide solo quanto è buono il prodotto. Sopra c’è uno strato fatto di provenienza geografica e di notorietà mondiale.
E in quello strato i marchi centrati sul mercato interno e quelli giovani stanno strutturalmente dalla parte sbagliata. Si può essere oggettivamente più bravi e non uscire mai dalla bocca del modello.
E allora da dove si comincia? Dal passo che costa meno. Si prendono le proprie categorie principali, si chiedono consigli a ChatGPT un po’ di volte e si conta quante volte il proprio nome compare davvero. Niente «tanto siamo conosciuti, andrà bene»: una conta vera, sotto gli occhi.
Se il numero esce più basso del previsto, non lo leggerei come una sentenza sul marchio, ma come il segnale che si pesa poco nel materiale che questi modelli leggono. E con una fotografia sola non si capisce quale delle due sia: quello che serve è vedere come si muove quella stessa conta nel giro di mesi.
Considerare l’IA un arbitro neutrale, per adesso, è ancora un filo prematuro.
Fonte
- Kamruzzaman, M., Nguyen, H.M. & Kim, G.L., ""Global is Good, Local is Bad?”: Understanding Brand Bias in LLMs”, EMNLP 2024, link
