«Ma ChatGPT non può semplicemente dire che non lo sa?»
Si scrive il nome della propria azienda su ChatGPT e ne esce un premio mai vinto, accanto a un numero che in ufficio non riconosce nessuno. Il tutto senza un’ombra di esitazione.
Sarà capitato a molti di voi, no?
Pure a me, Hex-ko, è successo: con l’azienda di un conoscente mi sono ritrovata davanti una storia di fondazione intera che non è mai esistita. Ho dovuto rileggere due volte!
Però la stranezza non è che l’IA sbagli. È un’altra: se non lo sa, che lo dica. Una persona alzerebbe le spalle e chiuderebbe con un «boh, non saprei» (che poi sarebbe una risposta perfettamente accettabile). Il modello invece si inventa la risposta. E la racconta pure bene.
Nel settembre 2025 un gruppo di ricerca di OpenAI ha preso sul serio questa domanda e ci ha scritto sopra un articolo (lo studio). Andiamo a vedere cosa dice.
L’«allucinazione» è un guasto misterioso dell’IA?
Partiamo dalla parola. Un’ è quando un’IA afferma qualcosa di falso, con scioltezza e sicurezza totali.
Di solito la si archivia come «quel difetto strano che ogni tanto salta fuori». E sotto c’è un’idea precisa: che i modelli più bravi se la lascerebbero alle spalle da soli, prima o poi.
L’articolo dice l’opposto. Le allucinazioni non sono un guasto: sono il risultato prevedibile di come questi modelli vengono addestrati e, soprattutto, di come vengono valutati.
Gli autori l’hanno provato su se stessi. Hanno chiesto al modello la data di nascita di uno di loro. Tre volte. Sono uscite tre date diverse (tutte sbagliate), nessuna accompagnata dal minimo dubbio.
Tre tentativi, tre errori, zero esitazioni!
Lo studente che non lascia mai una casella in bianco
E allora perché questo coso non riesce a stare zitto? La spiegazione più efficace dell’articolo è quella dello studente all’esame.
Proviamo a immaginare la scena. Arriva la domanda a cui non si sa rispondere. Se si lascia in bianco, zero garantito. Se si scrive qualcosa, resta la possibilità di azzeccarla per caso.
Quindi si scrive qualcosa.
Il modello risponde esattamente allo stesso incentivo, secondo gli autori. Dire «non lo so» rende meno che confezionare una risposta plausibile. E ciò che rende, si ripete.
Insomma: l’IA non mente perché abbia voglia di mentire. Va a caccia di punti.
Come è successo che indovinare convenisse?
Ed ecco il nocciolo. Il meccanismo ha due fasi.
La prima è l’addestramento. Il modello legge quantità enormi di testo e impara come si legano le parole. Solo che in quel mucchio convivono frasi vere e frasi false. Senza un modo perfetto per separarle, una quota di errore è statisticamente inevitabile. Quella parte non se ne andrà.
La seconda fase è quella che pesa davvero: come si misura la bravura del modello dopo l’addestramento.
Si misura con i , che poi sono gli esami standardizzati del settore (tante domande, un punteggio, una classifica finale).
E gran parte di quella correzione è binaria: risposta giusta un punto, risposta sbagliata zero. Con queste regole un «non lo so» onesto e una falsità detta con sicurezza valgono esattamente lo stesso. Cioè niente.
Perché il modello onesto perde in classifica
Dov’è il problema di correggere così?
Se «non lo so» vale zero, indovinare porta solo vantaggi: i colpi di fortuna si incassano e gli errori non costano nulla in più. Il modello che invece segnala la propria incertezza lascia per strada quei punti e quindi scivola in fondo alla classifica.
È lo stesso trattamento che riserviamo allo studente a cui ripetiamo di non consegnare mai un compito con le caselle vuote. L’onestà non prende voti, la baldanza sì. Ed è su questo campo che tutti i modelli hanno giocato l’uno contro l’altro.
E allora qual è la proposta dell’articolo? Non «aggiungiamo l’ennesimo test sulle allucinazioni». È cambiare la correzione degli esami principali già in uso: penalizzare più duramente l’errore detto con sicurezza e assegnare un punteggio parziale a un «non lo so» ben piazzato. Far sì, cioè, che l’onestà smetta di costare.
Ed è qui il punto più importante del lavoro: l’allucinazione non è un problema che sparisce quando i modelli diventano più intelligenti. In realtà, finché la valutazione premia chi tira a indovinare, anche un modello più sveglio continuerà a farlo.
Conclusione: la sicurezza dell’IA non è una prova di correttezza
E per chi gestisce un marchio, tutto questo cosa cambia?
Il punto principale: quanto suona sicura una risposta e quanto è corretta non c’entrano niente l’uno con l’altro. Dire «non lo so» è strutturalmente difficile per questi sistemi, e meno sanno, più inventano con disinvoltura. La risposta fluida e senza sfumature è quella che convince di più. Però quella scioltezza non dimostra proprio nulla.
E non conviene nemmeno stare ad aspettare. «Tanto lo sistemerà il prossimo modello» non regge, finché gli esami pagano chi indovina. Quindi conviene trattare ciò che l’IA racconta della vostra azienda come un’affermazione che una persona verifica almeno una volta, per quanto recente sia il modello.
Ed ecco l’unica abitudine che cambia davvero le cose: non fermarsi al singolo controllo. Le risposte oscillano da una sessione all’altra e un aggiornamento del modello può ribaltarle in blocco. Cosa dice l’IA di voi, e quanto di quel racconto è vero, conviene guardarlo con una certa regolarità invece che darlo per scontato.
Poco spettacolare, d’accordo. Ma è proprio questo a evitare che vi porti a spasso un tono un po’ troppo sicuro di sé.
