«¿No puede ChatGPT decirme simplemente que no lo sabe?»
Escribes el nombre de tu empresa en ChatGPT y te devuelve un premio que nunca ganó, junto a una cifra que no reconoce nadie de la oficina. Todo dicho con un aplomo impecable.
Seguro que te suena.
A Hex-ko también le pasó. Probó con la empresa de un conocido y le contaron una historia fundacional entera que jamás ocurrió.
Hubo que leerlo dos veces.
Pero lo raro no es que la IA se equivoque. Lo raro es lo otro: «si no lo sabes, dilo».
Una persona zanjaría con un «pues no estoy seguro» y ya está. El modelo, en cambio, se inventa la respuesta. Y encima suena de maravilla.
En septiembre de 2025, un equipo de investigación de OpenAI se tomó esa pregunta en serio y publicó un artículo sobre ello (el estudio). Vamos a verlo de cerca.
¿Es la «alucinación» una avería misteriosa de la IA?
Empecemos por la palabra. Una es cuando la IA afirma algo que no es cierto, con una fluidez y una seguridad totales.
Casi todo el mundo lo archiva como «ese fallo raro que aparece de vez en cuando». Y debajo late una idea: que los modelos más listos lo irán perdiendo solos.
El artículo dice justo lo contrario. Las alucinaciones no son una avería: son el resultado previsible de cómo se entrena a estos modelos y, sobre todo, de cómo se los puntúa.
Los autores lo probaron consigo mismos. Le preguntaron al modelo por la fecha de nacimiento de uno de ellos.
Tres veces. Salieron tres fechas distintas y las tres erróneas.
Tres intentos, tres fallos y cero titubeos.
La clave: el estudiante que nunca deja una pregunta en blanco
¿Y por qué no puede callarse? La explicación más clara del artículo es la de un estudiante en un examen.
Imagínatelo. Llegas a una pregunta que no sabes. Si la dejas en blanco, cero seguro. Si escribes cualquier cosa, quizá suene la flauta y te caiga algo.
Así que escribes cualquier cosa.
El modelo funciona con exactamente el mismo incentivo, según los autores. Decir «no lo sé» renta menos que fabricar una respuesta verosímil. Y lo que se premia, se repite.
Es decir: la IA no miente porque quiera mentir. Va a por los puntos.
¿Cómo llegamos a que adivinar salga a cuenta?
Aquí está el meollo. El proceso tiene dos fases.
La primera es el entrenamiento. El modelo lee cantidades enormes de texto y aprende cómo se enlazan las palabras.
Pero en ese montón hay frases correctas y frases falsas mezcladas. Sin una manera perfecta de separarlas, cierto margen de error es estadísticamente inevitable.
Eso no se va a ir.
Y luego está la segunda fase, la que de verdad aprieta: cómo se mide la capacidad del modelo después.
El rendimiento se mide con , que vienen a ser los exámenes estandarizados del sector. Muchas preguntas, una nota y un ranking al final.
Y la mayoría de esa corrección es binaria: acierto, un punto. Fallo, cero. Con esas reglas, un «no lo sé» honesto y una mentira dicha con aplomo valen exactamente lo mismo. Nada.
Por qué el modelo honesto pierde en el ranking
¿Cuál es entonces el problema de corregir así?
Si «no lo sé» vale cero, adivinar solo puede sumar: te llevas los aciertos por casualidad y no pierdes nada por los fallos. Y el modelo que sí señala su incertidumbre deja esos puntos por el camino y se hunde en la clasificación.
Es justo lo que le pasa al alumno al que, antes del examen, le repiten que no deje ni una pregunta en blanco. La honestidad no puntúa, la seguridad sí. Y en ese terreno de juego han competido todos los modelos.
Por eso la propuesta del artículo no es «añadir otro test de alucinaciones». Es cambiar la corrección de los grandes exámenes que ya se usan: penalizar más el error dicho con seguridad y dar puntuación parcial a un «no lo sé» bien puesto. Que la honestidad deje de salir cara.
Y ahí está lo más importante del estudio. La alucinación no es un problema que se disuelva cuando los modelos sean más listos. Mientras la puntuación premie adivinar, un modelo más listo seguirá adivinando.
Conclusión: no leas el aplomo de la IA como prueba de que acierta
¿Y qué significa esto para quien lleva una marca?
Lo principal: lo seguro que suena una respuesta y lo cierta que es no tienen nada que ver. Decir «no lo sé» le cuesta por diseño, y cuanto menos sabe, con más soltura inventa.
De hecho, la respuesta fluida y sin matices es la más convincente de la pantalla. Y esa fluidez no demuestra nada.
Tampoco es algo que puedas esperar sentado. «Ya lo arreglará el próximo modelo» no se sostiene mientras los exámenes sigan pagando por adivinar.
Así que trata lo que la IA diga de tu empresa como una afirmación que alguien tiene que verificar, por muy reciente que sea el modelo.
Y de ahí sale el hábito que de verdad cambia las cosas: no te quedes en una única comprobación. Las respuestas bailan entre sesiones y una actualización del modelo podría darles la vuelta entera.
Qué cuenta la IA sobre ti, y cuánto de eso es cierto, conviene mirarlo con cierta regularidad en vez de darlo por hecho.
Es una rutina poco vistosa. Pero es la que evita que te lleve de paseo un tono demasiado seguro.
