«La IA no entiende nada, solo va encadenando palabras»
Seguro que lo has oído en alguna reunión. Que el modelo no comprende, que solo coloca palabras probables una detrás de otra.
A Hex-ko también le convencía esa idea. Y con las matemáticas más todavía.
Un problema con pasos parecía el sitio perfecto para cazar a la IA copiando de memoria.
Pero si fuera solo memoria, un problema nuevo la dejaría clavada. Y no la deja: le pones un enunciado que no ha visto jamás y lo resuelve bastante bien.
¿Entonces qué está pasando ahí dentro?
Hay un equipo que decidió averiguarlo de la única forma seria: fabricándose los problemas. Vamos a verlo.
Problemas que la IA no ha podido leer nunca
El trabajo forma parte de la serie «Physics of Language Models», que dirige Zeyuan Allen-Zhu con su equipo en Meta FAIR (estudio). La idea está tomada de la física: en lugar de discutir qué «entiende» un modelo, montas un experimento controlado que sí da una respuesta limpia.
Lo bueno está en los datos. En vez de recoger problemas de internet, generaron desde cero un montón de enunciados de matemáticas de nivel de primaria.
Y ese detalle lo cambia todo. Con un problema sacado de la red nunca puedes descartar que el modelo leyera la solución mientras se entrenaba.
Con uno que no existía hasta que alguien lo escribió, sí puedes. Por eso, si lo resuelve, lo ha resuelto. Eso no es memoria: es trabajo hecho sobre la marcha.
La «plantilla memorizada» no explica nada
Y lo que salió es que la forma de resolver del modelo no se explica memorizando plantillas.
Cuando aquí se habla de proceso de razonamiento, se habla de los pasos intermedios que da antes de soltar la respuesta. El equipo miró dentro del modelo y encontró algo parecido a un plan: nada más leer el enunciado, ya estima qué cantidades le van a hacer falta.
Eso no es rellenar una fórmula aprendida. Es trazar una ruta, problema a problema.
Pero la ruta no es la tuya. El modelo prepara cantidades en un orden que ninguna persona usaría, y de paso calcula números que el problema no necesita, por si acaso.
Es como el cocinero que pica toda la verdura de la cocina antes de decidir el menú. El plato final sale bien. El camino es rarísimo.
Enséñale un error y mejora
La continuación de la serie va a lo práctico: cómo entrenar a esta IA matemática para que acierte más (estudio). Y aquí llega el resultado que nadie esperaba.
¿Y qué sería lo lógico? Darle ejemplos limpios. Solo soluciones correctas, para que copie lo bueno.
Pues no. De hecho, cuando en los datos de entrenamiento se cuelan a propósito secuencias del tipo «me equivoco y me corrijo a continuación», la precisión del razonamiento sube más que entrenando solo con aciertos.
A Hex-ko le costó creérselo. Y no hace falta ningún montaje complicado. Nada de rondas en las que la IA responde, recibe la corrección y vuelve a intentarlo: basta con meter esos ejemplos de corrección en el entrenamiento normal de predecir la siguiente frase.
Los fallos no sobraban: eran material didáctico. Qué cosa más bonita, la verdad.
Piensa, sí, pero no como tú
Pon los dos estudios juntos y aparece una línea clara. La IA no es «memoria y ya». Tampoco piensa como piensas tú.
Por dentro hay un plan de verdad, y por eso aguanta los problemas nuevos. Pero ese plan tiene manías propias, desalineadas con la intuición humana.
«Listo» y «parecido a un humano» conviene tenerlos en cajones distintos.
Y esa distancia (piensa, pero de otra manera) es justo lo que te toca a ti cuando la usas en el trabajo.
Conclusión: comprueba la conclusión, no lo bonito del proceso
Vamos a traducirlo a tu día a día. Dos cosas, y me paro ahí a propósito.
La primera: no des por buena una respuesta porque «se nota que ha razonado».
El razonamiento existe, de acuerdo. Pero tiene manías raras, y un proceso convincente no te garantiza nada sobre la frase final.
Así que no mires lo suave que suena la explicación. Mira si la conclusión cuadra con la realidad, sobre todo cuando hay números y nombres propios de por medio. Ahí toca contrastar una vez, aunque el texto suene impecable.
La segunda: cuando le pidas a la IA que corrija algo, dale el error y la corrección juntos. Si le dices «escríbelo así», le das el destino. Si le dices «esto está mal y lo correcto es esto otro», le das la ruta, que es justo lo que el modelo rehace por dentro.
La crítica rinde más si va con el arreglo puesto.
Puede que sea mucho extrapolar desde dos estudios sobre problemas de primaria. Pero la dirección se sostiene.
La IA parece lista y lo es. Solo que su inteligencia no es una versión alargada de la nuestra.
Por eso el gesto aburrido de siempre (apoyarte en ella y comprobar tú la última línea) es lo que hace que la relación dure.
