«Le pegué dos correos antiguos y de golpe escribía bien»
Le pides algo a la IA. Sale regular.
Entonces le pegas dos o tres ejemplos de lo que buscabas de verdad, vuelves a pedirlo… y la segunda respuesta ya no tiene nada que ver.
Seguro que te suena, ¿a que sí?
A Hex-ko le pasa a diario. Cuando pide un borrador de correo, meter antes un par de correos antiguos en el prompt cambia el resultado de forma evidente.
Pero enseguida llega la duda: ¿está aprendiendo de esos ejemplos, o simplemente hubo suerte? La sensación es que funciona. Y montar una rutina de equipo sobre una sensación es frágil, porque nadie te asegura que mañana el truco siga valiendo.
Por suerte, el fenómeno tiene nombre y tiene demostración. Vamos a verla.
El truco se llama «few-shot». Lo de dentro, otra cosa
Primero, un término y seguimos. Pegar ejemplos en el prompt se llama prompt few-shot, que en inglés significa «con unos pocos ejemplos».
Sin ejemplos es zero-shot. Con dos o tres, few-shot. Ahí está toda la diferencia.
Y lo que ocurre dentro de la IA mientras lee esos ejemplos se llama .
El aprendizaje en contexto (in-context learning, en inglés) es, en una frase, la capacidad de ajustar la respuesta a los ejemplos que tiene delante en el prompt, sin ningún entrenamiento extra.
Por dentro no se reescribe nada: los parámetros del modelo son los mismos que hace un segundo. Y aun así contesta distinto.
Para ti eso significa una cosa muy práctica: la palanca está en el prompt, no en esperar a que salga un modelo mejor.
¿Y cuál era el problema? Pues que nadie sabía si eso merecía llamarse aprendizaje o era solo una buena imitación.
Lo que demostró Berkeley con números
De esa pregunta se ocupó un equipo de la Universidad de California en Berkeley: Ruiqi Zhang, Spencer Frei y Peter L. Bartlett. Lo publicaron en 2024 en JMLR, una de las revistas de referencia en aprendizaje automático (estudio).
¿Qué hicieron exactamente? Tomaron un Transformer (la arquitectura sobre la que se sostienen las IA actuales), lo simplificaron hasta dejarlo en los huesos y siguieron su entrenamiento paso a paso con matemáticas.
Los modelos reales son matemáticamente inabordables, así que se conserva lo esencial y se resuelve del todo la versión mínima.
Y esto es lo que salió:
- Entrenando lo suficiente, el modelo llega siempre a su mejor estado posible (convergencia al mínimo global).
- En ese estado, su aprendizaje en contexto acierta tanto como el mejor predictor posible en teoría para esos datos.
Traducido: nada más leer tus ejemplos, la IA monta una regla de predicción que se ajusta a esos ejemplos tan bien como se puede.
Es como el que juega a piedra, papel o tijera después de ver la mano del otro.
¿Por qué se puede decir que «estudia»?
Aquí viene lo bueno. El equipo comprobó además que el cálculo que la IA hace por dentro equivale al procedimiento clásico del aprendizaje automático: ese de ir mejorando poco a poco a partir de ejemplos.
O sea, que al enseñarle muestras, la IA lanza en ese mismo momento algo parecido a un aprendizaje de la regla a partir de los datos.
La sensación de que «está aprendiendo» no era cosa tuya. Los ejemplos funcionan porque la máquina está hecha así.
La letra pequeña: es un mundo «lineal»
Dos matices, y los dos importan.
La demostración se sostiene en un escenario simplificado a propósito, el lineal. Dentro de algo tan grande y con tantas capas como ChatGPT podría no pasar exactamente lo mismo, y hoy nadie puede afirmarlo.
El propio equipo lo dice: extenderlo a escenarios más complejos queda como trabajo pendiente.
Se ha encendido un buen foco en la entrada de una cueva enorme, pero el fondo sigue a oscuras.
Y el segundo matiz es el que más te va a tocar en el día a día.
El aprendizaje en contexto es de usar y tirar. Lo que la IA sacó de tus ejemplos desaparece al cerrar el prompt.
No se lo queda.
Conclusión: guarda tú los ejemplos, porque la IA no lo hará
Llevado a tu trabajo, la lectura es sencilla. Pegar ejemplos en el prompt no es superstición ni amuleto: es una jugada razonable, apoyada en cómo funciona el sistema por dentro.
Berkeley enseña que la IA construye la mejor forma de responder a partir de lo que le pongas delante. Así que ponerle uno o dos ejemplos parecidos a lo que esperas tiene toda la lógica del mundo.
En la práctica, eso se traduce en una sola costumbre: deja de tratar los buenos ejemplos como el arte personal de alguien. Si en tu equipo se comparte el uso de la IA, esos ejemplos van dentro de una plantilla que se pega cada vez.
Porque el prompt que hoy te ha salvado el día no llega solo al chat nuevo de mañana.
Y guarda la frontera entre dos cosas distintas. El aprendizaje en contexto sirve para el ajuste del momento.
Que un modelo se quede de forma permanente con la información y las normas de tu empresa es otro problema, con otra maquinaria, y por ahí el prompt no llega.
Con esa línea clara, la próxima discusión de «¿esto lo arreglamos con un prompt?» te va a durar mucho menos.
Es un terreno nuevo y no todo está cerrado. Pero lo de «los ejemplos funcionan» resulta que sí se sostiene, así que empieza por añadir un ejemplo a un prompt que ya uses y mira qué se mueve.
Fuente
- Ruiqi Zhang, Spencer Frei, Peter L. Bartlett (UC Berkeley), «Trained Transformers Learn Linear Models In-Context», JMLR Vol.25, 2024, enlace
