Cómo funciona ChatGPT: el viaje de tu mensaje

Seguro que has vivido esta escena: le haces una pregunta a ChatGPT, y la respuesta se escribe sola, palabra tras palabra, como si alguien tecleara a toda velocidad del otro lado de la pantalla. Un día me pregunté qué pasaba realmente durante esos pocos segundos. La respuesta es más simple que todo lo que había imaginado — una máquina que apuesta por la siguiente palabra, decenas de veces por segundo — y también mucho más vertiginosa. Este artículo abre una serie que llamé «La inmersión»: ocho niveles para descender, artículo tras artículo, hasta el corazón matemático de la IA. Aquí nos quedamos en la superficie: sin ecuaciones, lo prometo. Solo el viaje completo de tu mensaje. Máscara, esnórquel: ¡bajamos!

Lo esencial

• ChatGPT no busca tu respuesta en una base de datos: la calcula, palabra tras palabra.
• Cada palabra en tu pantalla es el resultado de un cálculo de probabilidades sobre unos 200 000 tokens posibles (el diccionario de los modelos recientes de OpenAI).
• Los grandes modelos de lenguaje (programas de IA como el que está detrás de ChatGPT) contienen cientos de miles de millones de parámetros — los pequeños números ajustables donde se almacena todo lo que el modelo aprendió — y fueron entrenados con billones de palabras: más de 15 billones (millones de millones) de tokens para Llama 3 de Meta, por ejemplo.
• El texto que va apareciendo en tu pantalla no es un efecto visual: es el cálculo en sí, mostrado en vivo.
• Este artículo es el Nivel 1 de «La inmersión» — el mapa completo de los ocho niveles está al final del artículo.

¿A dónde va tu mensaje cuando presionas Enter?

Tu mensaje no se queda en tu teléfono ni en tu computadora: viaja, a través de tu navegador o de la app, hasta un centro de datos — un edificio repleto de servidores equipados con unidades de procesamiento gráfico (GPU). Es ahí, y solo ahí, donde ChatGPT «existe» y calcula su respuesta.

Una sala de servidores de Microsoft — en pasillos como estos es donde ChatGPT calcula sus respuestas. Foto: Microsoft.

Este es el primer reflejo que hay que corregir: la inteligencia no está en tu dispositivo. Tu teléfono juega el mismo papel que cuando muestra un sitio web: envía una petición a un servidor remoto y muestra lo que le llega de vuelta. Toda la magia ocurre del otro lado, en salas climatizadas donde decenas de miles de máquinas calculan día y noche.

Quedémonos con la metáfora del buceo — nos va a acompañar durante ocho artículos: tu pantalla es la superficie del agua. Todo lo que importa ocurre debajo. Y lo primero que encuentras al descender son esas famosas GPU.

¿Cómo puede una máquina leer tu frase?

No la lee como tú: tu texto se divide primero en tokens, fragmentos de palabras («increíble» podría convertirse en «incre» + «íble»), y cada token se reemplaza después por números. A partir de ahí, la máquina no vuelve a manejar letras — solo números.

Una computadora no sabe hacer otra cosa que calcular. Para que un texto entre, hay que convertirlo entonces en algo calculable. La división en tokens es el primer paso de esa transformación. El «modelo» es el nombre del programa de IA en sí — aquel con el que hablas a través de ChatGPT. Un modelo reciente lleva un diccionario fijo de unos 200 000 fragmentos de texto, cada uno archivado bajo un número, y tu mensaje se reescribe con esos fragmentos. Para la máquina, «hola» no es una palabra: es algo como la entrada n.º 21 437 de ese diccionario inmenso. De hecho, puedes ver cómo se divide tu propio texto en la herramienta oficial de OpenAI — pruébala con una frase tuya.

Quédate con esta idea, porque explica un montón de comportamientos extraños de ChatGPT: la IA nunca ve tus letras, ni siquiera tus palabras. Por eso, por ejemplo, contar las letras de una palabra puede hacerla sudar: no ve s-t-r-a-w-b-e-r-r-y, ve uno o dos tokens — bloques opacos. (Sí, de ahí vienen los famosos errores del «cuántas r tiene strawberry», «fresa» en inglés.) Dedicaremos todo el Nivel 3 a esta división, y el Nivel 4 a la pregunta que le sigue: ¿cómo pueden unos simples números transportar significado?

¿Qué hace ChatGPT realmente para construir su respuesta?

Una sola cosa, repetida en bucle: predecir la siguiente palabra. Para la primera palabra, el modelo no tiene más que tu mensaje: calcula la probabilidad de cada token posible, elige uno, lo escribe. Luego toma el conjunto — tu mensaje más lo que acaba de escribir — y vuelve a empezar. Toda la respuesta nace de este bucle, un fragmento a la vez.

Este es el corazón de todo, así que tomémonos el tiempo de mirarlo bien:

Sí, leíste bien: no hay borrador, ni plan oculto, ni respuesta escrita entre bastidores y revelada después con un efecto de máquina de escribir. Cuando las palabras aparecen una a una en tu pantalla, no estás viendo una animación: estás viendo el cálculo mientras ocurre, en tiempo real. Cada palabra mostrada acaba de ser elegida, en ese mismo instante, entre decenas de miles de candidatas.

La primera vez que entendí esto, repasé todas mis conversaciones con ChatGPT bajo otra luz. La máquina no «sabe» a dónde va: avanza palabra por palabra, y cada palabra elegida se convierte en una restricción para todas las siguientes. Un equilibrista que inventa la cuerda mientras camina sobre ella.

¿Por qué un simple «predictor de palabras» parece tan inteligente?

Porque predecir bien exige haber absorbido mucho. Para adivinar la siguiente palabra de un diagnóstico médico, hay que «saber» medicina; para completar un razonamiento, hay que seguir el razonamiento. Al aprender a predecir sobre billones de frases, el modelo se vio obligado a interiorizar la estructura del mundo que esas frases describen.

Esta es LA pregunta que todo el mundo se hace llegado este punto. «Predecir la siguiente palabra», dicho así, suena a las sugerencias del teclado de tu teléfono — y, francamente, esas no brillan. Entonces, ¿qué está pasando?

El juego es siempre el mismo — adivinar lo que viene después — pero el conocimiento que exige no tiene techo. Esa es la trampa en la que cayó el modelo durante su entrenamiento, y es una trampa maravillosamente fértil.

Imagina a un amigo que pasó años entrenándose en un solo juego: terminar las frases de los demás. No solo las tuyas: las de un médico en plena consulta, las de una abogada redactando su alegato, las de un desarrollador escribiendo código, las de un poeta. Para terminar correctamente la frase de un médico, nuestro amigo está obligado a aprender algo de medicina. Para terminar un cálculo, está obligado a aprender a calcular. Después de billones de frases, decir que «solo completa texto» sigue siendo técnicamente cierto — pero ya no describe, en absoluto, la amplitud de lo que tuvo que aprender para lograrlo.

Y seamos honestos hasta el final: ¿merece eso la palabra «comprensión»? Los propios investigadores siguen debatiéndolo, y me cuidaré mucho de zanjar un debate que divide a los mejores de ellos. Lo que sí podemos describir con precisión es el mecanismo — y eso ya es mucho. Nota, de paso, un punto que nunca deja de sorprender: ese conocimiento no está almacenado en ninguna parte en forma legible. No hay un archivo «Wikipedia» dentro del modelo, ni fichas, ni base de datos: todo está diluido en cientos de miles de millones de parámetros, esos pequeños números ajustados durante el entrenamiento. Iremos a verlo de cerca en los Niveles 5 y 7.

¿Por qué ChatGPT nunca da dos veces la misma respuesta?

Porque en cada palabra, el modelo no produce una única respuesta sino una lista de candidatas con sus probabilidades — y sortea entre las mejores. Haz la misma pregunta dos veces: los primeros sorteos difieren, y cada palabra elegida altera todos los cálculos que siguen.

Seguro lo has notado: la misma pregunta, hecha dos veces, da dos respuestas distintas. No es un bug ni un gran misterio — es una consecuencia directa de lo que acabamos de ver. Mira lo que sale realmente del «gran cálculo»:

Con «la capital de Francia es…», el modelo está casi seguro de sí mismo: «París» aplasta todo lo demás. Pero con una frase abierta, las probabilidades se reparten — y en lugar de tomar siempre la primera candidata (lo que produciría un texto rígido y repetitivo), el modelo sortea entre las más probables, como si lanzara un dado sutilmente cargado. Dos conversaciones, dos sorteos, dos respuestas.

Y hay un efecto bola de nieve: como cada palabra elegida alimenta el cálculo de todas las siguientes, un solo sorteo diferente al principio puede mandar toda la respuesta por otro camino. Vuelve al diagrama de arriba: si el sorteo cae en «dormir», la continuación más probable apunta hacia «hasta el mediodía, sin culpa»; si cae en «viajar», se va hacia «unos días a Italia». Dos palabras sorteadas, dos frases que no volverán a cruzarse jamás. Este azar, de hecho, es ajustable — los desarrolladores lo conocen como «temperatura» — y es exactamente lo que diseccionaremos en el Nivel 2.

Lo que cambió para mí el día en que se abrió la caja negra

Hoy en día paso mi vida laboral con estos modelos — construyo mis proyectos con ellos, mis herramientas también, y este mismo sitio se beneficia de ellos ampliamente. Y sin embargo, durante mucho tiempo les hablé como a un buscador: palabras clave, una petición seca y los dedos cruzados.

Entender la mecánica de este artículo lo cambió todo en mi práctica. Como el modelo no hace otra cosa que continuar un texto de la forma más probable, mi mensaje no es una orden: es el comienzo de un documento que la máquina va a prolongar. Y de pronto, todo encaja:

• Dar contexto funciona, porque un documento que se abre con un contexto rico tiene continuaciones mucho más precisas que una pregunta seca.
• Dar ejemplos funciona, porque el modelo prolonga el patrón: muéstrale dos reescrituras en el estilo que quieres, y la tercera seguirá el mismo molde.
• Dar un rol funciona («eres un corrector exigente…»), porque desplaza las probabilidades hacia los textos que ese tipo de experto habría escrito.

Un ejemplo muy simple, vivido escribiendo para este sitio: «corrige este texto» me devolvía una y otra vez correcciones de maestro de escuela que aplanaban mi tono conversacional. El día que escribí «eres un corrector para un blog de tono cálido y conversacional; corrige solo la ortografía y la gramática, sin reformular», el resultado cambió por completo. El mismo modelo, el mismo texto — pero el comienzo del documento ya no era el mismo, así que las continuaciones probables tampoco.

Y en el sentido contrario, aprendí prudencia: una respuesta formulada con una seguridad perfecta sigue siendo una secuencia de palabras probables. Sobre un dato preciso, una fecha, una referencia, la seguridad del tono no garantiza estrictamente nada — volveremos a esto en profundidad en el Nivel 8.

Lo que imaginamos, y lo que pasa en realidad

Lo que imaginamos	Lo que pasa en realidad
ChatGPT busca la respuesta en una base de datos	Nada está almacenado tal cual: la respuesta se calcula, palabra tras palabra
Escribe su respuesta y luego la muestra con estilo	No hay borrador: cada palabra se elige en vivo, ante tus ojos
Lee el español como nosotros	No ve ni letras ni palabras: solo tokens convertidos en números
Aprende de nuestra conversación	El modelo queda congelado tras el entrenamiento; tu chat no lo modifica
Está conectado a internet permanentemente	Su conocimiento data de su entrenamiento; la búsqueda web es una herramienta aparte

¿Cómo sigue el resto de la inmersión?

La serie «La inmersión» tiene ocho niveles, del más accesible al más profundo: probabilidades, tokens, embeddings, neuronas artificiales, el mecanismo de atención, el entrenamiento, y luego el ascenso a través de los datos y las alucinaciones. Cada artículo solo presupone los anteriores, y la dificultad sube un escalón a la vez.

Mi objetivo con esta serie es simple, y te lo entrego como un contrato: para el Nivel 4, tendrás un modelo mental preciso de lo que es una IA — mucho más preciso que el de la mayoría de los artículos que circulan sobre el tema. Para el Nivel 8, serás capaz de entender de qué trata «Attention Is All You Need» — el artículo de investigación de 2017 que lanzó toda esta revolución. Y en cada nivel, diagramas en lugar de jerga.

¿Listo para descender al Nivel 2?

Recapitulemos la superficie: tu mensaje parte hacia un centro de datos, se convierte en números, y un bucle elige cada palabra de la respuesta calculando probabilidades. Eso es todo — y es vertiginoso.

En el Nivel 2 abrimos precisamente la parte más intrigante de este mecanismo: esas famosas probabilidades. ¿Por qué sortear en lugar de tomar la mejor palabra? ¿Qué es exactamente esa «temperatura»? ¿Y por qué un modelo ajustado demasiado «sensato» se vuelve aburrido, mientras que uno ajustado demasiado «caliente» se descarrila? El artículo llega la próxima semana.

¿Preguntas sobre este primer nivel? ¿Alguna noción que te gustaría ver más adelante en la serie? Para eso están los comentarios, con espíritu de apertura y amabilidad — tus preguntas alimentarán directamente los próximos artículos.

– blaminhor