Temperatura en IA: cómo un modelo elige sus palabras

Bienvenido al Nivel 2 de «La inmersión». En el Nivel 1 seguimos el viaje completo de tu mensaje: la partida hacia el centro de datos, el troceado en tokens —esos fragmentos de palabra que le sirven al modelo como unidades de lectura— y ese bucle que construye la respuesta palabra por palabra. Pero dejé una puerta entreabierta: en cada vuelta del bucle, el modelo no «elige» realmente una palabra — la sortea. Hoy descendemos a mirar de cerca esa lotería. Al final de este artículo sabrás por qué una IA ajustada demasiado «sensata» se vuelve monótona, por qué una IA ajustada demasiado «caliente» descarrila, y qué hace en realidad ese misterioso ajuste que los desarrolladores llaman temperatura. Una sola noción matemática en el programa, te lo prometo: el porcentaje. Ajusta tu equipo, ¡descendemos!

Lo esencial

• Antes de cada palabra, el modelo produce una lista de porcentajes que suman 100 %: la distribución de probabilidades.
• Tomar sistemáticamente la palabra más probable produce textos planos que dan vueltas en círculo — un defecto documentado por la investigación bajo el nombre de degeneración del texto (Holtzman et al., 2019).
• La temperatura deforma la lista antes del sorteo: en 0, el modelo toma casi siempre la palabra más probable; al máximo, la elección se vuelve casi aleatoria. El máximo depende del proveedor: 2 en OpenAI, 1 en Anthropic.
• Ajustable desde la API (el acceso para desarrolladores) y el Playground (su consola de pruebas en línea), no en la app de ChatGPT.
• Nivel 2 de la serie «La inmersión» — una sola noción matemática: el porcentaje.

¿Qué es una probabilidad, para una máquina que escribe?

Es una apuesta con número. Antes de cada palabra, el modelo le asigna a cada token de su vocabulario un número entre 0 y 100 %, y todos esos números juntos suman exactamente 100 %: eso es lo que llamamos una distribución de probabilidades. Generar una palabra es sortear dentro de esa distribución.

Y aquí es donde el Nivel 1 gana toda su profundidad: el bucle que escribe tu respuesta no es una cadena de decisiones, es una cadena de sorteos en bolsas recompuestas a cada palabra. Cada token sorteado cambia la composición de todas las bolsas siguientes.

¿De dónde salen esos porcentajes?

Del entrenamiento. El modelo pasó meses ajustando sus cientos de miles de millones de parámetros para que sus apuestas coincidieran, lo más posible, con los textos reales que se le mostraron. Pero cuidado: no cuenta frases almacenadas — aprendió a generalizar, y eso lo cambia todo.

El reflejo natural es imaginar un recuento inmenso: «en todos los textos de la web, después de la capital de Francia es, aparece París 96 veces de cada 100». Es una buena intuición de partida… y falla en un detalle crucial. Toma esta frase: «El gato se durmió sobre el». Es de lo más ordinaria y, sin embargo, lo más probable es que ningún texto de los datos de entrenamiento la contenga exactamente — las combinaciones posibles de palabras superan, por muchísimo, todo lo que se ha escrito jamás. Y aun así el modelo propone «sofá», «radiador», «teclado» sin un instante de duda…

¿Cómo? Porque generalizó a partir de millones de frases vecinas: gatos que se duermen, cosas que reposan «sobre el», radiadores acogedores. Sus porcentajes no son recuerdos, son síntesis — por eso responde en un suspiro frases que nadie ha escrito jamás. Cómo esa síntesis se instala físicamente en los parámetros es el gran tema del Nivel 7; por ahora, quédate simplemente con que la bolsa de tokens está fabricada, no fotocopiada.

¿Por qué no tomar siempre la palabra más probable?

Porque eso produce texto muerto. Si el modelo tomara sistemáticamente al candidato n.º 1, sus respuestas serían rígidas, planas — y sobre todo, acabarían dando vueltas en círculo. El defecto es tan conocido que los investigadores le pusieron nombre: degeneración del texto.

La objeción se plantea sola, y es perfectamente lógica: «si conoce la mejor palabra, ¡que la tome!». Salvo que esto es lo que pasa de verdad cuando lo intentas — los investigadores han documentado el fenómeno, y este es el tipo de texto que produce:

Gracias por tu confianza. Gracias por tu confianza. Gracias por tu confianza.

El mecanismo detrás de esta espiral es perversamente lógico: una vez que una frase se ha escrito dos veces, escribirla una tercera se vuelve aún MÁS probable — la repetición se alimenta a sí misma. El texto más «probable» palabra por palabra no es el texto más natural en su conjunto; es una paradoja, pero nuestras frases humanas reales guardan sorpresas con regularidad, palabras un poco menos esperadas que les dan todo su sabor. Un texto que nunca sorprende no se parece a nada de lo que escribimos de verdad.

De ahí la lotería: al darles regularmente su oportunidad a los candidatos n.º 2, n.º 5 o n.º 12, obtienes texto vivo. Solo queda dosificar ese azar — y ese es exactamente el trabajo de la temperatura.

Temperatura: el dial que regula la audacia del sorteo

La temperatura deforma la distribución antes del sorteo. Baja, ahonda las diferencias: el favorito aplasta todo, el modelo se vuelve predecible. Alta, estrecha las diferencias: los candidatos de fondo recuperan una oportunidad real, el modelo se vuelve audaz — y luego incoherente si te pasas. En la escala de OpenAI va de 0 a 2; en Anthropic (Claude), de 0 a 1 — mismo dial, graduaciones distintas.

El nombre viene de la física (las partículas se agitan más cuando sube el calor), pero la imagen cotidiana funciona igual de bien: es el dial entre el colega que siempre da la misma respuesta y el que se dispara en todas las direcciones. Mira lo que la temperatura le hace, en concreto, a nuestra bolsa de tokens — llenada, esta vez, para la frase del Nivel 1 «Este fin de semana, tengo ganas de…»:

Técnicamente, no tiene nada de magia: antes de convertir las puntuaciones del modelo en porcentajes, se dividen por la temperatura — lo que ahonda las diferencias cuando es pequeña, y las borra cuando es grande. (La maquinaria real de esa conversión, el famoso «softmax», la tendrás con su cálculo en el Nivel 6 — cada cosa a su nivel.)

Cómo ajusto la temperatura en mis propios proyectos

Es un ajuste que manejo concretamente cada semana: mis herramientas llaman a estos modelos a través de su API, donde el dial queda al alcance de la mano. Y mi regla cabe en una frase: la temperatura sigue la tolerancia a la sorpresa de la tarea. Cuanta más fiabilidad exige una tarea, más bajo pongo el dial; cuantas más ideas frescas reclama, más alto.

Un ejemplo vivido que me sirvió bien de lección: uno de mis scripts extraía información de textos para archivarla como JSON (datos estructurados). Con la temperatura por defecto, devolvía resultados ligeramente distintos en cada ejecución — a veces un campo redactado de otra forma, a veces una categoría vecina. Imposible de probar en serio. Temperatura en 0: el script se volvió reproducible de la noche a la mañana — misma entrada, misma salida. A la inversa, cuando ando a la caza de ángulos para artículos o de nombres de proyecto, subo el dial: la sorpresa es precisamente lo que vine a buscar.

Tarea	Temperatura (escala OpenAI, 0–2)	Por qué
Extracción de datos, clasificación	0 – 0.2	Reproducible, verificable — la sorpresa es un bug
Generación de código	0 – 0.3	Solo hay una sintaxis correcta, la audacia sobra
Respuestas factuales, soporte al cliente	0.2 – 0.5	Estable, con un mínimo de variedad en la redacción
Escritura asistida	0.6 – 0.9	Fluidez y ritmo naturales, sin descarrilar
Lluvia de ideas, ficción	1 – 1.3	La sorpresa es exactamente lo que estás pagando

Dos precisiones para terminar. Primero, la escala depende del proveedor: de 0 a 2 en OpenAI, de 0 a 1 en Anthropic — revisa la documentación antes de trasladar mis números. Segundo, en la app de ChatGPT este dial no se te ofrece: OpenAI lo fijó por ti. Pero puedes conseguir un efecto primo a través del prompt — «responde de forma estrictamente factual» o «propón ideas inesperadas» desplazan las probabilidades en la misma dirección, con los medios a mano del Nivel 1: cambiando el comienzo del documento que el modelo prolonga.

¿En qué punto está la inmersión?

Nivel 2 explorado: ahora sabes que cada palabra que escribe una IA sale de una lotería cargada cuya audacia regula la temperatura. Combinado con el Nivel 1 — el viaje de tu mensaje y el bucle de predicción — ya tienes una vista del comportamiento completo de la máquina.

¿Listo para descender al Nivel 3?

Recapitulemos este nivel: en cada palabra, una distribución de probabilidades, un sorteo de lotería y un dial — la temperatura — que decide si el sorteo es sensato o audaz. Ni pensamiento, ni plan: una lotería cargada con un inmenso talento para cargarla.

Pero pensándolo bien… esos «tokens» que llevamos dos artículos sorteando, ¿por qué no son simplemente palabras? ¿Por qué «anticonstitucionalmente» cuesta más de procesar que «gato»? ¿Y por qué pedirle a ChatGPT que cuente las letras de «strawberry» («fresa», en inglés) lo pone en aprietos, cuando escribe ensayos enteros? En el Nivel 3 abrimos el diccionario secreto de las IA — y no volverás a mirar un texto de la misma manera. El artículo llega la próxima semana.

Mientras tanto, relee el Nivel 1, el viaje de tu mensaje si te unes a la serie sobre la marcha — cada nivel se apoya en los anteriores. Y como siempre, los comentarios están abiertos, con espíritu de apertura y amabilidad: tus preguntas alimentan directamente los próximos niveles.

– blaminhor