¿Se parece una neurona artificial a una neurona del cerebro?

Solo desde muy lejos. La inspiración histórica es real — entradas, conexiones de fuerza variable, un umbral de disparo —, pero una neurona biológica es infinitamente más compleja (química, tiempos, plasticidad). De hecho, los investigadores prefieren hablar de «unidades»: es un modelo matemático que cobró vida propia, no una copia del cerebro.

¿Qué es la función de activación?

El pequeño filtro aplicado a la salida de cada neurona — por ejemplo, «si el resultado es negativo, pasa un cero» (la famosa ReLU). Parece trivial, pero es vital: sin ese toque de no linealidad, una pila de mil capas colapsaría matemáticamente en una sola, y la red no podría aprender nada sutil.

¿Más parámetros significan necesariamente más inteligencia?

Es una tendencia fuerte, no una ley: a igual entrenamiento, los modelos grandes captan más matices. Pero la calidad de los datos, el tiempo de entrenamiento y las técnicas de ajuste fino pesan muchísimo — un modelo mediano bien entrenado le gana con regularidad a un gigante mal alimentado. De hecho, la carrera hacia el gigantismo se ha reequilibrado hacia la eficiencia.

¿Puede mi computadora ejecutar un modelo de lenguaje?

Sí, los pequeños: herramientas gratuitas como Ollama o LM Studio ejecutan modelos open source de 1000 a 20 000 millones de parámetros en una computadora reciente — cuenta alrededor de 1 GB de memoria por cada mil millones de parámetros (en forma comprimida). Los gigantes de la clase GPT-4, Claude o Gemini, en cambio, exigen clústeres de servidores.

¿Por qué lo llamamos aprendizaje «profundo»?

La profundidad es el número de capas atravesadas entre la entrada y la salida. Las redes de los años noventa tenían dos o tres; los modelos de lenguaje actuales apilan decenas, hasta más de cien. «Aprender profundo» significa, literalmente, aprender a través de muchos pisos sucesivos de cálculo.

Neuronas artificiales: el gran cálculo de la IA explicado

Desde el Nivel 1 vengo dibujando el corazón de una IA como una caja azul con la etiqueta «el gran cálculo». Hoy la abrimos. Bienvenido al Nivel 5, la sala de máquinas de «La inmersión»: aquella donde por fin conoces a la neurona artificial, sus pesos, sus capas — y la primera ecuación de verdad de la serie. Te veo palidecer: te prometo que cabe en una línea, que no contiene más que multiplicaciones y sumas, y que hasta vas a calcularla de cabeza. El ladrillo básico de una IA es simple; lo vertiginoso es el número. Vamos, empujemos la puerta.

Lo esencial

Una neurona artificial no hace más que multiplicar, sumar, filtrar — la ecuación cabe en una línea.
Los pesos (cuánto importa cada conexión) son los famosos parámetros: GPT-3 tiene 175 000 millones repartidos en 96 capas; Llama 3.1 405B de Meta, 405 000 millones en 126 capas.
Todo el conocimiento del modelo vive en sus pesos — dentro no hay nada más: ni reglas, ni textos almacenados.
Una capa = una tabla enorme de pesos (una matriz); el trabajo de las GPU es multiplicar esas tablas a toda velocidad.
La inspiración biológica es real pero lejana: una neurona artificial es un objeto matemático, no una copia del cerebro.

¿Cómo es en realidad una neurona artificial?

Como un sopesar de argumentos. La neurona recibe números, multiplica cada uno por un peso que refleja su importancia — positiva o negativa —, lo suma todo, añade su sesgo y produce un único número. Aquí está la ecuación prometida:

salida = (x₁ × w₁) + (x₂ × w₂) + (x₃ × w₃) + b

Démosle un trabajo a nuestra neurona: decidir si es buen momento para salir al jardín. Mira tres cosas, cada una puntuada de 0 (para nada) a 1 (del todo):

x₁, x₂, x₃, las entradas — lo que la neurona recibe para evaluar. Aquí, tres lecturas del clima: el sol (x₁ = 0.9 en un día radiante), la lluvia (x₂ = 0.1, unas gotas), el calor del aire (x₃ = 0.8). Estos números no salen de la nada: en una IA real son las coordenadas del embedding del Nivel 4 — los números que representan tu palabra.
w₁, w₂, w₃, los pesos — la importancia, aprendida durante el entrenamiento, que la neurona le da a cada entrada. El sol anima con fuerza (w₁ = +0.7); la lluvia lo arruina todo, así que su peso es negativo (w₂ = −0.8); el calor ayuda un poco (w₃ = +0.4). Cada entrada tiene el suyo: x₁ se multiplica por w₁, x₂ por w₂, x₃ por w₃.
b, el sesgo — un ajuste añadido justo al final, el humor de partida de la neurona. Aquí es prudente (b = −0.3): en condiciones neutras, se inclina por el «no».
salida — el único número que resulta, y que luego pasa a las neuronas siguientes.

Dicho de otro modo: multiplica cada entrada por su peso, suma las tres, añade el sesgo. Solo queda hacer el cálculo.

Una neurona entera, calculada a mano: un día espléndido (sol 0.9, lluvia 0.1, calor 0.8) → 0.57, veredicto favorable. Cambia la lluvia a 0.9 y rehaz el cálculo: −0.07, nos quedamos adentro.

Tómate el tiempo de rehacer el cálculo del diagrama — esa es toda la maquinaria de una neurona; no hay nada más que entender. Falta un último toque: antes de pasar al piso siguiente, la salida se filtra (la «función de activación» — la más común se limita a reemplazar los números negativos por cero). Este filtro parece decorativo; en realidad es indispensable, y vuelvo a él en las preguntas frecuentes. Lo que hay que recordar: el conocimiento de una neurona no está en su cálculo, que nunca cambia — está en sus pesos. Nuestra neurona jardinera «sabe» que la lluvia arruina la jardinería solo porque w₂ vale −0.8.

¿Por qué hablamos de «capas»?

Porque las neuronas trabajan en equipos apilados: una capa son miles de neuronas que leen las mismas entradas en paralelo, cada una con sus propios pesos; sus salidas se convierten en las entradas de la capa siguiente. La información atraviesa así decenas de pisos de cálculo — de ahí el aprendizaje «profundo». En vez de describírtelo, te lo hago calcular: conservamos nuestro día de jardín — sol 0.9, lluvia 0.1, calor 0.8 — y le añadimos dos pisos.

Capa 1 — tres oficios. Lo primero: degradar a nuestra neurona. Sola, decidía si convenía salir al jardín — era el modelo entero. Metida en una primera capa, ya no decide nada: se convierte en la neurona A, una opinión entre otras, y su pregunta se encoge con su papel — ya no «¿salimos al jardín?», sino «¿se está bien afuera?». Sus pesos, en cambio, no se han movido ni un ápice, y su resultado tampoco. Es la misma pesada; lo que ha cambiado es la pregunta que se le plantea alrededor. A su lado, dos colegas leen exactamente las mismas tres lecturas — sol 0.9, lluvia 0.1, calor 0.8 — cada una con su oficio, y por tanto sus pesos.

A, «¿se está bien afuera?» — los pesos y el sesgo del diagrama anterior, sin cambios (+0.7, −0.8, +0.4, sesgo −0.3): (0.9 × 0.7) + (0.1 × −0.8) + (0.8 × 0.4) − 0.3 = 0.63 − 0.08 + 0.32 − 0.3 = 0.57
B, «¿se puede trabajar la tierra?» — el sol la seca (−0.2), una lluvia reciente la ablanda (+0.9), el calor cuenta poco (+0.1), sesgo +0.1: (0.9 × −0.2) + (0.1 × 0.9) + (0.8 × 0.1) + 0.1 = −0.18 + 0.09 + 0.08 + 0.1 = 0.09
C, «¿sufren las plantas la sequía?» — el sol la agrava (+0.6), la lluvia la alivia (−0.7), el aire templado la agrava un poco (+0.3), sesgo −0.1: (0.9 × 0.6) + (0.1 × −0.7) + (0.8 × 0.3) − 0.1 = 0.54 − 0.07 + 0.24 − 0.1 = 0.61

Tres lecturas de los mismos tres números: A es claramente favorable, B modera (la tierra está dura), C alerta (las plantas tienen sed). Fíjate en la lluvia: peso negativo en A, positivo en B, negativo en C — la misma entrada, tres oficios, tres signos. Eso es lo que hace que una capa sea un equipo y no una redundancia.

Capa 2 — dos decisiones. Un piso más arriba, dos neuronas ya no ven el tiempo en absoluto: sus entradas son las tres opiniones, 0.57, 0.09 y 0.61 (todas positivas — el filtro de activación mencionado antes no tuvo nada que retocar, y así será en cada piso de este ejemplo). Y ya no responden a la misma pregunta: la capa ha dividido el problema en dos decisiones.

D, «¿buena ventana para plantar?» — escucha a A (+0.8) y sobre todo a B (+0.9), y desconfía de C (−0.6), sesgo −0.1: (0.57 × 0.8) + (0.09 × 0.9) + (0.61 × −0.6) − 0.1 = 0.456 + 0.081 − 0.366 − 0.1 = 0.071; redondeando, 0.07
E, «¿hay que regar?» — A le interesa poco (+0.1), B la frena (−0.3), C la decide (+0.9), sesgo 0: (0.57 × 0.1) + (0.09 × −0.3) + (0.61 × 0.9) = 0.057 − 0.027 + 0.549 = 0.579, o sea 0.58

Dos veredictos opuestos, sacados de las mismas tres opiniones: D dice que no, E dice que sí.

Capa 3 — la decisión. Una última neurona, F, solo lee esos dos veredictos, 0.07 y 0.58.

F, «¿qué hacemos hoy en el jardín?» — pesa a D (+0.9) y a E (+0.6), sesgo −0.1: (0.07 × 0.9) + (0.58 × 0.6) − 0.1 = 0.063 + 0.348 − 0.1 = 0.311, o sea 0.31

El diagrama de abajo recoge los seis cálculos, una píldora por neurona.

Un color por lectura — sol, lluvia, calor — para seguir cada influencia incluso donde las flechas se cruzan; línea continua, peso positivo; discontinua, negativo; y cuanto más grueso el trazo, mayor el peso. Tres neuronas leen los mismos tres números, otras dos pesan solo sus dictámenes, una última decide. Cada píldora es el valor que la neurona pasa a la capa siguiente.

Relee ahora las etiquetas del diagrama, de izquierda a derecha. Sola, la neurona A decía 0.57: sal, hace buen tiempo. Tres pisos más allá, la red dice 0.31 — un «sí» tibio — pero sobre todo dice qué: plantar obtiene apenas 0.07; regar, 0.58. Salimos, sí: a regar, no a plantar. Nadie escribió esa conclusión en ninguna parte; ninguna de las seis neuronas hizo otra cosa que multiplicar y sumar, ninguna «sabe» qué es un jardín. Cada piso trabaja sobre las conclusiones del piso anterior: es el ensamblaje el que produce el matiz, no la neurona. Fíjate también en la forma del edificio: tres entradas, tres neuronas, luego dos, luego una — las capas se estrechan hacia la decisión. Pasa de tres neuronas por capa a decenas de miles, y de tres pisos a 96: ahí tienes GPT-3.

En un modelo de lenguaje, lo que entra en la primera capa son los embeddings del Nivel 4. Luego, piso tras piso, las representaciones se van afinando — las primeras capas tienden a captar regularidades locales del idioma; las capas profundas, cosas más abstractas. Aquí te debo una advertencia de honestidad: esta descripción en «pisos de comprensión» es una simplificación cómoda, y la realidad que observan los investigadores en interpretabilidad es más enredada. Lo que sí es seguro es el mecanismo: sopesamientos, cuyos resultados se sopesan, cuyos resultados se sopesan — 96 veces seguidas en GPT-3.

¿Dónde están los famosos «parámetros» de los que todo el mundo habla?

Ya los conoces: los parámetros son los pesos (y los sesgos). Nuestra neurona de juguete tenía 4; GPT-3 tiene 175 000 millones, y el Llama más grande de Meta, 405 000 millones. Así que cuando decimos que un modelo «tiene 405 000 millones de parámetros», estamos contando sus números ajustables — el volumen total de sus reglajes.

Y aquí llega el empalme con todo lo que hemos visto, el momento en que la inmersión cierra su bucle técnico. Los pesos de una capa se ordenan de forma natural en una tabla enorme de números — en matemáticas, una matriz. Hacer pasar tus embeddings por una capa significa multiplicar esas tablas entre sí. Ahora recuerda el Nivel 1: las GPU, esas tarjetas gráficas inventadas para los videojuegos, sobresalen precisamente en multiplicar tablas enormes de números. Por eso la IA del mundo corre sobre hardware de gamers: generar una palabra es hacer desfilar matrices por 96 pisos de multiplicaciones.

Modelo (año)	Parámetros	Capas
GPT-2 (2019)	1500 millones	48
GPT-3 (2020)	175 000 millones	96
Llama 3.1, el más grande (2024)	405 000 millones	126
Modelos «locales» pequeños (Ollama…)	de 1000 a 20 000 millones	16 a 40

¿Cómo produce sentido este cálculo?

Deformando el espacio de embeddings, capa tras capa. Cada piso desplaza los puntos-palabra; a lo largo de los pisos, la representación de tu frase migra hacia una posición desde la cual la operación final puede leer directamente las probabilidades de la palabra siguiente — nuestra bolsa de tokens del Nivel 2.

Es la imagen que une los Niveles 4 y 5. Retoma el mapa del sentido: tu frase entra como una constelación de puntos. La primera capa los mueve un poco, la segunda un poco más, y así sucesivamente — el gran cálculo es una coreografía: 96 desplazamientos sucesivos en el espacio del sentido. Escribe «La fresa del huerto está»: a lo largo de las capas, la representación deriva hacia la región donde «roja», «dulce» y «madura» son las salidas naturales, y se aleja de aquella donde vive «embotellamiento».

Una confesión para terminar: ¿por qué funciona tan bien esta coreografía aprendida? La pregunta no está del todo resuelta — la interpretabilidad de las redes es un campo de investigación activo, no un capítulo cerrado. Sabemos construir estas máquinas, entrenarlas, medirlas; solo sabemos en parte decir qué hace cada capa. Prefiero decírtelo sin rodeos: en el fondo del mar todavía quedan aguas oscuras.

El día que escuché los miles de millones de multiplicaciones

¿Quieres que todo esto se vuelva físico? Ejecuta un modelo pequeño en casa. Con una herramienta gratuita como Ollama, un modelo open source de unos cuantos miles de millones de parámetros se instala en diez minutos en una computadora reciente.

Lo que más me impactó la primera vez no fue la calidad de las respuestas: fue el ventilador. Haces una pregunta y la máquina se pone a soplar — cada palabra generada son miles de millones de multiplicaciones calentando tu procesador, el gran cálculo hecho audible. También llegas a sentir la diferencia de tamaño: un modelo pequeño de 3000 millones de parámetros responde rápido y a veces dice tonterías; uno de 8000 millones ya es más fino, pero exige su memoria — cuenta más o menos 1 GB por cada mil millones de parámetros en forma comprimida. Después de eso, los «175 000 millones» de GPT-3 dejan de ser una cifra de marketing: sabes lo que tu máquina soporta por una fracción minúscula de eso.

¿Por dónde va la inmersión?

La sala de máquinas está abierta. Solo falta una pieza del motor — y es la más famosa de todas.

¿Listo para bajar al Nivel 6?

Resumamos la sala de máquinas: neuronas que sopesan, apiladas en capas que deforman el espacio del sentido, y miles de millones de pesos donde reside todo el conocimiento. Multiplicar, sumar, filtrar — 96 pisos seguidos.

Pero falta una pieza, y no una cualquiera. La red que acabo de describir trata cada posición de la frase demasiado aislada de las demás. Sin embargo, en «el ratón que el gato perseguía era gris», ¿cuál de los dos es gris? Para saberlo, la palabra «gris» tiene que ir a mirar a «ratón», asomándose por encima del hombro de «gato». Esa mirada que las palabras se lanzan entre sí es la atención — el mecanismo que le dio su nombre al artículo «Attention Is All You Need» y su arquitectura a toda la IA moderna. Nivel 6, la próxima semana: por fin diseccionamos la pieza central — incluido el softmax prometido desde el Nivel 2.

¿Llegas nuevo a la serie? Todo empieza en el Nivel 1, el viaje de tu mensaje. Y los comentarios te esperan, con espíritu de apertura y amabilidad.

– blaminhor