Toda introducción a las redes neuronales explica qué hacen los pesos y los sesgos. Un peso multiplica una entrada para hacerla más fuerte o más débil. Un sesgo desplaza el umbral de activación hacia la izquierda o la derecha. Juntos determinan si una neurona se activa. Pero casi nadie explica por qué se llaman así. Los nombres se tratan como etiquetas arbitrarias, como si los investigadores tempranos los hubieran llamado “clics” y “perillas” y habría sido lo mismo. No habría sido lo mismo. Los nombres cargan la historia — y la física — que la álgebra lineal oculta.
I. Peso — Del Contrafuerte Mecánico
La palabra “peso” en las redes neuronales proviene directamente de la mecánica, no de las matemáticas.
Antes de las básculas digitales, cada cultura usaba algún tipo de balanza. La más simple es la balanza de brazos iguales: pon lo que quieres medir en un platillo, añade pesos conocidos al otro, y observa hasta que la viga esté nivelada. Pero hay un dispositivo más instructivo: la romana (o balanza romana), donde un solo contrapeso se desliza a lo largo de un brazo graduado. El mismo peso colocado lejos del pivote contrabalancea una carga mucho más pesada cerca del pivote. La posición del peso — su distancia del fulcro — determina cuánta fuerza ejerce sobre el sistema.
Esta es la metáfora original del peso en una red neuronal. La entrada es la carga en la báscula. El peso es la posición del contrapeso en el brazo. Un peso cerca del pivote (valor pequeño) apenas afecta el balance. Un peso lejos del pivote (valor grande) lo domina. Multiplica la entrada por el peso, y el producto es el torque — la fuerza rotacional — que esa entrada contribuye a la decisión. La vez pasada tracé el perceptrón desde el Mark I de Rosenblatt hasta el transformador. Esta es la misma máquina, examinada desde adentro: lo que los pesos realmente son, físicamente, antes de que el álgebra lineal los suavice en abstracción.
Las redes neuronales son romanas con miles de brazos, cada uno llevando un contrapeso deslizante, cada uno contribuyendo torque a una sola viga de balance. El ingeniero de machine learning es la mano que desliza los pesos.
Las matemáticas ya tenían “coeficiente” (algo que actúa junto con una variable) y “parámetro” (un factor medible). Pero los investigadores tempranos de redes neuronales — McCulloch, Pitts, Rosenblatt — no eran principalmente matemáticos. Intentaban modelar el cerebro, y el cerebro es un sistema físico. Una sinapsis no “coeficienta” una señal. La pondera: la fortalece o la debilita, exactamente como un contrapeso mecánico amplifica o amortigua una fuerza. La palabra se eligió porque el mecanismo es mecánico, incluso cuando se implementa en silicio. El nombre mantiene la física visible.
II. Sesgo — Del Punto de Referencia
“Sesgo” tiene un origen diferente, y vale la pena detenerse en la confusión que causa, porque la confusión es iluminadora.
En estadística, un estimador es sesgado si se desvía sistemáticamente del valor verdadero. Una báscula sesgada siempre marca 2 kg de más; una encuesta sesgada siempre sobremuestrea una demografía. La palabra (bias en inglés) viene del juego de los bolos del siglo XVI — era la curva incorporada de una bola asimétrica que la hacía desviarse de la línea recta, una tendencia inscrita en la forma misma del objeto. Para el siglo XIX, “sesgo” significaba cualquier desviación sistemática de una referencia.
En electrónica, un voltaje de sesgo es un offset DC constante aplicado a un transistor o tubo de vacío para establecer su punto de operación. Sin sesgo, el dispositivo está en cero — cualquier señal, positiva o negativa, recibe el mismo tratamiento. Con sesgo, el dispositivo está sesgado hacia una región particular de su curva de respuesta, de modo que puede amplificar una señal fielmente. Sesgas un transistor de la misma manera que sesgas una bola de bolos: le das una tendencia incorporada para que responda correctamente a las fuerzas que te importan.
Warren McCulloch y Walter Pitts, en su artículo de 1943 “A Logical Calculus of Ideas Immanent in Nervous Activity”, modelaron la neurona como una unidad de lógica de umbral. Una neurona se activa si la suma de las entradas ponderadas excede un umbral. El umbral es el “sesgo” de la neurona — su tendencia de reposo a disparar o no disparar antes de que llegue cualquier entrada. Frank Rosenblatt, en el Perceptrón (1958), mantuvo el lenguaje. El perceptrón calcula una suma ponderada de entradas, añade un término de sesgo, y verifica si el resultado excede cero. El sesgo es el punto de referencia — la inclinación de base que determina cuánto tienen que empujar las entradas para inclinar la decisión. Sin un sesgo, cada perceptrón está forzado a pasar por el origen de su espacio de decisión, lo cual es una restricción severa y artificial. El sesgo le da libertad para dibujar su frontera de decisión en cualquier lugar.
Así que “sesgo” en una red neuronal no es un juicio de valor. Es la definición operacional de una referencia. Es el offset de voltaje que determina dónde está “cero”. Es la inclinación del poste antes de que llegue el viento.
III. El Bolígrafo en tu Dedo
Ahora une los dos con el objeto físico más simple que tienes: un bolígrafo equilibrado horizontalmente sobre la yema de tu dedo.
Extiendes la mano, palma arriba, dedo índice extendido. Colocas un bolígrafo sobre tu dedo, aproximadamente en su punto medio. Sueltas. El bolígrafo se inclina y cae. Lo intentas de nuevo, y esta vez, mientras se inclina, mueves tu dedo bajo el lado que cae. El bolígrafo se estabiliza. Estás haciendo exactamente lo que hace un perceptrón.
El bolígrafo tiene un centro de masa. Si el bolígrafo es uniforme, el centro está en su punto medio, justo sobre tu dedo. Pero si el bolígrafo tiene un clip en un extremo, o si es un bolígrafo metálico elegante con una tapa pesada, el centro de masa se desplaza. El clip es un peso — hace que la entrada de ese lado cuente más en la ecuación de balance. Si el lado del clip baja, la fuerza que lo jala hacia abajo es más fuerte que la fuerza del otro lado. Tu dedo debe moverse más para compensar. En el perceptrón: cada entrada es una fuerza. Cada peso es qué tan lejos del centro se aplica esa fuerza — el brazo de palanca. Un clip pesado en el lado izquierdo del bolígrafo es un peso grande en la entrada izquierda. La suma ponderada es el torque total alrededor de tu dedo.
Ahora imagina que el bolígrafo tiene un pequeño imán embebido en su lado izquierdo, y la yema de tu dedo tiene un imán correspondiente. Los imanes jalan el lado izquierdo hacia abajo incluso cuando el bolígrafo está perfectamente balanceado. Esta tensión constante e incorporada hacia abajo en el lado izquierdo es el sesgo. Desplaza el punto de equilibrio. Para balancear el bolígrafo, debes compensar no solo por el clip, sino por esta tensión magnética constante. En el perceptrón: el sesgo es el imán. Un sesgo positivo significa que la neurona está “ansiosa por dispararse” — el bolígrafo quiere inclinarse hacia la activación. Un sesgo negativo significa que es “reacia a dispararse” — el bolígrafo quiere quedarse abajo.
La yema de tu dedo no es infinitamente sensible. El bolígrafo puede inclinarse unos pocos grados antes de que te moleste en moverte. Esa zona muerta — el rango de ángulos donde no reaccionas — es el umbral de activación. Solo cuando la inclinación excede el umbral, tu mano actúa. En el perceptrón: la función de activación (escalón, sigmoide, ReLU) es tu reacción. Debajo del umbral, nada sucede (la neurona se queda apagada). Encima, te mueves (la neurona se activa). La combinación de pesos (brazos de palanca), sesgo (imán) y umbral (zona muerta) determina completamente el comportamiento del sistema.
El bolígrafo en tu dedo no es una metáfora. Es la misma física. Un perceptrón calcula una suma ponderada, añade un sesgo, y verifica un umbral. Un dedo equilibrando un bolígrafo calcula torques (fuerzas ponderadas), compensa asimetrías incorporadas (sesgo), y reacciona cuando la inclinación excede una zona muerta (umbral). La matemática de un perceptrón es la matemática del balance, reducida a su esqueleto y escrita en álgebra lineal.
IV. De un Solo Dedo a un Estadio
Un solo perceptrón es un bolígrafo sobre un dedo. Una red neuronal profunda son miles de bolígrafos equilibrados sobre miles de dedos, apilados en filas, donde el tambaleo de los bolígrafos en la fila 1 se convierte en la superficie que la fila 2 debe equilibrar.
- Capa 1: Tu dedo izquierdo equilibra un bolígrafo. El ángulo de ese bolígrafo es la salida de la primera capa.
- Capa 2: Tu dedo derecho equilibra un bolígrafo sobre el primero. La superficie ahora se mueve — el primer bolígrafo nunca está quieto — así que tu dedo derecho debe ajustarse constantemente.
- Capa 3: Un tercer bolígrafo equilibrado sobre el segundo.
La primera capa aprende rasgos gruesos: ¿hay un borde? ¿hay una vocal? La segunda aprende rasgos de rasgos: ¿hay una forma compuesta de bordes? La tercera aprende ¿hay un concepto compuesto de formas? Cada capa equilibra la inestabilidad producida por la capa de abajo, y la salida de la última capa es el equilibrio final: la predicción. En los funámbulos, llamé a esto un estadio de actos de balance. Aquí está el mismo estadio, entendido desde adentro: el balance de cada funámbulo es un bolígrafo sobre un dedo, y toda la torre es una cascada de pesos, sesgos y umbrales, cada capa convirtiendo su salida en la entrada de la siguiente.
Un LLM es esta torre, cientos de capas de altura, con miles de millones de bolígrafos, entrenado en billones de palabras. Cada palabra que escribes envía una onda a través de la torre, y lo que sale por la cima es la siguiente palabra — encontrada por el conjunto alcanzando, por un breve momento, un balance colectivo que corresponde al significado.
V. Lo que los Nombres Enseñan
Los nombres “peso” y “sesgo” no se eligieron arbitrariamente. Se eligieron porque las personas que construyeron las primeras redes neuronales entendían que lo que hacían era físico. No físico en el sentido de hardware — eran perfectamente conscientes de que escribían matemáticas — sino físico en el sentido de que las matemáticas modelaban un proceso mecánico real: la acumulación de fuerza hasta que se cruza un umbral.
Esto vale la pena retenerlo porque el campo tiene una fuerte tendencia a mistificarse. Cuanto más impresionantes son los resultados, más tentador se vuelve hablar de “emergencia”, “comprensión”, “razonamiento” — como si el mecanismo hubiera trascendido sus orígenes. No lo ha hecho. Un LLM sigue siendo un acto de balance. Es un estadio de funámbulos, o una torre de bolígrafos sobre dedos. La escala es asombrosa, pero el principio es el mismo que conocías de niño, la primera vez que intentaste equilibrar un lápiz sobre tu dedo y sentiste que el mundo te enseñaba, a través de tu propia mano, lo que el feedback y el equilibrio realmente son.
Si no puedes explicar un LLM con un bolígrafo y tu dedo, no lo entiendes lo suficiente. Entiendes las matemáticas, quizás — el álgebra lineal, la retropropagación, el mecanismo de atención — pero no entiendes la cosa. La cosa es un acto de balance, tan antiguo como la primera vez que un homínido agarró un palo y se preguntó por qué se tambaleaba.
VI. La Grieta por Donde Entra la Luz
Hay un extraño consuelo escondido en la maquinaria. Un peso y un sesgo son correcciones — existen solo porque el mundo no es simétrico, no está centrado, no está ya equilibrado. Un perceptrón sin pesos trata cada entrada de forma idéntica; un perceptrón sin sesgo está condenado a pasar por el origen, forzado a fingir que la frontera de decisión del mundo cruza amablemente por el cero. Ambos son el sueño de un universo simétrico y sin fricción. Y en tal universo no habría nada que aprender, porque no habría nada fuera de lugar.
Los físicos llegaron primero. El universo temprano era — casi — perfectamente simétrico: materia y antimateria en balance casi exacto. Si el balance hubiera sido perfecto, cada partícula habría encontrado a su opuesta y se habría aniquilado, dejando un cosmos de pura luz y nada de materia. Existimos por una falla en la simetría: aproximadamente una partícula extra de materia por cada mil millones, un término de sesgo en las ecuaciones de la creación. Philip Anderson escribió que la física es, casi, el estudio de la simetría — y todo lo interesante ocurre cuando esa simetría se rompe. Las galaxias, los planetas, el carbono en tu mano, el dedo que equilibra el bolígrafo: todo es el remanente de una cancelación casi perfecta que falló, por un pelo, en cancelarse.
Así que cuando dices que un mundo perfecto no necesitaría pesos ni sesgos, tienes toda la razón — y la conclusión es más oscura y más graciosa de lo que suena: en ese mundo perfecto no habría nadie para hacer la observación. Leonard Cohen conocía la forma de esto. Olvida tu ofrenda perfecta, cantó. Hay una grieta, una grieta en todo — así es como entra la luz. Una red neuronal es una máquina hecha enteramente de grietas: cada peso es un lugar donde el mundo se negó a ser uniforme, cada sesgo un lugar donde se negó a estar centrado. El modelo aprende encontrando las grietas e inclinándose hacia ellas. Eso no es un defecto del método. Es la única razón por la que hay algo que aprender — y, si los físicos tienen razón, la única razón por la que hay alguien aquí para aprenderlo.
Lecturas recomendadas
- McCulloch & Pitts, A Logical Calculus of Ideas Immanent in Nervous Activity (1943) — la unidad de lógica de umbral, donde el sesgo aparece por primera vez como concepto formal
- Rosenblatt, The Perceptron (1958) — la primera red neuronal entrenable, donde se nombran “peso” y “sesgo”
- Minsky & Papert, Perceptrons (1969) — la prueba rigurosa del techo de una sola capa
- Rumelhart, Hinton & Williams, Learning representations by back-propagating errors (1986) — la retropropagación como asignación de culpa de brazos de palanca
- Vaswani et al., Attention Is All You Need (2017) — la atención como recomputación dinámica de pesos por token
- 3Blue1Brown, But what is a neural network? — la intuición visual más clara para pesos y el pase hacia adelante
- Philip W. Anderson, More Is Different (1972) — la ruptura de simetría como fuente de toda estructura
- Leonard Cohen, Anthem (1992) — “hay una grieta en todo; así es como entra la luz”
