Tecnología

Es tentador tratar al tecnoaceleracionismo y al tecnofeudalismo como opuestos. Uno dice que la máquina debe correr más rápido, más lejos, más allá de todo freno institucional; el otro dice que la máquina ya fue capturada, reorganizada en torno a la renta, la extracción y el control centralizado. Uno suena a la promesa de una liberación total. El otro suena al diagnóstico de una dominación total. Pero la posibilidad más interesante es que no sean opuestos en absoluto — que sean dos proyecciones del mismo mito subyacente, contado desde los dos lados de la misma plataforma. …

Imaginá el mismo banco de ascensores a través de tres remodelaciones, separadas por quince años, aunque el ascensor mismo nunca parece envejecer: 1943, después 1949, después 1958. Nadie pone un cartel explicando de qué época es el panel de despacho que corre detrás de las puertas, y por un tramo, viajando en él, de verdad no podrías distinguirlos. Ese es el detalle que vale la pena detenerse a mirar. Un sistema que se comporta con inteligencia no anuncia qué clase de inteligencia tiene. Recién descubrís qué hay adentro cuando se equivoca, y mirás qué hace después. …

Abrí una terminal y escribí un comando que nunca habías corrido. Podés leer su código fuente, rastrear su salida, encadenarlo a otro comando, deshacer lo que haya hecho. Ahora intentá averiguar por qué te negaron el crédito, por qué te subió la prima del seguro, por qué un algoritmo de selección te puso por debajo de un desconocido. No podés. No porque el razonamiento sea demasiado complejo de explicar, sino porque nadie que construyó el sistema tenía intención de que lo vieras. Poné las dos cosas una al lado de la otra y aparece una pregunta que no tiene nada que ver con computadoras específicamente: ¿qué le debe un sistema a las personas que gobierna, y por qué algunos sistemas honran esa deuda mientras otros tratan la opacidad como una virtud? …

Una entrada anterior cerró con una pregunta que dije no estar calificado para responder: si la música es una llave y el oyente una cerradura que cambia, ¿puede una máquina aprender la forma de esa cerradura lo bastante bien como para cortar una llave a la medida — un suministro interminable de lo que encaja, adictivo precisamente porque encaja? Dije que sospechaba que sí. Eso no es una respuesta, es una corazonada, y una corazonada no te dice dónde está la línea. La versión honesta de la pregunta no es si la personalización puede volverse manipulación — claro que puede — sino dónde se ubica el umbral, y cómo sabrías si una plataforma específica, la que tenés abierta en la otra pestaña ahora mismo, ya lo cruzó. …

Pasaron dos punto seis millones de años entre el primer borde de piedra tallado a propósito y el primer uso controlado del fuego. Pasaron veintisiete años entre el internet público y una máquina que redacta un contrato al pedirlo. En algún lugar de esa aritmética está toda la historia de la invención humana, y no es principalmente una historia sobre herramientas cada vez mejores. Es una historia sobre el hueco entre herramientas encogiéndose, sin tregua, hasta que el hueco mismo se volvió la noticia. La IA no es una ruptura con esa historia. Es el punto más nuevo de una curva que dobla en la misma dirección desde que un homínido blandió por primera vez una piedra con filo — y la pregunta abierta es si una especie construida para el cambio a escala de milenios puede sobrevivir ahora uno a escala de décadas. …

Luca Pacioli no inventó la partida doble — los comerciantes venecianos ya la usaban desde hacía al menos un siglo antes de que su tratado de 1494 la pusiera por escrito — pero sí le puso nombre al verdadero truco de la disciplina. Cada transacción se anota dos veces, una como débito y otra como crédito, y si las dos columnas alguna vez no coinciden, hay un error en algún lugar del mundo que el libro describe. El genio del sistema no es que registre plata. Es que fabrica una alarma incorporada para cuando la realidad no coincide con el registro. Los historiadores de la ciencia mayormente ignoraron esto como fuente de método, archivándolo bajo comercio y no bajo epistemología. Pero corré el mismo truco sobre la naturaleza en vez de sobre el depósito de un comerciante, y una porción sorprendente de la historia del descubrimiento resulta ser exactamente esto: alguien auditando un libro contable, encontrando que no cerraba, y nombrando lo que faltaba para que cerrara. …

En 1926, cincuenta años después de la patente de Bell, el Comité de Educación de Adultos de los Caballeros de Colón hizo circular una lista de preguntas de discusión para sus grupos de estudio. Dos de ellas, textuales: ¿El teléfono hace a los hombres más activos o más perezosos? Y: ¿El teléfono destruye la vida del hogar y la vieja costumbre de visitar a los amigos? Léalas otra vez y cambie el sustantivo. Medio siglo después de la llegada de la tecnología — no en su fase de novedad, no en la primera oleada de alarma, sino dos generaciones adentro, cuando todo hogar que podía pagarlo tenía uno — había adultos serios reuniéndose a preguntarse si el aparato los estaba volviendo perezosos y les estaba disolviendo la familia. Es el discurso de esta década con los números de serie limados. Lo único que cambió en cien años es el objeto sobre la mesa. …

Toda introducción a las redes neuronales explica qué hacen los pesos y los sesgos. Un peso multiplica una entrada para hacerla más fuerte o más débil. Un sesgo desplaza el umbral de activación hacia la izquierda o la derecha. Juntos determinan si una neurona se activa. Pero casi nadie explica por qué se llaman así. Los nombres se tratan como etiquetas arbitrarias, como si los investigadores tempranos los hubieran llamado “clics” y “perillas” y habría sido lo mismo. No habría sido lo mismo. Los nombres cargan la historia — y la física — que la álgebra lineal oculta. …

Imagina un estadio. No con público, sino con el campo mismo cubierto de funámbulos, dispuestos en filas, cada uno sobre un cable, cada uno sosteniendo una pértiga larga. Te paras en un extremo y gritas una palabra. Los funámbulos de la primera fila la sienten—cada uno distinto, según dónde estén parados—y se tambalean, encuentran su equilibrio, y sus lámparas se encienden a distintos brillos. Ese patrón de luz cae sobre la segunda fila. Se equilibran. Sus lámparas encienden la tercera. Y así, a través de cientos de filas, hasta que las luces de la última fila deletrean una sola cosa: la siguiente palabra. Luego agregas esa palabra a lo que gritaste y lo haces todo de nuevo. Y otra vez, hasta tener una oración, un párrafo, una respuesta. …

En 1958, Frank Rosenblatt construyó una máquina capaz de aprender. No de ser programada—aprender. El Perceptrón Mark I era una habitación de cables y potenciómetros motorizados conectados a una rejilla de cuatrocientas fotoceldas, y cuando le mostrabas imágenes, se ajustaba a sí misma hasta poder distinguirlas. El New York Times informó que la Marina esperaba que pronto pudiera “caminar, hablar, ver, escribir, reproducirse y ser consciente de su propia existencia.” No podía hacer ninguna de esas cosas. Lo que sí podía hacer era trazar una línea. …