En Cien años de soledad, cuando los gitanos llevan una manta voladora a Macondo, José Arcadio Buendía permanece impasible. “Que sueñen”, dice. “Nosotros volaremos mejor que ellos, y con más recursos científicos que una manta miserable”. Es el racionalista en un pueblo de magia—el único hombre empeñado en entender cómo funcionan realmente las cosas en lugar de deslumbrarse por cómo parecen.

Luego se ata a un castaño y nunca se recupera.

Esa ironía merece sostenerse. El peligro de la exageración sobre IA no es solo que sea falsa. Es que es seductora incluso—especialmente—para quienes saben identificarla. La capacidad de reconocer una ilusión y la susceptibilidad de dejarse seducir por ella no son opuestas. Coexisten en la misma persona, en el mismo momento, moldeadas por estructuras económicas e incentivos sociales que hacen que la creencia sea racional incluso cuando sus objetos no lo son.

I. La manta con nuevo lenguaje

El momento actual de IA se caracteriza por un rebranding particular. No simplemente estamos impresionados por lo que los modelos de lenguaje pueden hacer—estamos llamándolos inteligentes, conscientes, generales, y próximamente superhermanos. La tecnología es real. La categoría está prestada.

Los LLMs son logros genuinos. Comprimen y recombinan el lenguaje humano a una escala que ningún sistema anterior alcanzó. La ingeniería importa. El error está en la traducción: una herramienta notable para predecir texto ha sido renombrada como razonamiento. Un sistema entrenado para interpolar patrones en la producción humana ha sido llamado agente. Un predictor de texto que produce continuaciones plausibles ha sido descrito como pensante.

El vocabulario cuenta la historia de la sustitución: “alucinación” en lugar de “error”. “Razonamiento” en lugar de “completación de patrones”. “Alineación” en lugar de “restricción”. “Inteligencia” en lugar de interpolación. Cada cambio de palabra importa implicaciones que la matemática subyacente no sostiene. La manta ha recibido un nuevo nombre, y el nombre está haciendo el trabajo.

II. La estructura económica de la convicción

“Sé que no es fácil porque tenemos que comer”. Esta es la frase que la mayoría de las críticas de la industria omiten, pero es la honesta.

La exageración no es puramente cínica. Algunas de las personas que hacen afirmaciones extravagantes las creen, o han aprendido a creerlas porque la creencia es profesionalmente recompensada. Cuando el mercado de una tecnología requiere una historia lo suficientemente grande para justificar valuaciones, y la creencia es incentivada financieramente, el límite entre marketing y convicción se disuelve. La persona que actúa la creencia tan consistentemente que se vuelve indistinguible del conocimiento no es necesariamente deshonesta. Está respondiendo racionalmente a estructuras de incentivo.

Esta sociología de la convicción no es nueva. La burbuja de las puntocom tuvo verdaderos creyentes. La crisis de hipotecas de riesgo subprime tuvo analistas que genuinamente creían que los modelos funcionaban. Cada ciclo de exageración tecnológica genera un ecosistema donde las personas pueden ser simultáneamente escépticas sobre la exageración en general y completamente crédulas sobre la exageración específica más cercana a ellas. La confesión que vale la pena hacer: incluso personas que pueden identificar el patrón quedan atrapadas en él. Hay algo gravitacionalmente cautivador en estar cerca de la frontera, cerca de personas construyendo cosas que no existían hace cinco años. Jobs, Musk, Gates, Altman—las biografías crean una atracción. La susceptibilidad a la exageración y la capacidad de identificarla pueden ocupar la misma mente.

Esto no es debilidad. Es exposición.

III. La alquimia no era fraude

IA no es la primera tecnología vestida con el lenguaje de la magia. La alquimia no era simplemente estafa—era una protoquímica que produjo hallazgos genuinos (destilación, nuevos ácidos, aleaciones novedosas) mientras afirmaba perseguir lo imposible (oro de plomo). Los alquimistas que fueron más productivos fueron a menudo aquellos más sinceros sobre su objetivo imposible. Los descubrimientos genuinos emergieron junto al marco genuinamente equivocado.

La historia muestra un patrón. El invierno de IA de 1973 (el Reporte Lighthill) mató el financiamiento de IA británico porque las afirmaciones de capacidad habían corrido décadas por delante de la demostración. El colapso de las máquinas Lisp de 1987 siguió el mismo patrón: la promesa era ciencia ficción; la entrega era una caja especializada. Cada vez, la contracción fue severa. Cada vez, la recuperación requirió fundamentos más honestos.

El patrón es reconocible. Lo que es difícil de predecir: si estamos en una fase donde las afirmaciones de capacidad aún corren por delante de lo que puede demostrarse, o si las capacidades actuales genuinamente justifican el lenguaje ahora siendo usado. Marvin Minsky en 1970: “En tres a ocho años tendremos una máquina con la inteligencia general de un ser humano promedio”. La cita es famosa porque estaba equivocada, pero también porque fue dicha por la persona más seria en el campo. La seriedad y el exceso no son opuestos en tecnología. Las mentes más rigurosas pueden generar los sobreenunciados más elaborados.

IV. El apocalipsis como argumento de venta

Un cambio que merece ser nombrado: las compañías de IA han adoptado el vocabulario escatológico—superinteligencia, riesgo existencial, el fin del trabajo, el fin de la humanidad—no como advertencia sino como argumento de venta. El Terminator está siendo usado para vender el producto, no para asustar a la gente alejándola de él.

Esta inversión merece ser nombrada. La narrativa del apocalipsis ha sido capturada por las personas con el interés financiero más directo en que la narrativa del apocalipsis sea verdadera. El altruismo efectivo, la industria del alineamiento, el discurso de “pausar IA”—todo puede coexistir con valuaciones que dependen de que la amenaza sea creída. Cuanto más altas las apuestas, más urgente la compra. El apocalipsis es el departamento de ventas.

Cuando las mismas personas que profetizar riesgo existencial también están recaudando capital y vendiendo acceso, las categorías colapsan. La advertencia y la oferta se vuelven indistinguibles. Esto no es hipocresía a nivel individual. Es estructural. El incentivo de creer está construido en la fundación económica.

V. El mapa y el árbol

La tragedia de José Arcadio Buendía no es que fuera irracional. Era, en muchos sentidos, la persona más racional en Macondo. Tenía mapas e instrumentos. Podía ver a través del truco de la manta de los gitanos. Su tragedia fue que no pudo sostener juntas su capacidad de análisis claro y su susceptibilidad a la obsesión. No pudo distinguir entre el mapa que había dibujado y el territorio que se suponía representaba. Confundió la elegancia de su propio pensamiento con prueba.

Terminó atado a un árbol, murmurando en sánscrito, incapaz de ser alcanzado.

El fundamento requerido no es escepticismo como postura. Las posturas se adoptan y se abandonan cuando los incentivos cambian. El fundamento requerido es el hábito de preguntar, repetidamente y sin fatiga: ¿Qué demuestra esto realmente? No qué sugiere. No qué podría implicar. No qué historia licencia. Qué sostiene la evidencia.

Los LLMs demuestran que redes neuronales muy grandes entrenadas en corpus de texto muy grandes producen salidas que son útiles en un amplio rango de tareas de texto. Ese es un hallazgo que vale la pena tener. Todo más allá de eso—sentencia, agencia, inteligencia general, la singularidad—es la manta, draped ahora en el lenguaje de la ciencia.

Podemos hacerlo mejor que una manta miserable. Solo tenemos que ser honestos sobre qué estamos realmente construyendo.

Lecturas adicionales

  • Gabriel García Márquez, Cien años de soledad — el texto fundamental; José Arcadio Buendía y la tensión entre racionalismo y obsesión
  • Emily Bender, Timnit Gebru, et al., “On the Dangers of Stochastic Parrots” (2021, FAccT) — el caso técnico de lo que realmente hacen los modelos de lenguaje versus lo que se afirma
  • Alan Turing, “Computing Machinery and Intelligence” (1950) — el juego de la imitación como provocación filosófica, no prueba definitiva
  • James Gleick, La Información — cómo cada nueva tecnología de información hereda afirmaciones metafísicas de sus predecesoras
  • Marvin Minsky, citado en Time, 1970 — el patrón recurrente de sobrepromesa en IA