Dans Cent ans de solitude, quand les Gitans apportent un tapis volant à Macondo, José Arcadio Buendía reste impassible. “Qu’ils rêvent,” dit-il. “Nous volerons mieux qu’eux, et avec plus de ressources scientifiques qu’un misérable tapis.” Il est le rationaliste dans un village de magie—le seul homme déterminé à comprendre comment les choses fonctionnent réellement plutôt que d’être ébloui par leur apparence.

Puis il s’attache à un châtaignier et ne se remet jamais.

Cette ironie mérite d’être maintenue. Le danger du battage médiatique sur l’IA n’est pas seulement qu’il soit faux. C’est qu’il est séduisant même—particulièrement—pour ceux qui savent le reconnaître. La capacité à identifier une illusion et la susceptibilité d’en être séduit ne sont pas opposées. Elles coexistent dans la même personne, au même moment, modelées par des structures économiques et des incitations sociales qui rendent la croyance rationnelle même quand ses objets ne le sont pas.

I. Le tapis dans un nouveau langage

Le moment actuel de l’IA se caractérise par un rebranding particulier. Nous ne sommes pas simplement impressionnés par ce que les modèles de langage peuvent faire—nous les appelons intelligents, conscients, généraux, et imminement surhumains. La technologie est réelle. La catégorie est empruntée.

Les LLMs sont des réalisations authentiques. Ils compriment et recombinent le langage humain à une échelle qu’aucun système antérieur n’a approchée. L’ingénierie compte. L’erreur réside dans la traduction : un outil remarquable pour prédire le texte a été renommé comme raisonnement. Un système entraîné à interpoler des motifs dans la production humaine a été appelé un agent. Un prédicteur de texte qui produit des continuations plausibles a été décrit comme pensant.

Le vocabulaire raconte l’histoire de la substitution : “hallucination” au lieu d’“erreur”. “Raisonnement” au lieu de “complétude de motifs”. “Alignement” au lieu de “contrainte”. “Intelligence” au lieu d’interpolation. Chaque changement de mot importe des implications que les mathématiques sous-jacentes ne soutiennent pas. Le tapis a reçu un nouveau nom, et le nom fait le travail.

II. La structure économique de la conviction

“Je sais que ce n’est pas facile parce que nous devons manger.” C’est la phrase que la plupart des critiques de l’industrie omettent, mais elle est l’honnête.

Le battage n’est pas purement cynique. Certaines des personnes qui font des affirmations extravagantes y croient, ou ont appris à y croire parce que la croyance est professionnellement récompensée. Quand le marché d’une technologie exige une histoire suffisamment grande pour justifier les valorisations, et que la croyance est financièrement incitée, la frontière entre le marketing et la conviction se dissout. La personne qui joue la croyance si constamment qu’elle devient indistinguible de la connaissance n’est pas nécessairement malhonnête. Elle répond rationnellement à des structures d’incitation.

Cette sociologie de la conviction n’est pas nouvelle. La bulle Internet a eu de vrais croyants. La crise des hypothèques à risque a eu des analystes qui croyaient vraiment que les modèles fonctionnaient. Chaque cycle de battage technologique génère un écosystème où les personnes peuvent être simultanément sceptiques sur le battage en général et complètement crédules sur le battage spécifique le plus proche d’elles. L’aveu qui vaut la peine : même ceux qui peuvent identifier le motif y sont pris. Il y a quelque chose de gravitationnellement captivant à être près de la frontière, près des personnes qui construisent des choses qui n’existaient pas il y a cinq ans. Jobs, Musk, Gates, Altman—les biographies créent une attraction. La susceptibilité au battage et la capacité à l’identifier peuvent occuper le même esprit.

Ce n’est pas une faiblesse. C’est une exposition.

III. L’alchimie n’était pas une fraude

L’IA n’est pas la première technologie vêtue du langage de la magie. L’alchimie n’était pas simplement l’arnaque—c’était une protochimie qui a produit des découvertes authentiques (distillation, nouveaux acides, alliages novateurs) tout en prétendant poursuivre l’impossible (l’or du plomb). Les alchimistes qui ont été les plus productifs ont souvent été ceux les plus sincères quant à leur objectif impossible. Les découvertes authentiques ont émergé aux côtés du cadre authentiquement erroné.

L’histoire montre un motif. L’hiver de l’IA de 1973 (le Rapport Lighthill) a tué le financement britannique de l’IA parce que les affirmations de capacité avaient devancé la démonstration de décennies. L’effondrement des machines Lisp de 1987 a suivi le même motif : la promesse était de la science-fiction ; la livraison était une boîte spécialisée. À chaque fois, la contraction a été sévère. À chaque fois, la reprise a exigé des fondations plus honnêtes.

Le modèle est reconnaissable. Ce qui est difficile à prédire : si nous sommes dans une phase où les affirmations de capacité devancent encore ce qui peut être démontré, ou si les capacités actuelles justifient réellement le langage en cours d’utilisation. Marvin Minsky en 1970 : “En trois à huit ans, nous aurons une machine avec l’intelligence générale d’un être humain moyen.” La citation est célèbre parce qu’elle était fausse, mais aussi parce qu’elle a été prononcée par la personne la plus sérieuse dans le domaine. La sériosité et l’excès ne sont pas opposés en technologie. Les esprits les plus rigoureux peuvent générer les surénonciations les plus élaborées.

IV. L’apocalypse comme argument de vente

Un changement qui mérite d’être nommé : les entreprises d’IA ont adopté le vocabulaire eschatologique—superintelligence, risque existentiel, la fin du travail, la fin de l’humanité—non pas comme un avertissement mais comme un argument de vente. Le Terminator est utilisé pour vendre le produit, pas pour effrayer les gens loin de lui.

Cette inversion mérite d’être nommée. Le récit de l’apocalypse a été capturé par les personnes ayant l’intérêt financier le plus direct dans le fait que le récit de l’apocalypse soit vrai. L’altruisme efficace, l’industrie de l’alignement, le discours de “pause IA”—tout peut coexister avec les valorisations qui dépendent de la croyance à la menace. Plus les enjeux sont élevés, plus l’achat est urgent. L’apocalypse est le département des ventes.

Quand les mêmes personnes prophétisant le risque existentiel lèvent également des capitaux et vendent l’accès, les catégories s’effondrent. L’avertissement et l’offre deviennent indistincts. Ce n’est pas l’hypocrisie au niveau individuel. C’est structurel. L’incitation à croire est construite dans la fondation économique.

V. La carte et l’arbre

La tragédie de José Arcadio Buendía n’est pas qu’il soit irrationnel. Il était, à de nombreux égards, la personne la plus rationnelle de Macondo. Il avait des cartes et des instruments. Il pouvait voir à travers le truc du tapis des Gitans. Sa tragédie était qu’il ne pouvait pas maintenir ensemble sa capacité d’analyse claire et sa susceptibilité à l’obsession. Il ne pouvait pas distinguer entre la carte qu’il avait tracée et le territoire qu’elle était censée représenter. Il a confondu l’élégance de sa propre pensée avec la preuve.

Il a fini attaché à un arbre, marmonant en sanskrit, incapable d’être atteint.

L’ancrage nécessaire n’est pas le scepticisme comme posture. Les postures s’adoptent et s’abandonnent quand les incitations changent. L’ancrage nécessaire est l’habitude de demander, répétée et sans fatigue : Qu’est-ce que cela démontre réellement ? Pas ce qu’il suggère. Pas ce qu’il pourrait impliquer. Pas quelle histoire il autorise. Qu’est-ce que les preuves soutiennent.

Les LLMs démontrent que les très grands réseaux de neurones entraînés sur de très grands corpus de texte produisent des résultats utiles sur une large gamme de tâches de texte. C’est une découverte qui vaut la peine d’avoir. Tout ce qui va au-delà—la conscience, l’agentivité, l’intelligence générale, la singularité—est le tapis, drapé maintenant dans le langage de la science.

Nous pouvons faire mieux qu’un misérable tapis. Nous devons simplement être honnête sur ce que nous construisons réellement.

Lectures complémentaires

  • Gabriel García Márquez, Cent ans de solitude — le texte fondateur ; José Arcadio Buendía et la tension entre rationalisme et obsession
  • Emily Bender, Timnit Gebru, et al., “On the Dangers of Stochastic Parrots” (2021, FAccT) — le cas technique de ce que font réellement les modèles de langage versus ce qui est affirmé
  • Alan Turing, “Computing Machinery and Intelligence” (1950) — le jeu de l’imitation comme provocation philosophique, pas un test définitif
  • James Gleick, L’Information — comment chaque nouvelle technologie de l’information hérite des affirmations métaphysiques de ses prédécesseurs
  • Marvin Minsky, cité dans Time, 1970 — le motif récurrent de surpromesse en IA