Ia

Dans le Phèdre, Socrate raconte l’histoire du dieu égyptien Theuth, inventeur de l’écriture, qui apporte son cadeau au roi Thamous et lui demande de le distribuer au peuple. Thamous ne se laisse pas impressionner. L’écriture, dit-il, n’améliorera pas la mémoire : elle la remplacera. Les gens cesseront d’exercer la discipline interne du souvenir et s’en remettront à des marques externes tracées par la main d’un autre. Ils paraîtront savants sans l’être, « remplis de la prétention du savoir plutôt que du savoir lui-même ». C’est, pour autant que les archives en témoignent, la plus ancienne plainte connue contre une technologie du savoir — et elle vise, avec une précision troublante, exactement l’inquiétude qui circule aujourd’hui à propos des grands modèles de langage. …

Gabriel García Márquez a lu Jorge Luis Borges comme un élève lit son maître : de près, avec gratitude, pendant des années. Borges, selon la plupart des témoignages, n’a pas rendu la pareille. Il trouvait la prose de García Márquez débordante là où la sienne était comprimée, sentimentale là où la sienne était froide. La dette n’a couru que dans un sens. Cette asymétrie n’est pas une note de bas de page des lettres latino-américaines. C’est un modèle réduit, et gênant, de la façon dont la culture fonctionne réellement — et c’est le modèle dont nous avons besoin pour parler honnêtement du slop généré par l’IA. …

Jorge Luis Borges a écrit une nouvelle sur un jeune homme nommé Ireneo Funes qui, après une chute de cheval, ne pouvait plus rien oublier. Chaque feuille de chaque arbre, chaque nuage qu’il avait jamais vu, chaque phrase prononcée en sa présence restait disponible pour lui dans un détail total, permanent, insupportable. Le propos de Borges dans “Funes ou la mémoire” n’est pas que la mémoire parfaite soit un don. C’est qu’un esprit incapable d’oublier est incapable de penser, parce que penser exige de généraliser, et généraliser exige la discipline de jeter presque tout le reste. La mémoire humaine fonctionne précisément parce qu’elle est imparfaite, associative, orientée vers ce qui a compté émotionnellement plutôt que vers ce qui s’est produit avec exactitude. …

Certaines idées ont la mauvaise taille pour les formes disponibles pour les contenir. Un poème comprime trop fort — on esquisse le plan d’une maison qu’on ne construira jamais. Un livre exige le problème inverse, non pas du métier mais de l’infrastructure : un éditeur, une bourse, une année sabbatique, un conjoint capable de porter le crédit pendant qu’on se dispute avec le chapitre sept pendant deux ans. Montaigne a résolu exactement ce problème au seizième siècle en inventant une forme pour lui — l’essai, littéralement une “tentative”, à la taille d’une idée plus grande qu’une strophe et plus petite qu’un traité, publié sans ordre particulier, révisé d’édition en édition, admettant sur la page que l’auteur n’avait pas fini de penser. C’est, sur le papier, le contenant parfait pour quelqu’un dont les idées ne rentrent proprement nulle part ailleurs. …

Imaginez le même bloc d’ascenseurs à travers trois rénovations, espacées de quinze ans, bien que l’ascenseur lui-même ne semble jamais vieillir : 1943, puis 1949, puis 1958. Personne n’affiche un panneau expliquant de quelle époque date le panneau de répartition qui tourne derrière les portes, et pendant un moment, en le prenant, vous n’auriez vraiment pas pu les distinguer. C’est ce détail qui mérite qu’on s’y attarde. Un système qui se comporte intelligemment n’annonce pas quel genre d’intelligence il possède. On ne découvre ce qu’il y a dedans que lorsqu’il se trompe, en regardant ce qu’il fait ensuite. …

« Demandez à votre médecin si ce médicament est fait pour vous. » Quiconque a regardé la télévision américaine connaît la formule par cœur. En France, elle sonne presque exotique : la publicité pour les médicaments sur ordonnance y est interdite, et le rituel local se limite au bandeau réglementaire — ceci est un médicament, demandez conseil à votre pharmacien, lisez attentivement la notice. Mais lisez la formule américaine lentement et c’est un script : voici une sensation que vous n’aviez peut-être pas remarquée, voici un produit qui s’en occupe, et voici un professionnel dont le rôle dans la transaction est de ratifier ou d’opposer son veto à une décision déjà à moitié prise. La publicité ne vend pas un médicament. Elle vend un diagnostic et loue l’autorité d’un médecin pour conclure l’affaire. …

À moins que vous ne travailliez pour les Grands—Microsoft, Google, Amazon—vous ne faites pas de l’ingénierie. Vous faites du travail technique : traduire l’intention humaine en action machine, encore et encore. Pendant des décennies, nous avons appelé cela de l’ingénierie parce que cela utilisait la logique et du code. Mais l’ingénierie implique la découverte, la création de nouvelles lois. La plupart du travail technique est l’application de lois existantes à des problèmes existants. C’est un métier. C’est une compétence. Et une fois que vous l’acceptez, vous cessez d’attendre la solution parfaite et commencez à apprendre comment diriger des outils imparfaits vers des résultats cohérents. …

Ces cinq dernières années ont été un moment de reckoning. Les grands modèles de langage ont prouvé être plus capables que quiconque ne l’avait prédit — ils traduisent des langues, écrivent du code, raisonnent sur la physique, réussissent les examens du barreau. Et pourtant, chaque grand laboratoire qui investit dans la sécurité de l’IA et la robustesse est arrivé à la même conclusion inconfortable : les LLM seuls ne suffisent pas. L’intelligence exige à la fois le raisonnement statistique et la logique déterministe. …

Les réseaux de neurones sont abstraits. Les mathématiques sont denses. L’échelle est incompréhensible — des milliards de paramètres, des billions de multiplications par seconde. Mais les principes ne sont pas abstraits. Ils sont construits sur des schémas profonds qui apparaissent partout : dans les orchestres, dans les conversations, dans les vols d’oiseaux, dans les forêts, dans la façon dont un musicien de jazz improvise. L’objectif n’est pas de faire de toi un ingénieur en apprentissage automatique. L’objectif est de rendre la chose pensable — voir que lorsque tu parles à un LLM, tu ne communiques pas avec une intelligence étrangère. Tu interagis avec quelque chose qui fonctionne selon des principes que tu comprends déjà. …

Les modèles de langage de grande taille sont des moteurs d’achèvement de motifs d’une fluidité extraordinaire. Ils produisent un texte indissociable de l’écriture humaine. Mais plus on observe, plus les limites architecturales émergent : hallucination sans accès à la vérité, aucun ancrage dans la réalité, chaînes de pensée qui ont la forme du raisonnement mais ne sont pas du raisonnement, opacité qui interdit l’audit, coûts de ressources qui excluent la majorité du monde, et fragilité face à des changements mineurs dans l’invite. …