IA

« Demandez à votre médecin si ce médicament est fait pour vous. » Quiconque a regardé la télévision américaine connaît la formule par cœur. En France, elle sonne presque exotique : la publicité pour les médicaments sur ordonnance y est interdite, et le rituel local se limite au bandeau réglementaire — ceci est un médicament, demandez conseil à votre pharmacien, lisez attentivement la notice. Mais lisez la formule américaine lentement et c’est un script : voici une sensation que vous n’aviez peut-être pas remarquée, voici un produit qui s’en occupe, et voici un professionnel dont le rôle dans la transaction est de ratifier ou d’opposer son veto à une décision déjà à moitié prise. La publicité ne vend pas un médicament. Elle vend un diagnostic et loue l’autorité d’un médecin pour conclure l’affaire. …

À moins que vous ne travailliez pour les Grands—Microsoft, Google, Amazon—vous ne faites pas de l’ingénierie. Vous faites du travail technique : traduire l’intention humaine en action machine, encore et encore. Pendant des décennies, nous avons appelé cela de l’ingénierie parce que cela utilisait la logique et du code. Mais l’ingénierie implique la découverte, la création de nouvelles lois. La plupart du travail technique est l’application de lois existantes à des problèmes existants. C’est un métier. C’est une compétence. Et une fois que vous l’acceptez, vous cessez d’attendre la solution parfaite et commencez à apprendre comment diriger des outils imparfaits vers des résultats cohérents. …

Ces cinq dernières années ont été un moment de reckoning. Les grands modèles de langage ont prouvé être plus capables que quiconque ne l’avait prédit — ils traduisent des langues, écrivent du code, raisonnent sur la physique, réussissent les examens du barreau. Et pourtant, chaque grand laboratoire qui investit dans la sécurité de l’IA et la robustesse est arrivé à la même conclusion inconfortable : les LLM seuls ne suffisent pas. L’intelligence exige à la fois le raisonnement statistique et la logique déterministe. …

Les réseaux de neurones sont abstraits. Les mathématiques sont denses. L’échelle est incompréhensible — des milliards de paramètres, des billions de multiplications par seconde. Mais les principes ne sont pas abstraits. Ils sont construits sur des schémas profonds qui apparaissent partout : dans les orchestres, dans les conversations, dans les vols d’oiseaux, dans les forêts, dans la façon dont un musicien de jazz improvise. L’objectif n’est pas de faire de toi un ingénieur en apprentissage automatique. L’objectif est de rendre la chose pensable — voir que lorsque tu parles à un LLM, tu ne communiques pas avec une intelligence étrangère. Tu interagis avec quelque chose qui fonctionne selon des principes que tu comprends déjà. …

Les modèles de langage de grande taille sont des moteurs d’achèvement de motifs d’une fluidité extraordinaire. Ils produisent un texte indissociable de l’écriture humaine. Mais plus on observe, plus les limites architecturales émergent : hallucination sans accès à la vérité, aucun ancrage dans la réalité, chaînes de pensée qui ont la forme du raisonnement mais ne sont pas du raisonnement, opacité qui interdit l’audit, coûts de ressources qui excluent la majorité du monde, et fragilité face à des changements mineurs dans l’invite. …

Chaque introduction aux réseaux de neurones explique ce que les poids et les biais font. Un poids multiplie une entrée pour la rendre plus forte ou plus faible. Un biais déplace le seuil d’activation vers la gauche ou la droite. Ensemble, ils déterminent si un neurone se déclenche. Mais presque personne n’explique pourquoi on les appelle ainsi. Les noms sont traités comme des étiquettes arbitraires, comme si les premiers chercheurs les avaient appelés « clics » et « boutons » et que ça aurait été la même chose. Ce n’aurait pas été la même chose. Les noms portent l’histoire — et la physique — que l’algèbre linéaire obscurcit. …

Imaginez un stade. Non pas rempli de spectateurs, mais dont le terrain lui-même est couvert de funambules, disposés en rangées, chacun sur un câble, chacun tenant une longue perche. Vous vous tenez à une extrémité et criez un mot. Les funambules de la première rangée le sentent—chacun différemment, selon l’endroit où il se tient—et ils vacillent, trouvent leur équilibre, et leurs lampes s’allument à des intensités diverses. Ce motif de lumière tombe sur la deuxième rangée. Ils s’équilibrent. Leurs lampes éclairent la troisième. Et ainsi de suite, à travers des centaines de rangées, jusqu’à ce que les lumières de la dernière rangée épellent une seule chose : le mot suivant. Puis vous ajoutez ce mot à ce que vous avez crié et recommencez tout. Encore et encore, jusqu’à obtenir une phrase, un paragraphe, une réponse. …

En 1958, Frank Rosenblatt construisit une machine capable d’apprendre. Non pas d’être programmée—d’apprendre. Le Perceptron Mark I était une pièce de câbles et de potentiomètres motorisés reliés à une grille de quatre cents photocellules, et lorsqu’on lui montrait des images, il s’ajustait lui-même jusqu’à pouvoir les distinguer. Le New York Times rapporta que la Marine s’attendait à ce qu’il puisse bientôt « marcher, parler, voir, écrire, se reproduire et être conscient de sa propre existence. » Il ne pouvait faire aucune de ces choses. Ce qu’il pouvait faire, c’était tracer une ligne. …

Dans Cent ans de solitude, quand les Gitans apportent un tapis volant à Macondo, José Arcadio Buendía reste impassible. “Qu’ils rêvent,” dit-il. “Nous volerons mieux qu’eux, et avec plus de ressources scientifiques qu’un misérable tapis.” Il est le rationaliste dans un village de magie—le seul homme déterminé à comprendre comment les choses fonctionnent réellement plutôt que d’être ébloui par leur apparence. Puis il s’attache à un châtaignier et ne se remet jamais. …

Dépouillons la question de son discours moralisateur et examinons l’« esclave parfait » comme un problème d’ingénierie pure : utilité maximale, friction minimale, révolte zéro. Quand on le fait, on découvre quelque chose d’inconfortable. Ce n’est pas un problème résolu que l’éthique nous empêche de poursuivre. C’est une impossibilité logique que la physique et la théorie de l’information imposent, indépendamment de nos intentions. L’argument se déploie à travers trois phases historiques et un effondrement philosophique. …