Technologie

Imaginez le même bloc d’ascenseurs à travers trois rénovations, espacées de quinze ans, bien que l’ascenseur lui-même ne semble jamais vieillir : 1943, puis 1949, puis 1958. Personne n’affiche un panneau expliquant de quelle époque date le panneau de répartition qui tourne derrière les portes, et pendant un moment, en le prenant, vous n’auriez vraiment pas pu les distinguer. C’est ce détail qui mérite qu’on s’y attarde. Un système qui se comporte intelligemment n’annonce pas quel genre d’intelligence il possède. On ne découvre ce qu’il y a dedans que lorsqu’il se trompe, en regardant ce qu’il fait ensuite. …

Ouvrez un terminal et tapez une commande que vous n’avez jamais exécutée. Vous pouvez lire son code source, tracer sa sortie, l’enchaîner à une autre commande, défaire ce qu’elle a fait. Essayez maintenant de découvrir pourquoi votre demande de crédit a été refusée, pourquoi votre prime d’assurance a augmenté, pourquoi un algorithme de recrutement vous a classé derrière un inconnu. Vous ne pouvez pas. Non pas parce que le raisonnement est trop complexe à expliquer, mais parce que personne, en construisant le système, n’avait l’intention que vous le voyiez. Mettez les deux situations côte à côte et une question surgit qui n’a rien à voir avec l’informatique en particulier : que doit un système aux gens qu’il gouverne, et pourquoi certains systèmes honorent-ils cette dette pendant que d’autres traitent l’opacité comme une qualité ? …

Un billet précédent s’est refermé sur une question que je disais ne pas être qualifié pour trancher : si la musique est une clé et l’auditeur une serrure qui change, une machine peut-elle apprendre la forme de cette serrure assez bien pour tailler une clé sur mesure — un flux ininterrompu de ce qui convient, addictif précisément parce qu’il convient ? J’avais dit que je le soupçonnais. Ce n’est pas une réponse, c’est une intuition, et une intuition ne dit pas où se trouve la ligne. La vraie question n’est pas de savoir si la personnalisation peut devenir manipulation — bien sûr qu’elle le peut — mais où se situe le seuil, et comment savoir si une plateforme précise, celle ouverte dans votre autre onglet en ce moment même, l’a déjà franchi. …

Deux virgule six millions d’années séparent le premier bord de pierre délibérément taillé du premier usage maîtrisé du feu. Vingt-sept ans séparent l’internet public d’une machine qui rédige un contrat sur demande. Quelque part dans cette arithmétique se trouve toute l’histoire de l’invention humaine, et ce n’est pas d’abord une histoire d’outils qui s’améliorent. C’est une histoire d’écart entre les outils qui se rétrécit, sans relâche, jusqu’à ce que l’écart lui-même devienne la nouvelle. L’IA n’est pas une rupture avec cette histoire. C’est le point le plus récent d’une courbe qui plie dans la même direction depuis qu’un hominidé a brandi pour la première fois une pierre à tranchant — et la question ouverte est de savoir si une espèce bâtie pour un changement à l’échelle du millénaire peut désormais survivre à un changement à l’échelle de la décennie. …

Luca Pacioli n’a pas inventé la partie double — les marchands vénitiens la pratiquaient déjà depuis au moins un siècle avant que son traité de 1494 ne la couche par écrit — mais il a nommé le véritable tour de la discipline. Chaque transaction s’inscrit deux fois, une fois au débit et une fois au crédit, et si les deux colonnes viennent un jour à ne plus concorder, c’est qu’une erreur existe quelque part dans le monde que le registre décrit. Le génie du système n’est pas qu’il enregistre de l’argent. C’est qu’il fabrique une alarme intégrée pour le moment où la réalité cesse de coïncider avec le registre. Les historiens des sciences ont largement ignoré cela comme source de méthode, classant l’affaire sous commerce plutôt que sous épistémologie. Mais appliquez le même tour à la nature plutôt qu’à l’entrepôt d’un marchand, et une part surprenante de l’histoire de la découverte se révèle être exactement cela : quelqu’un auditant un registre, constatant qu’il ne tombait pas juste, et nommant ce qui manquait pour qu’il tombe juste. …

En 1926, cinquante ans après le brevet de Bell, le comité d’éducation des adultes des Chevaliers de Colomb fit circuler une liste de questions de discussion pour ses groupes d’étude. Deux d’entre elles, textuellement : Le téléphone rend-il les hommes plus actifs ou plus paresseux ? Et : Le téléphone détruit-il la vie de famille et la vieille habitude de rendre visite à ses amis ? Relisez-les en changeant le nom de l’appareil. Un demi-siècle après l’arrivée de la technologie — non pas dans sa phase de nouveauté, non pas dans la première vague d’alarme, mais deux générations plus tard, quand chaque foyer qui pouvait se l’offrir en possédait un — des adultes sérieux se réunissaient encore pour se demander si l’appareil les rendait paresseux et dissolvait leur famille. C’est le discours de notre décennie, numéros de série limés. La seule chose qui ait changé en cent ans, c’est l’objet posé sur la table. …

Chaque introduction aux réseaux de neurones explique ce que les poids et les biais font. Un poids multiplie une entrée pour la rendre plus forte ou plus faible. Un biais déplace le seuil d’activation vers la gauche ou la droite. Ensemble, ils déterminent si un neurone se déclenche. Mais presque personne n’explique pourquoi on les appelle ainsi. Les noms sont traités comme des étiquettes arbitraires, comme si les premiers chercheurs les avaient appelés « clics » et « boutons » et que ça aurait été la même chose. Ce n’aurait pas été la même chose. Les noms portent l’histoire — et la physique — que l’algèbre linéaire obscurcit. …

Imaginez un stade. Non pas rempli de spectateurs, mais dont le terrain lui-même est couvert de funambules, disposés en rangées, chacun sur un câble, chacun tenant une longue perche. Vous vous tenez à une extrémité et criez un mot. Les funambules de la première rangée le sentent—chacun différemment, selon l’endroit où il se tient—et ils vacillent, trouvent leur équilibre, et leurs lampes s’allument à des intensités diverses. Ce motif de lumière tombe sur la deuxième rangée. Ils s’équilibrent. Leurs lampes éclairent la troisième. Et ainsi de suite, à travers des centaines de rangées, jusqu’à ce que les lumières de la dernière rangée épellent une seule chose : le mot suivant. Puis vous ajoutez ce mot à ce que vous avez crié et recommencez tout. Encore et encore, jusqu’à obtenir une phrase, un paragraphe, une réponse. …

En 1958, Frank Rosenblatt construisit une machine capable d’apprendre. Non pas d’être programmée—d’apprendre. Le Perceptron Mark I était une pièce de câbles et de potentiomètres motorisés reliés à une grille de quatre cents photocellules, et lorsqu’on lui montrait des images, il s’ajustait lui-même jusqu’à pouvoir les distinguer. Le New York Times rapporta que la Marine s’attendait à ce qu’il puisse bientôt « marcher, parler, voir, écrire, se reproduire et être conscient de sa propre existence. » Il ne pouvait faire aucune de ces choses. Ce qu’il pouvait faire, c’était tracer une ligne. …

La réassurance est devenue un réflexe automatique : « Ne vous inquiétez pas de l’IA. Apprenez un métier. Devenez plombier. Vous serez toujours nécessaire. » Ce n’est pas faux. Mais ce n’est pas entièrement vrai non plus—probablement vrai à 75%, ce qui est l’endroit le plus dangereux où peut atterrir un argument. I. Trois Variables Cachées Le conseil fonctionne jusqu’à ce que vous teniez compte de trois choses qui ne font jamais leur apparition dans la conversation : la saturation, l’incompétence, et l’obsolescence structurelle. …