Un billet précédent s’est refermé sur une question que je disais ne pas être qualifié pour trancher : si la musique est une clé et l’auditeur une serrure qui change, une machine peut-elle apprendre la forme de cette serrure assez bien pour tailler une clé sur mesure — un flux ininterrompu de ce qui convient, addictif précisément parce qu’il convient ? J’avais dit que je le soupçonnais. Ce n’est pas une réponse, c’est une intuition, et une intuition ne dit pas où se trouve la ligne. La vraie question n’est pas de savoir si la personnalisation peut devenir manipulation — bien sûr qu’elle le peut — mais où se situe le seuil, et comment savoir si une plateforme précise, celle ouverte dans votre autre onglet en ce moment même, l’a déjà franchi.

I. Pas une ligne, un seuil

Le réflexe est de chercher une ligne nette : recommandation d’un côté, manipulation de l’autre, une règle qu’on pourrait inscrire dans la loi. Elle n’existe pas, parce que le même mécanisme — un système qui apprend vos préférences et vous en sert davantage de ce qui convient — produit aussi bien le meilleur disquaire de quartier que la Technique Ludovico, selon les conditions qui l’entourent entièrement. Ce qui les sépare n’est pas la sophistication du modèle mais trois variables, chacune pouvant être haute ou basse indépendamment des autres : le coût de sortie, l’objectif d’optimisation et les sources contrepoids. Un système devient manipulateur quand les trois penchent du mauvais côté à la fois. Le juger sur une seule variable revient à défendre des plateformes qui mériteraient l’examen, ou à en accuser d’autres qui ne le méritent pas.

II. Le coût de sortie

Pouvez-vous quitter la boucle sans perdre l’accès au bien lui-même ? Un disquaire qui a appris votre goût en dix ans de visites a mérité cette connaissance, mais si demain vous cessiez de faire confiance à ses conseils, vous pourriez toujours acheter des disques — le bien et la curation n’ont jamais été fusionnés. Une plateforme de streaming les fusionne : votre historique d’écoute, vos listes enregistrées, votre file “pour vous” vivent tous dans un seul compte, et partir signifie repartir de zéro. Shoshana Zuboff, dans L’Âge du capitalisme de surveillance (2019), nomme la version générale de ce mouvement — la donnée comportementale est extraite comme sous-produit d’un service, puis restituée comme ce qui rend coûteux de quitter ce service, une serrure construite en silence à même la transaction qui ressemblait à un bienfait. Le rédacteur en chef du seul journal d’une ville avait lui aussi un coût de sortie élevé, mais cela seul ne le rendait pas manipulateur, car les deux autres variables jouaient en sens inverse — ce qui est précisément l’intérêt de traiter ceci comme un seuil plutôt que comme un test unique.

III. L’objectif d’optimisation

Que cherche réellement à maximiser le système ? Un objectif de satisfaction et un objectif d’engagement se ressemblent en surface — tous deux produisent plus de temps passé, plus de contenu consommé, plus de visites répétées — et ne divergent qu’à la marge, quand le système découvre que le contenu le plus engageant n’est pas le plus nourrissant. L’indignation, la nouveauté et une légère anxiété génèrent plus de visites répétées que le contentement, et un système qui ne voit que le clic n’a aucun moyen de remarquer, encore moins de corriger, cette différence. L’animateur de radio de l’ère pré-consolidation optimisait quelque chose de plus proche de la satisfaction, parce que son emploi dépendait du choix d’un auditeur de rester à l’écoute demain, pas d’une métrique comptée ce soir ; sa réputation était la boucle de rétroaction, et les réputations sont assez lentes pour sanctionner le contenu épuisant d’une manière qu’un tableau de bord d’engagement en temps réel ne peut structurellement pas faire.

IV. Les sources contrepoids

Avez-vous accès à des recommandations qui ne partagent pas les incitations de la plateforme — la playlist d’un ami, la chronique d’un critique, un rayon de bibliothèque feuilleté au hasard ? Eli Pariser fut le premier à démontrer avec rigueur, dans The Filter Bubble (2011), que cette variable, et non les deux autres, est celle où la personnalisation devient invisible : un système n’a pas besoin de censurer quoi que ce soit, il lui suffit de devenir la seule lentille à travers laquelle la découverte se produit, moment où il cesse de recommander et commence à constituer le champ entier de ce qui semble disponible. Le seuil n’est pas franchi le jour où une plateforme commence à personnaliser. Il l’est le jour où la personnalisation devient totale — le jour où rien de ce que vous rencontrez n’est arrivé par une voie que l’algorithme n’a pas choisie.

V. La comparaison avec Ludovico, prise au sérieux

Orange mécanique (1962) d’Anthony Burgess est invoqué si souvent comme métaphore de la manipulation qu’il vaut la peine de préciser ce qu’il modélise réellement. La Technique Ludovico ne fonctionne pas en comprenant les préférences d’Alex pour lui servir davantage de ce qu’il aime déjà — elle fonctionne par la force, conditionnant la nausée à la violence et, par accident de la bande sonore, à Beethoven. Ce n’est pas ce que fait un algorithme de recommandation, et la différence compte : Alex est attaché ; un utilisateur de Spotify ne l’est pas. Mais le vrai sujet de Burgess n’était pas la violence de la méthode, c’était l’état final — un système qui connaît une personne assez bien pour prédire et façonner ses réponses lui retire quelque chose même quand le consentement est nominalement présent, parce que ce qui lui est retiré est précisément la capacité de rencontrer ce que le système n’a pas choisi pour elle. James Williams, ancien stratège chez Google devenu philosophe à Oxford, en donne la version moderne et plus tranchante dans Stand Out of Our Light (2018) : la menace que posent ces systèmes ne concerne pas l’attention comme ressource à dépenser efficacement, mais ce qu’il appelle l’autonomie attentionnelle — la capacité de vouloir ce qu’on veut vouloir, plutôt que ce que mille heures de tests A/B ont découvert que vous cliquerez. Un système n’a pas besoin du fauteuil d’Alex pour produire le résultat d’Alex. Il lui suffit d’être assez bon, et assez complet, pour qu’un utilisateur cesse de rencontrer quoi que ce soit que le système n’a pas sélectionné.

VI. Les défenses, dans le même ordre

Chaque variable a sa correction, et aucune n’exige d’interdire la personnalisation, qui n’a jamais été la vraie cible. Réduire le coût de sortie par une portabilité des données réelle — pas le bouton d’export qui n’existe que pour la conformité, mais un standard permettant à vos listes, votre historique et votre modèle de préférences de sortir par la porte, si bien que partir coûte une conversion de format plutôt qu’une décennie de curation. Aligner l’objectif d’optimisation sur quelque chose de plus proche de la satisfaction que de l’engagement — le pouce levé ou baissé de Netflix est un premier essai grossier, un sondage périodique en est un meilleur, et l’aveu honnête est que la satisfaction est plus difficile à mesurer qu’un clic, ce qui explique précisément pourquoi les plateformes choisissent par défaut la métrique facile plutôt que la métrique vraie. Préserver délibérément les sources contrepoids — bibliothèques, radio publique, critique indépendante, la playlist de l’ami — comme une question d’infrastructure publique, parce qu’elles sont aujourd’hui affamées par la même économie qui a rendu l’algorithme dominant, et une infrastructure qu’on n’entretient pas ne reste pas neutre, elle disparaît simplement en silence.

Rien de tout cela ne vous dit si l’application ouverte dans votre autre onglet a déjà franchi le seuil. Ce test-là reste à faire plateforme par plateforme, honnêtement, contre les trois variables à la fois. Mais ce n’est plus une intuition. C’est une question qui a une forme.

Pour aller plus loin