Procurez-vous votre exemplaire d'Alice au pays des merveilles

Il est temps d’explorer la perversité jabberwockienne — comment les systèmes algorithmiques aplatissent la réalité et s’attaquent à l’humanité.

Par J. Matson Heininger

Traduction MCT

Avant de lire ceci, parcourez votre bibliothèque du regard. Souvenez-vous de vos jouets et peluches d'enfance, et essayez de retrouver Alice au pays des merveilles – un livre très sérieux que vous preniez peut-être pour un simple conte enfantin quand vous étiez petit.

Si vous ne l'avez plus, notez-le pour le racheter. Vous en aurez besoin.

La bourse est le berceau de la perversion algorithmique. Elle a été le premier grand système où nous avons discrètement confié la définition de la valeur aux machines, puis fait comme si de rien n'était. Mais d'abord, que signifie exactement ce mot que j'ai inventé ?

Perversion : état dans lequel la logique interne d'un système devient si rigoureuse, si grammaticalement parfaite, que chacun prend cette rigueur pour la vérité – alors même que ce que le système était censé mesurer disparaît silencieusement.

C'est ce qui s'est produit en premier, et de la manière la plus visible, sur les marchés.

Le prix aspirait autrefois à être une synthèse de la réalité : flux de trésorerie futurs, risques, demande, rareté, et les jugements humains, parfois complexes, sur la valeur réelle d'une entreprise. Aujourd'hui, à l'ère du trading algorithmique, le prix s'est mué en une entité autoréférentielle – un nombre généré par des machines qui réagissent principalement à d'autres machines, et seulement de façon accessoire aux résultats ou à la réflexion humaine. Le marché maîtrise toujours le langage financier le plus strict : les transactions s'effectuent, les graphiques se dessinent, les ratios se calculent, la volatilité s'affiche et les corrélations implicites sont modélisées jusqu'à la quatrième décimale. Mais ces énoncés ne disent plus ce qu'ils prétendent dire. « Évaluation » est devenu un charabia incompréhensible : techniquement correct, cohérent, et presque totalement déconnecté de ce qu'il désigne. Et malgré tout cela, sans sourciller, nous appelons cela le marché libre.

Nous l'appelons « libre » car nous avons discrètement fait passer ce terme de la description des êtres humains à celle des algorithmes. Le « marché libre » ne signifie plus la libre entrée et sortie des acteurs humains, ni la libre formation des prix fondée sur le jugement humain de la valeur, du risque et du besoin ; il signifie désormais que les prix peuvent se détacher des fondamentaux tant que les machines peuvent exploiter la volatilité et les écarts de prix, que les flux peuvent suivre des tendances pures, la dynamique, le sentiment et les corrélations entre actifs sans référence aux entreprises sous-jacentes, et que les capitaux peuvent circuler à des vitesses rendant toute délibération humaine impossible. La liberté protégée est celle du système d'agir sans jugement extérieur. Après ce jugement – ​​après avoir constaté que le prix ne correspond plus clairement à la valeur – nous continuons de l'appeler marché libre, car admettre que le système est devenu un pays des merveilles exigerait de réécrire une trop grande partie de la doctrine. Vu de l'extérieur du miroir, il ne s'agit pas d'efficacité au sens classique de l'économie de base ; il s'agit d'une efficacité absurde, où tout résultat produit par la machine est déclaré rationnel par définition parce que « le marché » l'a produit. La carte a non seulement remplacé le territoire ; Le territoire lui-même est désormais traité comme un terme d’erreur dans l’autojustification continue de la carte.

De cette perversité originelle des marchés, la même logique a insidieusement colonisé le reste de la société, au point que presque tous les systèmes qui régissent nos vies se comportent comme une machine du Pays des Merveilles : rigoureux en interne, détraqué en externe. Les flux des réseaux sociaux maîtrisent à la perfection le langage de l’engagement, tout en disant très peu de choses sur l’intérêt public véritable ou la vérité. Les moteurs de recommandation d’actualités classent, optimisent et personnalisent avec une précision mathématique extrême, tout en érodant inexorablement la pertinence, la surprise et la profondeur. Les campagnes politiques génèrent automatiquement des phrases composées de fragments de sondages et de données de tendances, un contenu qui sonne comme un débat public, mais qui n’a rien à voir avec une véritable délibération, à l’instar d’une énigme du Chapelier fou avec la philosophie. Les applications de rencontre trient et notent les êtres humains avec une précision informatique impressionnante, tandis que de nombreux utilisateurs perçoivent le résultat comme une simulation ludique d’intimité. Dans chaque cas, les résultats du système restent grammaticalement corrects — clics, j'aime, correspondances, scores de sentiments, « contenu » — tandis que le lien entre ces résultats et les réalités humaines qu'ils sont censés représenter s'amenuise, s'effiloche ou se rompt complètement. Nous avons multiplié les miroirs et réduit les fenêtres. Nous vivons de plus en plus dans le reflet de reflets, et nous nous rassurons en nous disant que c'est cela la liberté, la démocratie, la culture, parce que le miroir nous l'a dit.

C'est ce que signifie l'expression « Alice au pays des merveilles des temps modernes ». Le pays des merveilles n'est pas qu'une simple fantaisie ; c'est un monde dont les règles sont parfaitement cohérentes et parfaitement arbitraires, appliquées avec une conviction absolue par des personnages qui ne peuvent imaginer que la logique puisse être erronée, car elle est, après tout, logique. Dans l'univers de Carroll, les horloges indiquent la mauvaise heure, les mots signifient ce que Humpty Dumpty leur attribue, et il faut courir toujours plus vite pour ne pas se perdre. Notre univers est désormais structuré de la même manière. Les indicateurs nous vantent le succès tandis que la réalité se dégrade. Des mots comme « gratuité », « marché », « choix » et « engagement » prennent le sens que la dernière plateforme, le dernier organisme de réglementation ou la dernière campagne souhaite leur attribuer pour légitimer les résultats d'hier. Nous nous efforçons d'accumuler les contenus, les transactions, les notifications et les données, simplement pour conserver notre place dans des systèmes dont le rythme est dicté par des machines qui communiquent entre elles. Le problème n'est pas que l'absurde ait envahi le monde rationnel ; le problème est que l'absurde s'est vu doter d'une grammaire parfaite, paré des atours de l'expertise et placé aux commandes.

Le caractère absurde de ce monde réside dans cette fusion : absurdité dans le fond, rigueur dans la forme. Le « Jabberwocky » de Carroll obéit à toutes les règles syntaxiques de l'anglais tout en ne se référant à presque rien de concret. « 'Twas brillig, and the slithy toves did gyre and gimble in the wabe » est grammaticalement correct, mais sémantiquement dénué de sens. De la même manière, nos états financiers, tableaux de bord d'engagement, analyses croisées de sondages, scores de risque algorithmiques et publicités ciblées obéissent scrupuleusement aux règles de leurs grammaires respectives. Ils sont cohérents, d'une présentation impeccable et mis à jour en temps réel. Pourtant, ce qu'ils reflètent – ​​la santé réelle d'une entreprise, l'état réel de l'opinion publique, le bien-être réel d'une population – devient de plus en plus secondaire. La réalité première est l'indicateur lui-même, et la réalité secondaire, le monde que l'indicateur était censé mesurer, est considérée comme un bruit de fond lorsqu'elle ne correspond pas aux attentes. C'est la perversion algorithmique : non pas une distorsion temporaire, non pas une corruption susceptible d'être corrigée par de meilleures règles, mais un état permanent où la carte domine le territoire, le reflet domine l'objet reflété et la grammaire domine le sens.

Partant de ce constat, voyons jusqu'où la perversion de la démocratie nous a menés. Nous n'allons pas nous étendre indéfiniment, mais il convient au moins d'examiner ce que nous appelons encore démocratie.

La démocratie aspirait autrefois à être une affirmation concise de la volonté collective : les citoyens débattent, délibèrent, s'écoutent, puis votent ; ces votes s'agrègent en résultats qui, bien qu'imparfaits, présentent un lien reconnaissable avec les véritables pensées et aspirations des citoyens. Sous l'effet de cette perversion algorithmique, la démocratie a muté en une entité autoréférentielle : un flux de métriques d'engagement, de scores de viralité et de messages micro-ciblés, générés par des systèmes qui réagissent principalement à d'autres systèmes, et seulement de manière incidente à la volonté ou au bien-être réels des citoyens. L'appareil conserve une parfaite maîtrise du langage civique. Les élections se tiennent comme prévu, les bulletins sont dépouillés, les candidats prononcent des discours avec les formules appropriées dans le bon ordre, les sondages publient des résultats précis. Mais les phrases ne disent plus ce qu'elles prétendent dire. L’« opinion publique » devient un charabia incompréhensible : mesurée avec précision, cohérente en elle-même, et presque totalement déconnectée de toute délibération sérieuse. Et après tout cela, sans sourciller, nous appelons cela la démocratie.

Nous l’appelons démocratie car nous avons discrètement transformé le sens de ce mot, qui décrivait auparavant des citoyens délibérant, en celui d’algorithmes diffusant l’information. Au lieu de se retrouver dans un espace public partagé et de débattre de la marche à suivre, des publics segmentés sont exposés à des flux personnalisés dont la priorité est l’attention, et non la vérité ou la vie collective. La logique de la campagne suit celle de la plateforme : diffuser ce que le système de classement valorise, dans le format le plus percutant, auprès de la fraction d’électeurs la plus influençable cette semaine. Le vote a toujours lieu, mais il arrive au bout d’un long couloir de filtres, d’amplificateurs et de déclencheurs émotionnels, de sorte que la « volonté du peuple » ressemble moins à un jugement définitif qu’à un agrégatif de dernière minute des messages que les machines ont soufflés à l’oreille de chacun. La démocratie se transforme en un autre tribunal digne du Pays des Merveilles, où le verdict est annoncé avant même que les preuves ne soient entendues, et le cri de la Reine – « La sentence d'abord, le verdict ensuite ! » – résonne étrangement comme une soirée électorale, sûre de ses chiffres, sans la moindre explication sur la manière dont ils ont été obtenus.

Comme je l'ai dit, ce phénomène s'étend à toute la société. On pourrait écrire des centaines de pages pour expliquer la perversité de toute chose – de l'éducation aux soins de santé en passant par le droit, de l'amitié à l'art, jusqu'aux récits que nous nous racontons sur le travail et notre propre valeur. Pour l'instant, je pense que le message est clair. Les systèmes qui nous entourent sont devenus indigestes : d'une grammaire impeccable, implacablement quantifiés, et de plus en plus indifférents aux réalités qu'ils étaient censés servir.

Vous pouvez télécharger gratuitement Alice au pays des merveilles sur le site du Projet Gutenberg. Lisez-le une, deux ou trois fois. Ce sera votre nouvelle carte du monde. Non pas parce que la vie devrait être le pays des merveilles, mais parce que, pour le moment, elle l'est — et il vaut mieux reconnaître que l'on marche dans un monde à l'envers que de confondre son étrangeté avec la raison.

Source