Nous vous proposons ici un résumé de la première partie d’un article sous presse au moment où nous écrivons ces lignes. Il propose une réflexion sur la place et le rôle des algorithmes dans nos sociétés hyper connectées. L’auteur a choisi les algorithmes de Facebook pour illustrer son propos, mais les algorithmes de tous les grands réseaux sociaux fonctionnent sur le même principe.
Il s’agit d’un article de Douglas C. YOUVAN, « The Algorithmic Dystopia: Exploring Facebook’s Political Bias through the Lens of Dystopian Fiction« .
Au XXIe siècle, les réseaux sociaux sont devenus une composante essentielle de la vie quotidienne, modifiant radicalement les façons dont les gens communiquent, consomment de l’information et interagissent avec le monde. Facebook, en particulier, se distingue comme une place publique moderne où les idées sont échangées, où les mouvements sociaux prennent forme, et où les normes sociétales sont à la fois contestées et renforcées.
Contrairement aux médias traditionnels, soumis à des principes journalistiques et à une régulation stricte, les réseaux sociaux sont majoritairement alimentés par du contenu généré par les utilisateurs et régis par des algorithmes complexes et souvent opaques. Cette évolution a démocratisé l’accès à l’information tout en transformant la nature du discours public, pour le meilleur et pour le pire.
Facebook exerce une influence immense sur le discours public en raison de sa popularité mondiale. En tant que source primaire de nouvelles et d’informations pour des millions de personnes, la plateforme est conçue pour maximiser l’engagement des utilisateurs, en mettant en avant du contenu susceptible de les captiver. Les algorithmes, au cœur de ce processus, non seulement organisent les informations vues par les utilisateurs, mais modifient également la perception de la réalité par ces derniers.
Le pouvoir de ces algorithmes, souvent exercé sans transparence ni intervention des utilisateurs, peut amplifier certaines voix tout en en réduisant d’autres au silence, ce qui modifie subtilement mais profondément l’opinion publique.
Les algorithmes, ces combinaisons mathématiques complexes, jouent un rôle central dans la gouvernance de l’information à l’ère numérique. Sur Facebook, ils agissent comme des gardiens invisibles, décidant du contenu qui est vu, partagé et mis en avant. Contrairement aux médias traditionnels, où les décisions éditoriales sont prises par des humains, les algorithmes fonctionnent de manière autonome, analysant d’énormes quantités de données pour personnaliser le contenu pour chaque utilisateur.
Si cette personnalisation est souvent appréciée pour sa capacité à fournir du contenu pertinent et adapté, elle n’en demeure pas moins problématique en raison du pouvoir qu’elle confère aux algorithmes dans la formation des opinions publiques.
L’objectif principal des algorithmes de Facebook est de maximiser l’engagement des utilisateurs, souvent en promouvant du contenu suscitant de fortes réactions émotionnelles. Cela a des répercussions importantes sur la présentation et la consommation de l’information. Les contenus sensationnalistes, polarisants ou controversés sont plus susceptibles d’être mis en avant, car ils génèrent des niveaux d’interaction plus élevés. Cela peut conduire à la formation de chambres d’écho, où les utilisateurs sont exposés principalement à des informations conformes à leurs croyances préexistantes, renforçant ces croyances et accentuant les divisions idéologiques.
L’opacité de ces algorithmes implique que les utilisateurs comprennent rarement pourquoi certains contenus apparaissent dans leur fil d’actualité tandis que d’autres restent invisibles. Cette absence de transparence peut mener à une forme de manipulation, intentionnelle ou non, où les opinions des utilisateurs sont subtilement orientés vers certains points de vue ou narratifs. Ainsi, les algorithmes agissent comme un nouveau type de Leviathan—une force puissante et invisible qui gouverne la place publique numérique, souvent sans la connaissance ou le consentement de ceux qu’elle affecte.
L’influence des algorithmes de Facebook sur le flux d’informations et le discours public présente des similitudes frappantes avec les mécanismes de contrôle décrits dans la littérature dystopique classique. Dans « 1984 » de George Orwell, le concept de Big Brother représente une entité omnisciente et omnipotente qui surveille et contrôle les pensées et les actions de la population. Le Parti dans la dystopie d’Orwell maintient son pouvoir en manipulant la vérité, en effaçant les faits dérangeants et en s’assurant que seule la version officielle prévaut. De manière similaire, les algorithmes de Facebook, bien que moins autoritaires en apparence, possèdent la capacité de façonner la réalité des utilisateurs en contrôlant les informations qu’ils voient. Ce contrôle de l’information peut conduire à une forme d’autoritarisme numérique, où les gardiens algorithmiques décident de ce qui est vrai, pertinent ou digne d’attention.
« Le Meilleur des Mondes » d’Aldous Huxley offre un autre parallèle pertinent, en se concentrant sur le conditionnement sociétal par le plaisir, la distraction et la satisfaction superficielle. Dans le monde de Huxley, la population est maintenue docile et conforme par un flux constant de divertissements et de biens de consommation, l’empêchant de remettre en question le statu quo. Les algorithmes de Facebook, conçus pour maximiser l’engagement, privilégient souvent les contenus divertissants, sensationnels ou émotionnellement gratifiants. Cela peut créer un environnement numérique où les utilisateurs sont constamment bombardés de contenus distrayants, au détriment d’un engagement plus profond et plus critique avec des questions importantes.
Ces parallèles suggèrent que le contrôle exercé par les algorithmes de Facebook sur le flux d’informations n’est pas simplement un problème technique, mais un problème profondément philosophique, qui rappelle les avertissements de la littérature dystopique. Tout comme Orwell et Huxley ont imaginé des sociétés où le pouvoir était maintenu par le contrôle de l’information et le conditionnement de la population, les algorithmes de Facebook créent un paysage numérique où les frontières de la réalité sont subtilement façonnées par des forces invisibles.
L’une des implications les plus profondes du contrôle algorithmique sur des plateformes comme Facebook est l’érosion du libre arbitre. Dans une société où l’information est organisée par des algorithmes, les choix proposés aux utilisateurs sont souvent limités à ce que l’algorithme considère comme le plus engageant ou pertinent. Cela crée un environnement où les utilisateurs ne sont pas réellement libres d’explorer des points de vue divers ou de prendre des décisions pleinement éclairées ; ils sont plutôt guidés par des chemins prédéterminés par la logique de l’algorithme.
Dans la littérature dystopique, l’érosion du libre arbitre est un thème récurrent, souvent illustré par des mécanismes de contrôle et de surveillance. Dans « 1984 », le concept de « crime de la pensée » illustre comment l’État cherche à contrôler non seulement les actions, mais aussi les pensées, en effaçant la possibilité de dissidence. Bien que les algorithmes de Facebook ne surveillent pas ouvertement les pensées, ils influencent la gamme des idées et des perspectives auxquelles les utilisateurs sont exposés.
En privilégiant les contenus qui correspondent aux croyances existantes d’un utilisateur ou qui sont susceptibles de provoquer une forte réponse émotionnelle, l’algorithme restreint subtilement le champ du discours, rendant moins probable la rencontre avec des points de vue concurrents ou divergents. Cette limitation de l’exposition à des idées diverses peut entraîner une forme d’isolement intellectuel, où les utilisateurs sont piégés dans des chambres d’écho qui renforcent leurs croyances préexistantes. Avec le temps, cela peut éroder les compétences de pensée critique et réduire la capacité de pensée indépendante, les utilisateurs devenant habitués à une réalité organisée qui valide leurs points de vue plutôt que de les remettre en question.
Le contrôle algorithmique exercé par Facebook représente un Leviathan moderne, une force puissante et invisible qui façonne le discours public et la pensée individuelle. À travers le prisme de la fiction dystopique, on peut mieux comprendre les dangers potentiels de ce contrôle, y compris l’érosion du libre arbitre et la création d’une société où la réalité est médiatisée par des décisions algorithmiques. Cette exploration souligne la nécessité d’une plus grande transparence, responsabilité et considération éthique dans la conception et le déploiement d’algorithmes qui ont un impact si profond sur la société.
