Dessin d'Arend Van Dam (Pays-Bas)
C'est la thèse évoquée par Thibault Prévost [1]. Il y souligne les racines idéologiques fascisantes de certains des plus grands milliardaires de la Silicon Valley, ainsi que le projet politique sur lequel repose le développement rapide de l’IA dans les sphères politiques et économiques, lequel coïncide avec celui du trumpisme.
C'est aussi la vision de Dan Mc Quillan [2], qui cite le philosophe Achille Mbembe, pour qui l’IA est traversée, de bout en bout, par sa violence. Elle accroît ce que la philosophe Hannah Arendt appelle “l’inconscience institutionnelle”, c’est-à-dire “l’incapacité de critiquer les instructions ou de réfléchir aux conséquences”. L’optimisation de l’IA augmente ainsi la violence administrative et intensifie les structures d’inégalités existantes, comme quand elle est utilisée pour faciliter les décisions concernant les patients prioritaires en matière de soins de santé ou les détenus qui risquent de récidiver.
A la suite de Deleuze et Guattari qui considéraient que le fascisme apparaît souvent caché imperceptiblement dans notre vie quotidienne, l’IA concentre et condense ces microfascismes par la façon dont elle crée des états d’exception. “La condensation algorithmique des conditions sociales accélère les différences” au détriment des personnes racisées, des femmes, des handicapés et des plus pauvres.
Par ailleurs, d'autres auteurs soulignent que les "Big Tech" sont de longue date engagées dans une "course à l’hégémonie sociale et économique". Ainsi elles pratiquent massivement l’optimisation fiscale, le détournement à leur profit d'énergie, d'eau (voir en fin d'article), de métaux plus ou moins rares obtenus dans des conditions criminelles d'exploitation sociale et environnementale (dénoncées par Génération Lumière, Célia Izoard, Fabien Lebrun). Pour l’ONG Global Witness, c'est un"pillage généralisé des ressources naturelles".
Cela rejoint le besoin des Big Tech d’un monde du travail soumis. En interne, pour maintenir le coût du travail bas, elles sont des habituées de la répression de leurs salariés. Comme le rappelle Grace Bakeley, Elon Musk a toujours lutté contre l’implantation d’un syndicat chez Tesla et défendu l’idée de licencier celles et ceux qui menacent de faire grève... Ce combat contre les syndicats est aussi au cœur des actions de Facebook ou d’Amazon.
Plus généralement, ces entreprises ne goûtent guère la pensée critique de leur propre action. Leur but est de construire une vie idéale (selon eux) de leurs usagers à laquelle ces derniers devront se conformer. Pour reprendre les termes de Guy Debord, elles visent la substitution du non-vivant au vivant, c’est-à-dire du capital au travail. La représentation algorithmique du monde doit prendre le pas sur tout ce qui est directement vécu. Dès lors, toutes les actions ou pensées critiques de la domination sont une menace pour leur modèle économique.
Interview de Thibault Prévost par Médiapart (extraits)
Mediapart : Plus personne désormais n’ignore qu’Elon Musk est l’un des proches les plus influents du nouveau président américain. Est-il l’arbre qui cache la forêt de ces milliardaires de la tech fascinés par le trumpisme ?
Thibault Prévost : Elon Musk n’est pas seul. Les médias américains ont raconté comment tous ces milliardaires de la Silicon Valley, en tout cas ceux qui penchent le plus à droite, ont à la fois infiltré et phagocyté l’équipe de transition et le futur gouvernement Trump. Ainsi Marc Andreessen [3] est à Mar-a-Lago [résidence de Donald Trump en Floride] depuis plusieurs semaines pour faire des entretiens avec les candidats aux différents postes de la future administration. Larry Ellison [4] a quant à lui fourni une base de données sur les différents ministères et administrations, en vue d’une purge.
David Sacks [5] a été nommé "tsar" de la cryptomonnaie et de l’intelligence artificielle de la Maison-Blanche. Et Ken Howery, un autre membre de la "PayPal mafia", devrait être le futur ambassadeur au Danemark. Il devrait donc avoir à gérer le projet d’annexer ou d’acheter le Groenland.
Selon le Washington Post, dix des candidats choisis pour divers postes par Donald Trump ont des liens professionnels avec Marc Andreessen, Elon Musk ou Peter Thiel [6]. Ce dernier est monté dans le train Trump avant tout le monde, mais se met désormais de côté car il n’a plus besoin d’intervenir directement, parce qu’il a financé la carrière de J. D. Vance, le nouveau vice-président, qui est son homme de paille.
La place d’Elon Musk reste tout de même unique…
Il devient difficile de savoir si Elon Musk rejoint Donald Trump, ou si c’est le trumpisme qui est en train d’être altéré de l’intérieur par Musk.
Dans les meetings, Elon Musk portait par exemple une casquette "Dark Maga", qui fait référence aux "Lumières noires", . C’est un mouvement néofasciste (théorisé par Curtis Yarvin) qui défend l’idée qu’un pays idéal devrait être gouverné comme une entreprise, par le patron d’une entreprise.
Un autre exemple, ce sont les annonces de Trump autour du rachat du Groenland et du canal de Panama. Cela a été perçu comme une provocation de plus, mais il faut se rappeler qui est le grand-père de Musk : Joshua Alderman, un chiropracteur canadien qui avait co-inventé dans les années 1930 le mouvement Technocracy Incorporated, néofasciste, antisémite, qui prévoyait la création de ce qu’ils appelaient le "Technate of America", qui suivait exactement les mêmes frontières que ce qu’a proposé Trump.
Le plan de ces milliardaires d’extrême droite est-il en train de se réaliser ?
Oui. Pour les milliardaires de la tech, le programme, c’est de se libérer de la concurrence et de la régulation à la fois. En investissant la Maison-Blanche, ils sont en train de faire les deux. Et la théorie selon laquelle la Silicon Valley serait composée de libertariens a vraiment un coup dans l’aile.
Ce sont au contraire des gens dont la fortune est dopée par de gigantesques contrats publics et qui ne veulent pas du tout de la disparition de l’État. Ils veulent un État sur mesure. On assiste à l’aboutissement de la stratégie de capture réglementaire, qui consiste normalement à infiltrer les régulateurs pour devenir soi-même le régulateur. C’est une étape de plus : devenir carrément l’État et s’autodécerner des contrats militaires, des contrats de surveillance ou des contrats spatiaux, dans le cas de Musk. On assiste à la transformation d’une oligarchie [le gouvernement par une élite – ndlr] en pure ploutocratie [le gouvernement par les riches – ndlr].
Le changement de positionnement politique des grandes figures de la Silicon Valley est radical par rapport au début des années 2010, où elles prônaient la tolérance et l’inclusivité. Cette conversion est-elle sincère ?
Je pense qu’il faut prendre le problème à l’envers : j’ai l’impression que c’est la phase progressiste qui était un déguisement. L’année reine des réseaux sociaux, c’est 2011, avec les printemps arabes et l’arrivée au premier plan de Twitter. On est encore sous Obama. À ce moment-là, l’industrie de la tech n’avait pas encore réalisé son impunité et elle a estimé qu’elle avait tout à gagner à jouer le jeu des progressistes.
Mais c’était un progressisme de façade. Dès le début, quand on regarde ce qu’écrivent et ce que disent les grands patrons du secteur, ce qui les unit est avant tout une conviction élitiste et suprémaciste. The Sovereign Individual ("L’individu souverain"), qui a été écrit en 1997, est un des livres de chevet des grandes fortunes de la tech. Il envisage la création, grâce au numérique, d’une "superclasse mondiale" de gens extrêmement riches, qu’il appelle "l’élite cognitive".
Le concept est tiré de The Bell Curve, un livre raciste et suprémaciste sur la prétendue "courbe de l’intelligence" aux États-Unis. Ces théoriciens expliquent que les très riches et très puissants sont littéralement des superhéros, qui ne font pas partie de la même espèce que nous et qui ont une légitimité intrinsèque à nous gouverner.
On ne peut pas non plus présenter Marc Andreessen autrement qu’en entrepreneur soutien du fascisme. Dans son Techno-Optimist Manifesto de 2023, il cite le futuriste italien Filippo Tommaso Marinetti [qui a évolué vers le fascisme à partir de la fin des années 1910 – ndlr] et Nick Land, un blogueur des années 2000 qui se revendique comme fasciste.
Ces idées infusent largement dans le milieu des milliardaires. Même s’ils ne sont pas d’accord sur les méthodes à mettre en place pour gouverner, ils sont tous persuadés de leur supériorité intrinsèque, biologique.
Et selon vous, cette idéologie d’extrême droite trouve de vrais échos dans les fondations de l’intelligence artificielle. En quel sens ?
On ne peut plus faire l’impasse sur cette filiation idéologique et il est urgent de nommer l’IA pour ce qu’elle est. L’IA porte un projet de redéfinition de la notion même d’être humain. Le discours qui promeut l’intelligence artificielle propose de refonder les architectures de la société. On retrouve là le projet transhumaniste, cher aux milliardaires de la tech.
Ce projet est très différent selon qu’il s’applique à eux-mêmes ou au reste du corps social. Pour eux-mêmes, l’IA, c’est le projet d’augmentation des capacités humaines, la mythologie du surhomme, la volonté d’hybrider son cerveau avec la machine. De défier la mort aussi.
Mais pour ces milliardaires, quand l’IA est appliquée au reste du corps social, elle devient un outil de contrôle et de servitude. Quand on regarde les utopies qu’ils défendent, par exemple les stations spatiales de Musk, le futur qui est promis pour la population, c’est la servitude algorithmée, aux mains de la machine, avec un capital qui se régénère quasiment automatiquement.
Ce rêve de la tech d’aujourd’hui est d’ailleurs le même que celui des patrons d’industrie au XIXe siècle qui investissaient dans les premières machines, ou que celui d’Henry Ford quand il inventait la division du travail. C’est toujours l’idée qu’avec suffisamment de rationalité, le capital va créer tout seul du profit, sans intervention humaine.
Quels sont les dangers que vous entrevoyez de la montée en puissance de cette technologie ?
L’IA n’est pas une technique, c’est une idéologie. C’est ce qu’explique d’ailleurs un de ses créateurs, John McCarthy. Quand il a lancé le terme Artificial Intelligence, c’était un choix conscient pour obtenir des financements. L’idée d’une machine anthropomorphique, qui va arriver non seulement à atteindre l’être humain, mais à le dépasser.
Et quand on humanise la machine, on mécanise l’humain – c’est la contre-proposition tacite. Cela devient extrêmement dangereux pour les sociétés, et notamment dans la sphère du travail. Quand on déploie des algorithmes dans l’entreprise, on pousse aussi les gens à se rapprocher de la machine. Et donc à réduire leur périmètre d’autonomie politique.
Il faut aussi rappeler que l’IA générative, présentée depuis l’arrivée de ChatGPT fin 2022 comme un outil déjà, ou bientôt, plus efficace que l’homme, ne marche pas si bien que cela. Pourquoi ?
Structurellement, on parle de machines qui font 5 à 20 % d’erreurs. Ces machines sont entraînées sur un corpus de données absolument gigantesque, et font des mises en relation entre des points, par inférence statistique. Tant qu’on reste dans une représentation du monde qui est proche de la médiane statistique, cela fonctionne très bien.
Mais plus on s’éloigne de la médiane, plus le modèle va avoir du mal à prédire et à modéliser le monde. Le problème est que la médiane politique du monde correspond à la bourgeoisie, à la blanchité, au genre masculin. Aux dominants, en fait.
Donc, plus on s’éloigne de la représentation du monde des dominants, plus on arrive dans les marges, plus on se retrouve avec une automatisation des inégalités, comme le dit la politiste Virginia Eubanks : la machine reproduit et amplifie les biais de classe, de race et de genre, qui soutiennent déjà le monde occidental. Toute machine algorithmique est une intervention politique sur le réel.
Dans une tentative de dépolitiser le problème, la Silicon Valley essaye de redéfinir les erreurs de l’IA comme des "hallucinations", en nous obligeant à une forme de tendresse par rapport aux machines, qu’il faudrait éduquer. Je suis absolument contre l’usage de ce terme : il s’agit d’erreurs de calcul, de désinformation, intrinsèques au modèle.
Et on découvre régulièrement que les machines autonomes ne le sont en fait pas.
On apprend par exemple que la voiture autonome nécessite une supervision humaine à distance [7] ou que les magasins automatiques Amazon où on ne passait pas à la caisse étaient gérés par un millier de travailleurs indiens sous-payés, qui devaient manuellement "flaguer" les achats des clients à travers des caméras de surveillance. Il faut davantage d’êtres humains pour gérer l’illusion de l’intelligence et de la machine autonome. Cela illustre bien l’inutilité massive de ce système.
Le discours sur les avancées technologiques de l’IA n’est pas inoffensif pour autant, assurez-vous. En quoi est-il porteur de menaces ?
Derrière cet artifice de l’"intelligence", il y a des effets très concrets. C’est par là qu’il faudrait commencer : parler d’une technologie non pas à partir de ses promesses, mais de ses impacts réels. Et quand on regarde l’IA par ce prisme, les métaphores dépolitisantes s’effondrent.
Pour commencer, l’IA aujourd’hui, c’est une industrie lourde en termes environnementaux. L’image que nous devrions en avoir collectivement, c’est celle du data center, qui pompe tellement d’électricité qu’il justifie la réouverture de centrales à charbon aux États-Unis.
Une enquête de Bloomberg montre que les régions dans lesquelles sont implantés le plus de data centers ont constaté une diminution de la qualité de l’électricité disponible pour les habitants [8]. Le signal électrique n’est plus harmonieux, et cela peut endommager des appareils électroménagers et même entraîner des incendies domestiques. Dans une petite ville d’Arizona, un data center de Microsoft va utiliser une grande partie de l’eau disponible, parce qu’il faudra absolument le refroidir…
L’ancien PDG de Google Eric Schmidt dit qu’avec la montée en puissance de l’IA, il ne sera pas possible de respecter les objectifs environnementaux, mais que polluer va permettre de développer l’"IA consciente", qui, elle, va résoudre le changement climatique. On est dans la quintessence du techno-solutionnisme : "Nous créons des problèmes, mais nous allons fournir simultanément des solutions."
[1] Thibault Prévost : journaliste (pour le site Arrêt sur images et d'autres), auteur de Les Prophètes de l’IA (Lux éditeur)
[2] Dan McQuillan, maître de conférence au département d’informatique de l’université Goldsmiths de Londres, auteur de Resisting AI, an anti-fascist approach to artificial intelligence (Résister à l’IA, une approche anti-fasciste de l’IA, Bristol University Press, 2022, non traduit).
[3] Marc Andreessen, fondateur du premier navigateur web grand public, Netscape, et du fonds de capital-risque, Andreessen-Horowitz, le plus connu de la Silicon Valley
[4] Larry Ellison, PDG d’Oracle (qui diffuse notamment l'un des systèmes de gestion de base de données les plus diffusés dans le monde)
[5] David Sacks, ancien de la société de paiement en ligne PayPal, cofondée par Elon Musk
[6] Peter Thiel, autre cofondateur de PayPal et de la société de collecte de données Palantir. C'est l'un des "papes" du transhumanisme
[7] Le New York Times évalue la supervision nécessaire à 1,5 humain par véhicule autonome
[8] Les centres de data, l’IA et les cryptomonnaies pourraient, selon l'Agence internationale de l’énergie, atteindre une consommation de 1 000 térawattheures (TWh) en 2026, soit la consommation actuelle d’un pays comme le Japon.
2 réponses sur « L'IA, technologie fascisante ? »
[…] L'IA, technologie fascisante ? (HACN) […]
[…] (improprement appelée « Intelligence artificielle« ) partout, et questionnons même, dans un récent article, l’imbrication des visées fascisantes de responsables des « big tech » américaines […]