L’IA, technologie fascisante ?

Dessin d’Arend Van Dam (Pays-Bas)

Inter­view de Thibault Prévost par Médi­a­part (extraits)

Medi­a­part : Plus per­son­ne désor­mais n’ignore qu’Elon Musk est l’un des proches les plus influ­ents du nou­veau prési­dent améri­cain. Est-il l’arbre qui cache la forêt de ces mil­liar­daires de la tech fascinés par le trump­isme ?

Thibault Prévost : Elon Musk n’est pas seul. Les médias améri­cains ont racon­té com­ment tous ces mil­liar­daires de la Sil­i­con Val­ley, en tout cas ceux qui penchent le plus à droite, ont à la fois infil­tré et phago­cyté l’équipe de tran­si­tion et le futur gou­verne­ment Trump. Ain­si Marc Andreessen [3] est à Mar-a-Lago [rési­dence de Don­ald Trump en Floride] depuis plusieurs semaines pour faire des entre­tiens avec les can­di­dats aux dif­férents postes de la future admin­is­tra­tion. Lar­ry Elli­son [4] a quant à lui fourni une base de don­nées sur les dif­férents min­istères et admin­is­tra­tions, en vue d’une purge.

David Sacks [5] a été nom­mé “tsar” de la cryp­tomon­naie et de l’intelligence arti­fi­cielle de la Mai­son-Blanche. Et Ken How­ery, un autre mem­bre de la “Pay­Pal mafia”, devrait être le futur ambas­sadeur au Dane­mark. Il devrait donc avoir à gér­er le pro­jet d’annexer ou d’acheter le Groen­land.

Selon le Wash­ing­ton Post, dix des can­di­dats choi­sis pour divers postes par Don­ald Trump ont des liens pro­fes­sion­nels avec Marc Andreessen, Elon Musk ou Peter Thiel [6]. Ce dernier est mon­té dans le train Trump avant tout le monde, mais se met désor­mais de côté car il n’a plus besoin d’intervenir directe­ment, parce qu’il a financé la car­rière de J. D. Vance, le nou­veau vice-prési­dent, qui est son homme de paille.

La place d’Elon Musk reste tout de même unique…

Il devient dif­fi­cile de savoir si Elon Musk rejoint Don­ald Trump, ou si c’est le trump­isme qui est en train d’être altéré de l’intérieur par Musk.

Dans les meet­ings, Elon Musk por­tait par exem­ple une cas­quette “Dark Maga”, qui fait référence aux “Lumières noires”, . C’est un mou­ve­ment néo­fas­ciste (théorisé par Cur­tis Yarvin) qui défend l’idée qu’un pays idéal devrait être gou­verné comme une entre­prise, par le patron d’une entre­prise.

Un autre exem­ple, ce sont les annonces de Trump autour du rachat du Groen­land et du canal de Pana­ma. Cela a été perçu comme une provo­ca­tion de plus, mais il faut se rap­pel­er qui est le grand-père de Musk : Joshua Alder­man, un chi­ro­prac­teur cana­di­en qui avait co-inven­té dans les années 1930 le mou­ve­ment Tech­noc­ra­cy Incor­po­rat­ed, néo­fas­ciste, anti­sémite, qui prévoy­ait la créa­tion de ce qu’ils appelaient le “Tech­nate of Amer­i­ca”, qui suiv­ait exacte­ment les mêmes fron­tières que ce qu’a pro­posé Trump.

Le plan de ces mil­liar­daires d’extrême droite est-il en train de se réalis­er ?

Oui. Pour les mil­liar­daires de la tech, le pro­gramme, c’est de se libér­er de la con­cur­rence et de la régu­la­tion à la fois. En investis­sant la Mai­son-Blanche, ils sont en train de faire les deux. Et la théorie selon laque­lle la Sil­i­con Val­ley serait com­posée de lib­er­tariens a vrai­ment un coup dans l’aile.

Ce sont au con­traire des gens dont la for­tune est dopée par de gigan­tesques con­trats publics et qui ne veu­lent pas du tout de la dis­pari­tion de l’État. Ils veu­lent un État sur mesure. On assiste à l’aboutissement de la stratégie de cap­ture régle­men­taire, qui con­siste nor­male­ment à infil­tr­er les régu­la­teurs pour devenir soi-même le régu­la­teur. C’est une étape de plus : devenir car­ré­ment l’État et s’autodécerner des con­trats mil­i­taires, des con­trats de sur­veil­lance ou des con­trats spa­ti­aux, dans le cas de Musk. On assiste à la trans­for­ma­tion d’une oli­garchie [le gou­verne­ment par une élite – ndlr] en pure plouto­cratie [le gou­verne­ment par les rich­es – ndlr].

Le change­ment de posi­tion­nement poli­tique des grandes fig­ures de la Sil­i­con Val­ley est rad­i­cal par rap­port au début des années 2010, où elles prô­naient la tolérance et l’inclusivité. Cette con­ver­sion est-elle sincère ?

Je pense qu’il faut pren­dre le prob­lème à l’envers : j’ai l’impression que c’est la phase pro­gres­siste qui était un déguise­ment. L’année reine des réseaux soci­aux, c’est 2011, avec les print­emps arabes et l’arrivée au pre­mier plan de Twit­ter. On est encore sous Oba­ma. À ce moment-là, l’industrie de la tech n’avait pas encore réal­isé son impunité et elle a estimé qu’elle avait tout à gag­n­er à jouer le jeu des pro­gres­sistes.

Mais c’était un pro­gres­sisme de façade. Dès le début, quand on regarde ce qu’écrivent et ce que dis­ent les grands patrons du secteur, ce qui les unit est avant tout une con­vic­tion éli­tiste et supré­maciste. The Sov­er­eign Indi­vid­ual (“L’individu sou­verain”), qui a été écrit en 1997, est un des livres de chevet des grandes for­tunes de la tech. Il envis­age la créa­tion, grâce au numérique, d’une “super­classe mon­di­ale” de gens extrême­ment rich­es, qu’il appelle “l’élite cog­ni­tive”.

Le con­cept est tiré de The Bell Curve, un livre raciste et supré­maciste sur la pré­ten­due “courbe de l’intelligence” aux États-Unis. Ces théoriciens expliquent que les très rich­es et très puis­sants sont lit­térale­ment des super­héros, qui ne font pas par­tie de la même espèce que nous et qui ont une légitim­ité intrin­sèque à nous gou­vern­er.

On ne peut pas non plus présen­ter Marc Andreessen autrement qu’en entre­pre­neur sou­tien du fas­cisme. Dans son Tech­no-Opti­mist Man­i­festo de 2023, il cite le futur­iste ital­ien Fil­ip­po Tom­ma­so Marinet­ti [qui a évolué vers le fas­cisme à par­tir de la fin des années 1910 – ndlr] et Nick Land, un blogueur des années 2000 qui se revendique comme fas­ciste.

Ces idées infusent large­ment dans le milieu des mil­liar­daires. Même s’ils ne sont pas d’accord sur les méth­odes à met­tre en place pour gou­vern­er, ils sont tous per­suadés de leur supéri­or­ité intrin­sèque, biologique.

Et selon vous, cette idéolo­gie d’extrême droite trou­ve de vrais échos dans les fon­da­tions de l’intelligence arti­fi­cielle. En quel sens ?

On ne peut plus faire l’impasse sur cette fil­i­a­tion idéologique et il est urgent de nom­mer l’IA pour ce qu’elle est. L’IA porte un pro­jet de redéf­i­ni­tion de la notion même d’être humain. Le dis­cours qui promeut l’intelligence arti­fi­cielle pro­pose de refonder les archi­tec­tures de la société. On retrou­ve là le pro­jet tran­shu­man­iste, cher aux mil­liar­daires de la tech.

Ce pro­jet est très dif­férent selon qu’il s’applique à eux-mêmes ou au reste du corps social. Pour eux-mêmes, l’IA, c’est le pro­jet d’augmentation des capac­ités humaines, la mytholo­gie du surhomme, la volon­té d’hybrider son cerveau avec la machine. De défi­er la mort aus­si.

Mais pour ces mil­liar­daires, quand l’IA est appliquée au reste du corps social, elle devient un out­il de con­trôle et de servi­tude. Quand on regarde les utopies qu’ils défend­ent, par exem­ple les sta­tions spa­tiales de Musk, le futur qui est promis pour la pop­u­la­tion, c’est la servi­tude algo­rith­mée, aux mains de la machine, avec un cap­i­tal qui se régénère qua­si­ment automa­tique­ment.

Ce rêve de la tech d’aujourd’hui est d’ailleurs le même que celui des patrons d’industrie au XIX^e siè­cle qui investis­saient dans les pre­mières machines, ou que celui d’Henry Ford quand il inven­tait la divi­sion du tra­vail. C’est tou­jours l’idée qu’avec suff­isam­ment de ratio­nal­ité, le cap­i­tal va créer tout seul du prof­it, sans inter­ven­tion humaine.

Quels sont les dan­gers que vous entrevoyez de la mon­tée en puis­sance de cette tech­nolo­gie ?

L’IA n’est pas une tech­nique, c’est une idéolo­gie. C’est ce qu’explique d’ailleurs un de ses créa­teurs, John McCarthy. Quand il a lancé le terme Arti­fi­cial Intel­li­gence, c’était un choix con­scient pour obtenir des finance­ments. L’idée d’une machine anthro­po­mor­phique, qui va arriv­er non seule­ment à attein­dre l’être humain, mais à le dépass­er.

Et quand on human­ise la machine, on mécan­ise l’humain – c’est la con­tre-propo­si­tion tacite. Cela devient extrême­ment dan­gereux pour les sociétés, et notam­ment dans la sphère du tra­vail. Quand on déploie des algo­rithmes dans l’entreprise, on pousse aus­si les gens à se rap­procher de la machine. Et donc à réduire leur périmètre d’autonomie poli­tique.

Il faut aus­si rap­pel­er que l’IA généra­tive, présen­tée depuis l’arrivée de Chat­G­PT fin 2022 comme un out­il déjà, ou bien­tôt, plus effi­cace que l’homme, ne marche pas si bien que cela. Pourquoi ?

Struc­turelle­ment, on par­le de machines qui font 5 à 20 % d’erreurs. Ces machines sont entraînées sur un cor­pus de don­nées absol­u­ment gigan­tesque, et font des mis­es en rela­tion entre des points, par inférence sta­tis­tique. Tant qu’on reste dans une représen­ta­tion du monde qui est proche de la médi­ane sta­tis­tique, cela fonc­tionne très bien.

Mais plus on s’éloigne de la médi­ane, plus le mod­èle va avoir du mal à prédire et à mod­élis­er le monde. Le prob­lème est que la médi­ane poli­tique du monde cor­re­spond à la bour­geoisie, à la blan­chité, au genre mas­culin. Aux dom­i­nants, en fait.

Donc, plus on s’éloigne de la représen­ta­tion du monde des dom­i­nants, plus on arrive dans les marges, plus on se retrou­ve avec une automa­ti­sa­tion des iné­gal­ités, comme le dit la poli­tiste Vir­ginia Eubanks : la machine repro­duit et ampli­fie les biais de classe, de race et de genre, qui sou­ti­en­nent déjà le monde occi­den­tal. Toute machine algo­rith­mique est une inter­ven­tion poli­tique sur le réel.

Dans une ten­ta­tive de dépoli­tis­er le prob­lème, la Sil­i­con Val­ley essaye de redéfinir les erreurs de l’IA comme des “hal­lu­ci­na­tions”, en nous oblig­eant à une forme de ten­dresse par rap­port aux machines, qu’il faudrait édu­quer. Je suis absol­u­ment con­tre l’usage de ce terme : il s’agit d’erreurs de cal­cul, de dés­in­for­ma­tion, intrin­sèques au mod­èle.

Et on décou­vre régulière­ment que les machines autonomes ne le sont en fait pas.

On apprend par exem­ple que la voiture autonome néces­site une super­vi­sion humaine à dis­tance [7] ou que les mag­a­sins automa­tiques Ama­zon où on ne pas­sait pas à la caisse étaient gérés par un mil­li­er de tra­vailleurs indi­ens sous-payés, qui devaient manuelle­ment “fla­guer” les achats des clients à tra­vers des caméras de sur­veil­lance. Il faut davan­tage d’êtres humains pour gér­er l’illusion de l’intelligence et de la machine autonome. Cela illus­tre bien l’inutilité mas­sive de ce sys­tème.

Le dis­cours sur les avancées tech­nologiques de l’IA n’est pas inof­fen­sif pour autant, assurez-vous. En quoi est-il por­teur de men­aces ?

Der­rière cet arti­fice de l’“intel­li­gence”, il y a des effets très con­crets. C’est par là qu’il faudrait com­mencer : par­ler d’une tech­nolo­gie non pas à par­tir de ses promess­es, mais de ses impacts réels. Et quand on regarde l’IA par ce prisme, les métaphores dépoli­ti­santes s’effondrent.

Pour com­mencer, l’IA aujourd’hui, c’est une indus­trie lourde en ter­mes envi­ron­nemen­taux. L’image que nous devri­ons en avoir col­lec­tive­ment, c’est celle du data cen­ter, qui pompe telle­ment d’électricité qu’il jus­ti­fie la réou­ver­ture de cen­trales à char­bon aux États-Unis.

Une enquête de Bloomberg mon­tre que les régions dans lesquelles sont implan­tés le plus de data cen­ters ont con­staté une diminu­tion de la qual­ité de l’électricité disponible pour les habi­tants [8]. Le sig­nal élec­trique n’est plus har­monieux, et cela peut endom­mager des appareils élec­tromé­nagers et même entraîn­er des incendies domes­tiques. Dans une petite ville d’Arizona, un data cen­ter de Microsoft va utilis­er une grande par­tie de l’eau disponible, parce qu’il fau­dra absol­u­ment le refroidir…

L’ancien PDG de Google Eric Schmidt dit qu’avec la mon­tée en puis­sance de l’IA, il ne sera pas pos­si­ble de respecter les objec­tifs envi­ron­nemen­taux, mais que pol­luer va per­me­t­tre de dévelop­per l’“IA con­sciente”, qui, elle, va résoudre le change­ment cli­ma­tique. On est dans la quin­tes­sence du tech­no-solu­tion­nisme : “Nous créons des prob­lèmes, mais nous allons fournir simul­tané­ment des solu­tions.”

[1] Thibault Prévost : jour­nal­iste (pour le site Arrêt sur images et d’autres), auteur de Les Prophètes de l’IA (Lux édi­teur)

[2]   Dan McQuil­lan, maître de con­férence au départe­ment d’informatique de l’université Gold­smiths de Lon­dres, auteur de Resist­ing AI, an anti-fas­cist approach to arti­fi­cial intel­li­gence (Résis­ter à l’IA, une approche anti-fas­ciste de l’IA, Bris­tol Uni­ver­si­ty Press, 2022, non traduit). 

[3] Marc Andreessen, fon­da­teur du pre­mier nav­i­ga­teur web grand pub­lic, Netscape, et du fonds de cap­i­tal-risque, Andreessen-Horowitz, le plus con­nu de la Sil­i­con Val­ley

[4] Lar­ry Elli­son, PDG d’Ora­cle (qui dif­fuse notam­ment l’un des sys­tèmes de ges­tion de base de don­nées les plus dif­fusés dans le monde)

[5] David Sacks, ancien de la société de paiement en ligne Pay­Pal, cofondée par Elon Musk

[6] Peter Thiel, autre cofon­da­teur de Pay­Pal et de la société de col­lecte de don­nées Palan­tir. C’est l’un des “papes” du tran­shu­man­isme

[7] Le New York Times éval­ue la super­vi­sion néces­saire à 1,5 humain par véhicule autonome

[8] Les cen­tres de data, l’IA et les cryp­tomon­naies pour­raient, selon l’Agence inter­na­tionale de l’énergie, attein­dre une con­som­ma­tion de 1 000 térawattheures (TWh) en 2026, soit la con­som­ma­tion actuelle d’un pays comme le Japon.