Intelligence artificielle, résistances humaines

France cul­ture a con­sacré trois émis­sions sur l’IA et ses usages pré­da­teurs : comme armes autonomes (robots tueurs, notam­ment en usage géno­cidaire à Gaza), sur le déploiement de data cen­ters (con­séquences envi­ron­nemen­tales, colo­nial­isme…) et sur l’usage de ces IA pour tra­quer les soit disant.es fraudeurs allo­cataires soci­aux (en igno­rant les fraudeurs fis­caux et ceux qui ne versent pas les coti­sa­tions dues ou fac­turent des presta­tions indues, bien plus nombreux.ses).

Ces émis­sions, avec de nom­breux intervenant.es, pren­nent en compte les résis­tances qui émer­gent un peu partout et se coor­don­nent.

Présen­ta­tion ci-dessous, avec les liens vers les pod­casts en cli­quant leur titre.

Armes autonomes, un sur­saut con­tre les “robots tueurs” ?

• Lau­re de Roucy-Rochegonde, direc­trice du Cen­tre géopoli­tique des tech­nolo­gies à l’Insti­tut français des rela­tions inter­na­tionales (IFRI), enseignante à Sci­ences Po Paris et à Paris-II Pan­théon-Assas [elle est inter­v­enue lors des débats Hack­er la tech, Medi­a­part : vidéo ici] ;
• Aymer­ic Elluin, respon­s­able de plaidoy­er armes à Amnesty Inter­na­tion­al ;
• Anna Nadibaidze, chercheuse post­doc­tor­ale au cen­tre d’études sur la guerre de l’Université du Sud-Dane­mark.

Présen­ta­tion des enjeux

De l’Ukraine au Proche-Ori­ent, la général­i­sa­tion de l’intelligence arti­fi­cielle sur les champs de bataille a fait bas­culer la guerre dans une nou­velle ère. Par­mi les appli­ca­tions pos­si­bles de l’IA dans le secteur mil­i­taire fig­urent les armes autonomes, capa­bles d’i­den­ti­fi­er, de sélec­tion­ner et de frap­per une cible sans inter­ven­tion humaine directe : sujettes au débat depuis plus de dix ans, ces armes létales autonomes ne relèvent plus de la sci­ence-fic­tion, comme l’a illus­tré la repro­gram­ma­tion autonome d’une mis­sion de drone à Zapor­i­j­ja en Ukraine en août dernier, qui a coûté la vie à plusieurs vic­times civiles.

Face à cette accéléra­tion tech­nologique, le cadre exis­tant du droit inter­na­tion­al human­i­taire paraît de plus en plus inadap­té. Cette urgence a con­duit, le 13 août 2026, l’Organ­i­sa­tion des Nations unies et le Comité inter­na­tion­al de la Croix-Rouge (CICR) à lancer un appel solen­nel en faveur d’un traité con­traig­nant, pro­longeant ain­si une prise de con­science relayée dès 2013 par la cam­pagne inter­na­tionale Stop Killer Robots, qui fédère aujourd’hui deux-cent-cinquante ONG, dont Human Rights Watch et Amnesty Inter­na­tion­al.

Si la régu­la­tion effec­tive des armes autonomes n’est pas encore d’actualité, ce long com­bat pour impos­er des lignes rouges observe un regain d’espoir. Réu­nis à Genève début sep­tem­bre 2026, cent vingt-huit États mem­bres du Groupe d’experts gou­verne­men­taux (GGE) sont par­venus, après plus de dix ans de négo­ci­a­tions, à s’ac­corder sur une déf­i­ni­tion com­mune des armes autonomes. Ce con­sen­sus his­torique ouvre la voie à la con­férence d’ex­a­m­en du 16 novem­bre 2026, où la com­mu­nauté inter­na­tionale doit décider de l’ou­ver­ture d’un man­dat de négo­ci­a­tion pour inté­gr­er ces tech­nolo­gies à la Con­ven­tion sur cer­taines armes clas­siques (CCAC). Mais les obsta­cles restent immenses. Pris en étau entre impératif moral et course aux arme­ments, les États affichent de pro­fondes diver­gences, de l’ob­struc­tion sys­té­ma­tique de la Russie à la posi­tion inter­mé­di­aire de la France, en pas­sant par les récentes annonces améri­caines de la fin sep­tem­bre 2026, créant un com­man­de­ment mil­i­taire dédié à la guerre autonome, l’Auto War Com.

Peut-on réelle­ment encadr­er ou inter­dire des tech­nolo­gies de rup­ture alors que la com­péti­tion géopoli­tique mon­di­ale s’in­ten­si­fie ? Com­ment garan­tir un “con­trôle humain sig­ni­fi­catif” face à des algo­rithmes dont l’im­prévis­i­bil­ité men­ace directe­ment la dig­nité humaine et le droit de la guerre ? Enfin, la recherche d’une régu­la­tion mul­ti­latérale relève-t-elle d’un véri­ta­ble sur­saut éthique ou d’un cal­cul stratégique des puis­sances soucieuses de ne pas se laiss­er dis­tancer ?

Face aux data cen­ters, une soif de démoc­ra­tie

• Irénée Rég­nauld, doc­tor­ant à l’E­HESS et chercheur asso­cié au lab­o­ra­toire COSTECH de l’université de Com­piègne.
• Cécile Diguet, Urban­iste à l’Insti­tut Paris Région, direc­trice du départe­ment Urban­isme, Amé­nage­ment et Ter­ri­toires

Présen­ta­tion des enjeux

Ce sont des bâti­ments aveu­gles, comme refer­més sur eux-mêmes, pro­tégés par des gardes, des caméras de sur­veil­lance et des grilles der­rière lesquelles s’alignent des baies, des armoires alignées sur des cen­taines de mètres. Dans cha­cune d’entre elles, bien alignées, des rangées de serveurs qui bour­don­nent en per­ma­nence. C’est ici que se struc­turent nos vies numériques, ici que sont stock­ées et échangées les don­nées de nos con­ver­sa­tions en ligne, de nos recherch­es et, depuis qu’elle est désor­mais entrée dans les usages quo­ti­di­ens, de nos échanges avec l’intelligence arti­fi­cielle.

Cette explo­sion des usages de l’IA se con­state physique­ment un peu partout dans le monde, avec la mul­ti­pli­ca­tion de ces cen­tres de don­nées, qui incar­nent l’emprise des grandes entre­pris­es du numérique sur nos vies et les ten­sions qu’elles sus­ci­tent : ces cen­tres de don­nées s’étendent sur nos ter­rains agri­coles, con­som­ment l’eau et l’électricité que nous pro­duisons, autant de con­flits d’usage qui génèrent depuis plusieurs années déjà des mobil­i­sa­tions, très vives aux États-Unis, mais aus­si en Europe.

De l’Oklahoma à la Seine-et-Marne, partout, des citoyens se réu­nis­sent, débat­tent, et con­tes­tent ces pro­jets de con­struc­tion. Des mobil­i­sa­tions con­tre les nui­sances générées par ces cen­tres de don­nées, mais dont la portée poli­tique dépasse le cadre de la seule vie quo­ti­di­enne. Les citoyens déplorent l’unanimisme tech­nologique de leurs dirigeants, ils cri­tiquent une course aveu­gle à l’IA et récla­ment plus de con­cer­ta­tion dans l’élaboration de ces poli­tiques numériques dont ils mesurent les enjeux en ter­mes de sou­veraineté et d’écologie. Quelles que soient leurs ori­en­ta­tions poli­tiques, ils affir­ment tous une soif de démoc­ra­tie.

Presta­tions sociales : des allo­cataires con­tre la traque algo­rith­mique

• Soiz­ic Péni­caud, cofon­da­trice de l’Obser­va­toire des algo­rithmes publics (Odap) et enseignante à Sci­ences Po Paris [notre col­lec­tif par­ticipe aux travaux de l’ODAP] ;
• Vin­cent Dubois, soci­o­logue et poli­tiste, pro­fesseur à l’Insti­tut d’Études Poli­tiques de Stras­bourg et mem­bre du lab­o­ra­toire Sage ;
• Félix Tréguer, poli­tiste, chercheur asso­cié au Cen­tre Inter­net et Société du CNRS [nous avons plusieurs fois invité Félix Tréguer]

Présen­ta­tion des enjeux

Que ce soit aux Pays-Bas en 2021, en Ser­bie et en France en 2023, ou au Dane­mark en 2024, des affaires sim­i­laires ont éclaté et ont révélé que, sous cou­vert d’efficacité, des ser­vices publics ont recou­ru à des sys­tèmes automa­tisés pour class­er les béné­fi­ci­aires des allo­ca­tions et lut­ter con­tre les fraudes poten­tielles.

À chaque fois, les admin­is­tra­tions sociales ont adossé leurs poli­tiques à des algo­rithmes de scor­ing. Des critères comme la sit­u­a­tion famil­iale, le sexe, le lieu de rési­dence, le hand­i­cap, la nation­al­ité ont per­mis de réalis­er des “scores de risque” pour détecter des pro­fils sus­pects. En se bas­ant sur les résul­tats de ces out­ils numériques, la Caisse nationale d’al­lo­ca­tions famil­iales et France Tra­vail, tout comme leurs homo­logues européens, ont ain­si réclamé des trop-perçus à des allo­cataires pour­tant dans leur droit. Cer­taines familles ont plongé dans la pau­vreté, des mères céli­bataires se sont vu enlever leurs enfants sur la base de cal­culs erronés.

Par ailleurs, aux États-Unis, la riposte con­tre les caméras Flock s’organise. La “safe city” se heurte à une résis­tance citoyenne crois­sante. La mobil­i­sa­tion con­tre la vidéo­sur­veil­lance algo­rith­mique des caméras “Flock” prend ain­si de l’ampleur depuis un an et s’appuie sur les protes­ta­tions con­tre les vio­lences poli­cières et les dérives de l’ICE. Ce com­bat con­tre la “tech­nop­o­lice” gagne désor­mais le Con­grès améri­cain, où des élus récla­ment l’en­cadrement ou l’in­ter­dic­tion pure et sim­ple de ces caméras déployées dans de nom­breuses villes améri­caines.