L’IA en temps de guerre : complicités technologiques et massacres

Image tirée du site d’Ac­cess Now

Des informaticien·nes et des sci­en­tifiques appel­lent à l’ar­rêt des col­lab­o­ra­tions avec Israël. Ils et elles  protes­tent “con­tre l’usage crois­sant de tech­nolo­gies issues de leur dis­ci­pline à des fins meur­trières, usage tris­te­ment illus­tré par le recours sys­té­ma­tique à l’in­tel­li­gence arti­fi­cielle pour la plan­i­fi­ca­tion d’as­sas­si­nats plus ou moins ciblés à Gaza” (voir appel ci-dessous et en ligne, signable ici).

Cela rejoint le pro­pos de Taysir Math­louthi, chargée de plaidoy­er pour le site 7amleh (ou Cen­tre arabe pour l’a­vance­ment des médias soci­aux, groupe de défense des droits numériques et des droits de l’homme pour les Pales­tiniens), qui souligne que le Som­met pour l’ac­tion sur l’In­tel­li­gence Arti­fi­cielle, qui se déroulera à Paris les 10 et 11 févri­er 2025, oublie de débat­tre de l’usage mil­i­taire de l’intelligence arti­fi­cielle alors qu’il réu­nit une kyrielle de dirigeants poli­tiques (voir extraits de son texte ci-dessous).

Autre guerre en lien avec le numérique (parce que les min­erais indis­pens­ables aux smart­phones y sont extraits) : le col­lec­tif lyon­nais Généra­tion Lumière appelle à sign­er la péti­tion Pour que l’Eu­rope arrête de financer la guerre en République démoc­ra­tique du Con­go (expli­ca­tions com­plé­men­taires sur le site Reporterre).

Appel des 51 infor­mati­ci­ennes, infor­mati­ciens et sci­en­tifiques du numérique con­tre le géno­cide à Gaza

Après les attaques ter­ror­istes du Hamas du 7 octo­bre 2023, le gou­verne­ment israélien a opté pour une guerre totale dont le front n’a cessé de s’é­ten­dre. Les pop­u­la­tions en furent les pre­mières vic­times : écoles, uni­ver­sités, hôpi­taux, médias et autres insti­tu­tions civiles ont été les cibles assumées de l’ar­mée israéli­enne.

Le 5 décem­bre 2024, Amnesty Inter­na­tion­al pub­li­ait un rap­port accu­sant les autorités israéli­ennes de com­met­tre un géno­cide con­tre la pop­u­la­tion pales­tini­enne de Gaza. 

Le 21 novem­bre 2024, la Cour pénale inter­na­tionale (CPI) émet­tait con­tre le pre­mier min­istre Benyamin Netanya­hou et son ex-min­istre de la défense Yoav Gal­lant des man­dats d’ar­rêt inter­na­tionaux, les esti­mant pénale­ment respon­s­ables de crimes de guerre et de crimes con­tre l’hu­man­ité. 

En octo­bre 2024, l’Afrique du Sud accu­sait les autorités israéli­ennes de géno­cide auprès de la Cour inter­na­tionale de Jus­tice.
Si la trêve, ini­tiée le 15 jan­vi­er, est évidem­ment une bonne nou­velle pour les pop­u­la­tions civiles, elle reste très frag­ile. Gaza n’est plus qu’un champ de ruines et la guerre s’intensifie aujourd’hui en Cisjor­danie.

Les coopéra­tions sci­en­tifiques et indus­trielles ne sauraient être hors du monde. Il est de notre droit et de notre respon­s­abil­ité de les ques­tion­ner et éventuelle­ment de les sus­pendre lorsque des crimes con­tre l’humanité sont sus­pec­tés.

L’action de la jus­tice inter­na­tionale et des com­mis­sions d’enquête indépen­dantes est indis­pens­able pour faire toute la lumière sur les crimes com­mis au Proche-Ori­ent. Dans l’attente des con­clu­sions de ces procé­dures, nous appelons, comme nos col­lègues de math­é­ma­tiques l’ont fait en décem­bre 2024, à sus­pendre les coopéra­tions sci­en­tifiques insti­tu­tion­nelles avec des étab­lisse­ments israéliens qui ne con­damnent pas explicite­ment le géno­cide à Gaza et la coloni­sa­tion de la Pales­tine, illé­gale selon le droit inter­na­tion­al. 

De plus, les pro­grammes de sou­tien, d’accueil et de pro­tec­tion des uni­ver­si­taires men­acées à l’étranger doivent être pleine­ment act­ifs pour les uni­ver­si­taires de Pales­tine.

En tant qu’in­for­mati­ci­ennes et infor­mati­ciens, nous appelons à pro­test­er mas­sive­ment con­tre l’usage crois­sant de tech­nolo­gies issues de notre dis­ci­pline à des fins meur­trières, usage tris­te­ment illus­tré par le recours sys­té­ma­tique à l’in­tel­li­gence arti­fi­cielle pour la plan­i­fi­ca­tion d’assas­si­nats plus ou moins ciblés à Gaza.

Enfin, nous tenons à exprimer notre sol­i­dar­ité avec les uni­ver­si­taires d’Israël et de Pales­tine qui, à l’in­verse, défend­ent une per­spec­tive de paix juste et durable pour tous et toutes. 

51 pre­miers sig­nataires (les autres sont ici)

Samy Abbes; Uni­ver­sité Paris Cité	Marin Costes; ENS Paris-Saclay	Lau­re Gonnord; Uni­ver­sité Greno­ble Alpes
Malik Aberkane; Uni­ver­sité de Lor­raine – UFRMIM	Nico­las Cour­ty; Uni­ver­sité Bre­tagne Sud	Julien Gos­sa; Uni­ver­sité de Stras­bourg
Myr­to Ara­p­i­nis; Edin­burgh Uni­ver­si­ty	Ludovic Courtès; Inria	Bruno Grenet; Uni­ver­sité Greno­ble Alpes
Élise Arnaud; MCF, Inria Greno­ble Rhône-Alpes	Mary Cryan; Uni­ver­si­ty of Edin­burgh	Michel Gros; Uni­ver­sité de Rennes
Ahcene Azieze; Univ Lor­raine	Pierre-louis Curien; CNRS, IRIF	Adrien Guat­to; Uni­ver­sité Paris Cité
David Baelde; IRISA, ENS Rennes	Vin­cent Danos; CNRS, ENS Ulm	Patrick Guil­lou; Greno­ble INP
Viviane Bal­a­di; CNRS (retraitée)	Prunelle Dau­dré-Treuil; Uni­ver­sité de Lor­raine	Armaël Guéneau; Inria, Uni­ver­sité Paris-Saclay
Albert Ben­veniste; Inria	Gwe­naël Delaval; Uni­ver­sité Greno­ble Alpes	Michel Habib; Uni­ver­sité Paris Cité
Béa­trice Berard; Sor­bonne Uni­ver­sité	Car­ole Del­porte; Uni­ver­sité Paris Cité	Serge Had­dad; ENS Paris Saclay
Antoine Bertrand Rauzy; Nor­we­gian Uni­ver­si­tu of Sci­ence and Tech­nol­o­gy (NTNU)	Bruno Fer­res; Uni­ver­sité Greno­ble Alpes	Bernar­do Jacobo Inclán; IRIF, Uni­ver­sité de Paris
Nathalie Bertrand; INRIA, IRISA	Karën Fort; Uni­ver­sité de Lor­raine	Char­lie Jacomme; Inria Nan­cy
Mick­ael Bestard; CNRS	Pierre Fouil­houx; Uni­ver­sité Sor­bonne Paris Nord	Gabriel John­son; UL
Théau Blan­chard; INRIA HeKa	Mireille Fou­quet ; Uni­ver­sité Paris Cité  Pas­cal Fradet; INRIA Greno­ble	Thier­ry Jéron; INRIA, IRISA
Syl­vain Boul­mé; Uni­ver­sité Greno­ble Alpes	Nan­cy Gal­lagher; UCSB	Elham Kashe­fi; CNRS, Sor­bonne Uni­ver­sité
Erwan Bousse ; Nantes Uni­ver­sité  Flavien Breuvart; Uni­ver­sité Sor­bonne Paris Nord	Guil­laume Geof­froy; Uni­ver­sité Paris Cité	Chan­tal Keller; Uni­ver­sité Paris Saclay
Ilar­ia Castel­lani; INRIA	J‑Marc Ger­vais; Uni. Franche Comté	Assaf Kfoury; Depart­ment of Com­put­er Sci­ence, Boston Uni­ver­si­ty
Bap­tiste Chanus; Uni­ver­sité Paris Nord	Alain Girault; Inria	Jean Kriv­ine; CR CNRS, IRIF, Uni­ver­sité Paris Cité …

Une autre péti­tion cir­cule, celle de 500 sci­en­tifiques qui inter­pel­lent leurs direc­tions sur les vio­la­tions du droit inter­na­tion­al en Pales­tine

La com­plic­ité silen­cieuse des géants de la tech

Extraits de la con­tri­bu­tion de Taysir Math­louthi, Chargée de plaidoy­er en droits numériques chez 7amleh.

Alors que les dirigeants mon­di­aux, les décideurs poli­tiques et les inno­va­teurs tech­nologiques se pré­par­ent à se réu­nir au Som­met d’Action sur l’IA à Paris les 10 et 11 févri­er 2025, une omis­sion fla­grante dans son pro­gramme soulève des inquié­tudes : l’absence d’un dia­logue sig­ni­fi­catif sur la mil­i­tari­sa­tion de l’intelligence arti­fi­cielle (IA).

Cette nég­li­gence est par­ti­c­ulière­ment alar­mante au regard des révéla­tions récentes sur l’im­pli­ca­tion de Microsoft et Google dans l’alimentation des opéra­tions mil­i­taires israéli­ennes grâce à des tech­nolo­gies d’IA, avec des impli­ca­tions préoc­cu­pantes pour les droits humains et le droit inter­na­tion­al.

Des enquêtes menées par Drop­Site, +972 et The Guardian révè­lent que la plate­forme Azure de Microsoft a été large­ment util­isée par des unités de ren­seigne­ment israéli­ennes, telles que l’unité 8200, pour ali­menter des sys­tèmes de sur­veil­lance et des armes autonomes, con­tribuant ain­si à des vio­la­tions sys­té­ma­tiques des droits humains. De plus, des révéla­tions récentes ont mis en lumière l’im­pli­ca­tion pro­fonde de Google dans la four­ni­ture d’outils d’IA avancés à l’ar­mée israéli­enne dans le cadre du con­trat Project Nim­bus, d’une valeur de 1,2 mil­liard de dol­lars.

Lors de l’offensive sur Gaza en octo­bre 2023, la plate­forme d’IA Ver­tex de Google aurait été déployée pour traiter d’énormes ensem­bles de don­nées dans le cadre du « ciblage pré­dic­tif », où des algo­rithmes analy­saient des mod­èles com­porte­men­taux et des méta­don­nées afin d’identifier des men­aces poten­tielles.

En out­re, des sys­tèmes mil­i­taires israéliens pro­prié­taires tels que Laven­der, The Gospel et Where’s Dad­dy? ont joué un rôle cen­tral. Laven­der, une base de don­nées ali­men­tée par l’IA, a iden­ti­fié plus de 37 000 per­son­nes comme cibles d’assassinat dans les pre­mières semaines de la guerre, les opéra­teurs con­sacrant seule­ment 20 sec­on­des à l’ex­a­m­en de chaque cas. Where’s Dad­dy? per­me­t­tait de suiv­re des indi­vidus via leurs smart­phones, facil­i­tant des frappes aéri­ennes pré­cis­es qui ont sou­vent ciblé des familles entières. Ces out­ils démon­trent com­ment l’IA est mil­i­tarisée con­tre des pop­u­la­tions civiles, soule­vant des préoc­cu­pa­tions urgentes en matière de respon­s­abil­ité et de respect du droit human­i­taire inter­na­tion­al.

Le Som­met d’Action sur l’IA à Paris, organ­isé sous la ban­nière de l’innovation éthique en IA, sem­ble décon­nec­té des réal­ités de la mil­i­tari­sa­tion de ces tech­nolo­gies. Les organ­i­sa­tions de la société civile, en par­ti­c­uli­er celles des pays du Sud glob­al, ont ren­con­tré d’importantes dif­fi­cultés pour accéder à cet événe­ment, mar­gin­al­isant encore davan­tage les voix qui pour­raient met­tre en lumière les coûts humains dévas­ta­teurs de l’IA mil­i­tarisée.

Les obsta­cles à la par­tic­i­pa­tion des organ­i­sa­tions de la société civile sont nom­breux : con­traintes finan­cières, absence d’invitations, manque de trans­parence dans le proces­sus d’invitation. Plusieurs organ­i­sa­tions ont rap­porté ne pas avoir été infor­mées de l’événe­ment ni des critères de par­tic­i­pa­tion, ce qui a entraîné con­fu­sion et frus­tra­tion.

De plus, les coûts élevés liés à la par­tic­i­pa­tion au som­met (voy­age, héberge­ment et absence de sou­tien pour les procé­dures de visa) con­stituent un frein majeur, notam­ment pour les ONG des pays du Sud glob­al. Le manque de trans­parence quant aux critères d’invitation, com­biné à une com­mu­ni­ca­tion insuff­isante, crée une sit­u­a­tion où les acteurs clés tra­vail­lant directe­ment avec les com­mu­nautés touchées par l’IA mil­i­tarisée sont effec­tive­ment exclus.

Cette exclu­sion va à l’encontre de la mis­sion déclarée du som­met, qui pré­tend garan­tir que l’IA prof­ite à toutes les pop­u­la­tions. Or, les organ­i­sa­tions de la société civile jouent un rôle cru­cial dans la dénon­ci­a­tion de la mil­i­tari­sa­tion de l’IA et dans la pro­mo­tion de cadres juridiques inter­na­tionaux qui priv­ilégient les droits humains. Sans leur par­tic­i­pa­tion, le som­met risque de ren­forcer une vision descen­dante et lim­itée du développe­ment de l’IA, igno­rant ses con­séquences humaines.

Et la mil­i­tari­sa­tion de l’IA ne se lim­ite pas aux zones de con­flit : Les out­ils util­isés à Gaza – drones, sys­tèmes bio­métriques et cap­teurs basés sur l’IA – sont en grande par­tie dévelop­pés par des entre­pris­es tech­nologiques occi­den­tales et sont de plus en plus util­isés dans les pays occi­den­taux sous pré­texte de « sécu­rité ».

Le New York Times souligne que la recon­nais­sance faciale et les sys­tèmes de sur­veil­lance basés sur l’IA sont de plus en plus util­isés de manière dis­pro­por­tion­née con­tre des groupes vul­nérables, en vio­la­tion du droit à la vie privée et en accen­tu­ant les biais exis­tants. Ces tech­nolo­gies favorisent sou­vent le pro­fi­lage dis­crim­i­na­toire, mar­gin­al­isant davan­tage des indi­vidus déjà en sit­u­a­tion de pré­car­ité.

De son côté, Inves­ti­gate Europe met en lumière les préoc­cu­pa­tions crois­santes con­cer­nant l’AI Act européen et son impact poten­tiel sur les lib­ertés civiles et les droits humains au sein de l’UE. L’enquête révèle que cer­taines excep­tions, poussées par plusieurs États mem­bres de l’UE, per­me­t­traient une sur­veil­lance de masse par l’IA pour les autorités poli­cières et frontal­ières, ciblant en par­ti­c­uli­er les migrants et les deman­deurs d’asile.

Ces pra­tiques exac­er­bent les dis­crim­i­na­tions sys­témiques, notam­ment via des out­ils tels que le polic­ing pré­dic­tif et la sur­veil­lance bio­métrique en temps réel dans les espaces publics. Cela soulève de sérieuses inquié­tudes sur l’érosion crois­sante des droits fon­da­men­taux en Europe. Alors que l’Europe cherche à rivalis­er avec les investisse­ments améri­cains dans l’IA, il est impératif qu’elle priv­ilégie des lignes direc­tri­ces éthiques plutôt qu’une inno­va­tion tech­nologique débridée. Ignor­er ces préoc­cu­pa­tions reviendrait à nor­malis­er des tech­nolo­gies qui réduisent la super­vi­sion humaine et vio­lent le droit human­i­taire inter­na­tion­al.

Pour relever ces défis cri­tiques, une approche glob­ale et mul­ti­par­tite est essen­tielle. Les décideurs poli­tiques doivent don­ner la pri­or­ité à l’in­té­gra­tion des dis­cus­sions sur l’IA mil­i­tarisée dans les agen­das de gou­ver­nance mon­di­ale, en garan­tis­sant une par­tic­i­pa­tion sig­ni­fica­tive des organ­i­sa­tions de la société civile, en par­ti­c­uli­er celles représen­tant les pays du Sud glob­al. Cela implique l’élaboration de normes inter­na­tionales con­traig­nantes empêchant les entre­pris­es tech­nologiques de faciliter des vio­la­tions des droits humains à tra­vers des con­trats mil­i­taires.

La trans­parence doit devenir un principe fon­da­men­tal, avec des oblig­a­tions de divul­ga­tion sys­té­ma­tique pour les entre­pris­es impliquées dans des parte­nar­i­ats mil­i­taires. Par ailleurs, les futurs som­mets sur l’IA devraient con­sacr­er des espaces dédiés au dia­logue cri­tique, allant au-delà de l’innovation tech­nologique pour exam­in­er en pro­fondeur les impli­ca­tions éthiques de l’IA dans les con­flits armés.

Autres arti­cles sur le sujet

Israël : des out­ils pour sa pro­pa­gande (01÷2025)

Gaza, Ukraine… Quand la tech­nolo­gie exac­erbe l’horreur de la guerre (11÷2024)

Gaza, Cisjor­danie, Liban… Où s’ar­rêteront les mas­sacres ? (09÷2024)

All eyes on Pales­tine (08÷2024)

Il faut met­tre fin à la cat­a­stro­phe en Pales­tine : cessez-le-feu immé­di­at ! (05÷2024)

Gaza : tuerie par IA (05÷2024)

Gaza, lab­o­ra­toire et vit­rine de la destruc­tion par l’IA (03÷2024)

Israël utilise des drones snipers à Gaza, la guerre par l’IA (12÷2023)

Rester en sécu­rité en ligne… (11÷2023)

Israël, Nice… : la chimère des approches cyber-sécu­ri­taires (10÷2023)