IA génocidaire : comment Israël automatise les violations des droits de l’homme et les crimes de guerre

Image issue du média Israë­lo-pales­tinien +972

La guerre d’Is­raël con­tre Gaza a mon­tré qu’à côté de sys­tèmes d’IA avancés échap­pant au con­trôle humain (des “robots tueurs”, entière­ment automa­tisés), des sys­tèmes de sur­veil­lance par IA bien plus banals et peu sophis­tiqués sont déjà util­isés pour déclencher des hor­reurs dystopiques, dic­tées par la tech­nolo­gie. 

L’ONG inter­na­tionale Access Now dont nous avons déjà relayé des arti­cles) a beau­coup doc­u­men­té la guerre que mène Israël con­tre la pop­u­la­tion de Gaza. Ci-dessous un arti­cle de syn­thèse qui mon­tre en quoi le détourne­ment de tech­nolo­gies de sur­veil­lance assez clas­siques (Israël en est un des tout pre­miers four­nisseurs, dans nos villes français­es) sert à l’au­toma­ti­sa­tion des mas­sacres de la pop­u­la­tion gaza­ouie. Nous y ajou­tons (entre []) divers­es infor­ma­tions.

Comme l’ ont révélé de récentes enquêtes médi­a­tiques , les sys­tèmes de ciblage israéliens par IA “Lavan­der” et “The Gospel” [voir aus­si Gaza : tuerie par IA qui détaille les dif­férents sys­tèmes util­isés] automa­tisent les mas­sacres et les destruc­tions de masse dans la bande de Gaza. C’est l’apothéose de nom­breuses pra­tiques abu­sives liées à l’IA, telles que les sys­tèmes de sur­veil­lance bio­métrique et les out­ils de police pré­dic­tive, con­tre lesquelles nous avons déjà mis en garde.

La guerre ren­for­cée par l’IA à Gaza démon­tre l’ur­gence pour les gou­verne­ments d’in­ter­dire l’u­til­i­sa­tion de tech­nolo­gies incom­pat­i­bles avec les droits humains, en temps de paix comme en temps de guerre.

La mort venue d’en haut : Gaza, un lab­o­ra­toire tech­nologique expéri­men­tal

L’u­til­i­sa­tion de l’IA par Israël à des fins mil­i­taires n’est pas nou­velle. Depuis des décen­nies, Israël utilise la bande de Gaza comme ter­rain d’es­sai pour de nou­velles tech­nolo­gies et armes , qu’il vend ensuite à d’autres États. Son bom­barde­ment mil­i­taire de 11 jours sur Gaza en mai 2021 a même été qual­i­fié par les Forces de défense israéli­ennes (FDI) de “pre­mière guerre de l’in­tel­li­gence arti­fi­cielle”. Lors de l’as­saut actuel con­tre Gaza, Israël a util­isé trois grandes caté­gories d’outils d’IA :

1. Sys­tèmes d’armes létales autonomes (SALA) et armes semi-autonomes (semi-SALA) : l’ar­mée israéli­enne a été pio­nnière dans l’u­til­i­sa­tion de quadri­cop­tères télé­com­mandés équipés de mitrailleuses et de mis­siles pour sur­veiller, ter­roris­er et tuer les civils réfugiés dans des tentes, des écoles, des hôpi­taux et des zones rési­den­tielles. Les habi­tants du camp de réfugiés de Nuseirat à Gaza rap­por­tent que cer­tains drones dif­fusent des cris de bébés et de femmes afin d’at­tir­er et de cibler les Pales­tiniens. Depuis des années, Israël déploie des “drones sui­cides”, des “snipers robo­t­isés” automa­tisés et des tourelles pilotées par l’IA pour créer des “zones d’élim­i­na­tion automa­tisées” le long de la fron­tière avec Gaza. En 2021, il a égale­ment déployé un robot mil­i­taire semi-autonome bap­tisé “Jaguar”, présen­té comme “l’un des pre­miers robots mil­i­taires au monde à pou­voir rem­plac­er les sol­dats aux fron­tières”.
2. [S’y sont ajoutés depuis mai 2024 des “véhicules mil­i­taires explosifs”, à par­tir de véhicules blind­és de trans­port de troupes M113 améri­cains con­ver­tis en robots télé­com­mandés. A la place des sièges ont été placés de grandes quan­tités d’explosifs (env­i­ron 7 tonnes), avec deux con­fig­u­ra­tions : l’une vise une destruc­tion com­plète et un incendie dans un ray­on de 50 mètres ; l’autre, une destruc­tion par­tielle dans un ray­on de 150 mètres.]

2. Sys­tèmes de recon­nais­sance faciale et sur­veil­lance bio­métrique : l’invasion ter­restre de Gaza par Israël a été l’occasion d’ éten­dre sa sur­veil­lance bio­métrique des Pales­tiniens, déjà déployée en Cisjor­danie et à Jérusalem-Est. Le New York Times a rap­porté com­ment l’armée israéli­enne utilise un sys­tème de recon­nais­sance faciale à grande échelle à Gaza “pour y men­er une sur­veil­lance de masse, col­lec­tant et cat­a­loguant les vis­ages des Pales­tiniens à leur insu et sans leur con­sen­te­ment”. Selon le rap­port, ce sys­tème utilise les tech­nolo­gies de l’entreprise israéli­enne Cor­sight et de Google Pho­tos pour iden­ti­fi­er les vis­ages dans la foule, et même sur des images de drones gran­uleuses.
3. Sys­tèmes automa­tisés de généra­tion de cibles : notam­ment The Gospel, qui génère des cibles infra­struc­turelles, Laven­der, qui génère des cibles humaines indi­vidu­elles, et Where is Dad­dy ?, un sys­tème conçu pour suiv­re et cibler les mil­i­tants pré­sumés lorsqu’ils sont chez eux avec leur famille. 

Les SALA, et dans une cer­taine mesure les semi-SALA, ont été con­damnés par l’ONU comme étant “poli­tique­ment inac­cept­a­bles et morale­ment répug­nants”, et les appels à leur inter­dic­tion se mul­ti­plient. L’u­til­i­sa­tion de sys­tèmes de généra­tion de cibles par l’IA en temps de guerre, asso­ciée à la sur­veil­lance bio­métrique de masse, mérite une atten­tion accrue, car elle démon­tre l’im­pact dévas­ta­teur, voire géno­cidaire, en temps de guerre de tech­nolo­gies qui devraient déjà être inter­dites en temps de paix.

Automa­ti­sa­tion du géno­cide : les con­séquences fatales de l’IA dans la guerre

Bien qu’ils puis­sent sem­bler à pre­mière vue une nou­velle fron­tière choquante, l’u­til­i­sa­tion de sys­tèmes de ciblage tels que The Gospel ou Laven­der n’est en réal­ité que l’a­pogée d’un autre sys­tème d’IA déjà util­isé dans le monde entier : la police pré­dic­tive.

Tout comme l’ar­mée israéli­enne utilise des “sys­tèmes basés sur les don­nées” pour prédire qui pour­rait être un agent du Hamas ou quel bâti­ment pour­rait être un bas­tion du Hamas, [les forces de l’or­dre de nom­breux pays (dont la France)] utilisent des sys­tèmes d’IA pour prédire quels enfants pour­raient com­met­tre un crime ou appartenir à un gang, ou encore où déploy­er des forces de police sup­plé­men­taires.

Ces sys­tèmes sont intrin­sèque­ment dis­crim­i­na­toires et pro­fondé­ment défail­lants , avec de graves con­séquences pour les per­son­nes con­cernées. À Gaza, ces con­séquences peu­vent être fatales.

Lorsque nous exam­inons l’im­pact de tels sys­tèmes sur les droits humains, nous devons exam­in­er les con­séquences, d’une part, de leur dys­fonc­tion­nement et, d’autre part, de leur fonc­tion­nement escomp­té. Dans les deux cas, réduire les êtres humains à des don­nées sta­tis­tiques a des con­séquences graves et irréversibles pour la dig­nité, la sécu­rité et la vie des per­son­nes. 

En ce qui con­cerne les dys­fonc­tion­nements des sys­tèmes de ciblage, une préoc­cu­pa­tion majeure réside dans le fait que ces sys­tèmes sont conçus et entraînés à par­tir de don­nées erronées. Selon l’en­quête du mag­a­zine +972, les don­nées d’en­traîne­ment intro­duites dans le sys­tème com­pre­naient des infor­ma­tions sur des employés non com­bat­tants du gou­verne­ment Hamas de Gaza, ce qui a con­duit Laven­der à iden­ti­fi­er par erreur comme cibles des indi­vidus ayant des com­porte­ments sim­i­laires à ceux de mil­i­tants con­nus du Hamas.

Par­mi ces indi­vidus fig­u­raient des policiers et des agents de la pro­tec­tion civile, et même des indi­vidus por­tant sim­ple­ment le même nom que des agents du Hamas. 

Comme l’ a rap­porté le mag­a­zine +972, même si Laven­der affichait un taux d’er­reur de 10 % lors de l’i­den­ti­fi­ca­tion de l’af­fil­i­a­tion d’un indi­vidu au Hamas, Tsa­hal [l’ar­mée de l’É­tat d’Is­raël] l’a quand même inté­gré automa­tique­ment dans ses listes d’élim­i­na­tions “comme s’il s’agis­sait d’une déci­sion humaine”. Les sol­dats ont indiqué ne pas avoir été tenus de véri­fi­er de manière appro­fondie ou indépen­dante l’ex­ac­ti­tude des don­nées de Laven­der ou de ses sources de ren­seigne­ments. La seule véri­fi­ca­tion oblig­a­toire avant d’au­toris­er un bom­barde­ment con­sis­tait à s’as­sur­er que la cible désignée était bien de sexe mas­culin, ce qui pre­nait env­i­ron “20 sec­on­des”. 

Il n’ex­iste pas non plus de moyen fiable de tester l’ex­ac­ti­tude de ces sys­tèmes, ni de valid­er leurs per­for­mances. Véri­fi­er l’af­fil­i­a­tion d’une per­son­ne au Hamas est extrême­ment com­plexe, notam­ment compte tenu de la nature poten­tielle­ment erronée des don­nées sur lesquelles reposent ces pré­dic­tions. Il a été démon­tré à maintes repris­es que les sys­tèmes d’ap­pren­tis­sage automa­tique ne peu­vent prédire de manière fiable des attrib­uts humains com­plex­es, tels que la “crim­i­nal­ité future poten­tielle”, à la fois parce que les don­nées sont inadéquates et que les sys­tèmes s’ap­puient sur des indi­ca­teurs indi­rects (par exem­ple, des don­nées sur les arresta­tions plutôt que sur les crimes com­mis), mais aus­si parce qu’il n’est tout sim­ple­ment pas vrai que “plus de don­nées équiv­aut à de meilleures pré­dic­tions”.

Au-delà du manque de pré­ci­sion ou de véri­fi­ca­tion humaine de ces sys­tèmes, une préoc­cu­pa­tion plus exis­ten­tielle réside dans la manière dont leur util­i­sa­tion est fon­da­men­tale­ment con­traire aux droits humains et à la dig­nité humaine inhérente dont ces droits découlent. En témoigne le fait que les sys­tèmes de ciblage israéliens basés sur l’IA fonc­tion­nent exacte­ment comme prévu, comme l’a déclaré Tsa­hal. “Pour l’in­stant, nous nous con­cen­trons sur ce qui cause le plus de dégâts”.

Des sol­dats auraient été con­traints de pro­duire davan­tage de cibles de bom­barde­ment chaque jour et auraient util­isé des mis­siles non guidés, ou “bombes stu­pides”, pour cibler de pré­sumés jeunes mil­i­tants mar­qués par Lavan­der chez eux. Ceci, com­biné à l’u­til­i­sa­tion par Israël de l’IA pour cal­culer les dom­mages col­latéraux , a entraîné des mas­sacres de Pales­tiniens et un niveau de destruc­tion jamais vu depuis la Sec­onde Guerre mon­di­ale, selon l’ONU. 

L’u­til­i­sa­tion de ces sys­tèmes de ciblage par IA décharge effec­tive­ment l’homme de la respon­s­abil­ité des déci­sions de vie ou de mort, ten­tant de dis­simuler une cam­pagne de destruc­tion mas­sive et de meurtres d’une sim­plic­ité décon­cer­tante sous un ver­nis d’ob­jec­tiv­ité algo­rith­mique. Il est impos­si­ble d’u­tilis­er des sys­tèmes comme Laven­der ou Where is Dad­dy ? de manière éthique ou humaine, car ils reposent sur une déshu­man­i­sa­tion fon­da­men­tale des per­son­nes. Il faut les inter­dire, et nous devons abolir les infra­struc­tures de sur­veil­lance, les bases de don­nées bio­métriques et autres “out­ils de temps de paix” qui per­me­t­tent le déploiement de tels sys­tèmes en zone de guerre.

Le rôle des Big Tech dans les atroc­ités crim­inelles

Comme indiqué précédem­ment, les infra­struc­tures de sur­veil­lance dévelop­pées et déployées en temps de paix sont facile­ment réu­til­isées en temps de guerre pour per­me­t­tre les pires vio­la­tions des droits humains.

Cela remet en ques­tion le rôle des géants de la tech­nolo­gie dans la four­ni­ture de tech­nolo­gies civiles util­is­ables à des fins mil­i­taires, notam­ment les ser­vices de cloud com­put­ing et d’ap­pren­tis­sage automa­tique que Google et Ama­zon Web Ser­vices four­nissent à Israël via le pro­jet Nim­bus . De plus, il a été sug­géré que les méta­don­nées de What­sApp, pro­priété de Meta, seraient util­isées pour ali­menter le sys­tème de ciblage Laven­der.

En ne par­venant pas à assumer leurs respon­s­abil­ités en matière de droits de l’homme et en con­tin­u­ant à fournir ces ser­vices au gou­verne­ment israélien, des entre­pris­es comme Google, AWS et Meta risquent d’être com­plices de l’aide ou de l’encouragement de l’appareil mil­i­taire et de ren­seigne­ment israélien et de ses atroc­ités crim­inelles à Gaza. 

Nous ne pou­vons pas tolér­er le développe­ment d’in­fra­struc­tures de sur­veil­lance de masse per­me­t­tant de pro­duire des cibles en masse, de déter­min­er un nom­bre “raisonnable” de vic­times civiles et, in fine, de se dére­spon­s­abilis­er face aux déci­sions de vie ou de mort. Nous réitérons notre appel à tous les gou­verne­ments pour qu’ils inter­dis­ent les util­i­sa­tions de l’IA incom­pat­i­bles avec les droits humains, notam­ment la police pré­dic­tive, la sur­veil­lance bio­métrique de masse et les sys­tèmes de généra­tion de cibles comme Laven­der.