A l’appel de l’ONU et de la Croix Rouge, 128 États contre les robots-tueurs

Le 25 août, dans une déc­la­ra­tion com­mune, Anto­nio Guter­res, secré­taire général de l’ONU, et Mir­jana Spol­jar­ic Egger, prési­dente du Comité inter­na­tion­al de la Croix-Rouge (CICR), appel­lent à l’in­ter­dic­tion des sys­tèmes d’armes autonomes (appel déjà pronon­cé par les mêmes en 2023). Ils ont été suiv­is par 128 pays qui amor­cent une négo­ci­a­tion en vue d’un traité sur les armes autonomes. Russie, États-Unis, Israël, Chine et I^nde, présents, freinent, alors que d’autres (dont le Brésil, l’Ir­lande, la Norvège…), plaident pour des négo­ci­a­tions rapi­des.

Ces armes autonomes sont définies comme des armes capa­bles de sélec­tion­ner leurs cibles et d’employer la force sans inter­ven­tion humaine. A Gaza, l’emploi de sys­tèmes d’armes pilotés par IA (Laven­der, Gospel…), qui intè­gre un temps ridicule­ment faible de con­trôle par l’hu­main (quelques sec­on­des), a entraîné des mis­es à mort mas­sives car ces armes sont plus rapi­des à met­tre en action et provo­quent beau­coup de “dégâts col­latéraux”. Mais aus­si en Ukraine, où l’emploi de drones com­mandés unique­ment par IA se révèle très meur­tri­er. Et des équipements sim­i­laires sont pro­jetés voire réal­isés dans toutes les armées du monde, au moins les plus rich­es.

Les deux respon­s­ables soulig­nent l’ur­gence : “nous sommes désor­mais dan­gereuse­ment proches de franchir une ligne rouge morale : le ciblage autonome d’êtres humains par des machines”.

Dans leur appel, il soulig­nent que “le fos­sé entre les capac­ités tech­nologiques et les con­traintes régle­men­taires s’est creusé, les tech­nolo­gies de pointe util­isées sur les champs de bataille ampli­fi­ant le risque de causer des dom­mages aux civils et aux infra­struc­tures civiles, et aggra­vant les souf­frances de la pop­u­la­tion civile dans les con­flits armés.”

“Les sci­en­tifiques et les ingénieurs qui éla­borent ces sys­tèmes tirent la son­nette d’alarme. Dès lors que les archi­tectes de cette tech­nolo­gie eux-mêmes récla­ment des lim­ites, les États ne peu­vent se per­me­t­tre de rester pas­sifs”, esti­ment les chefs de l’ONU et du CICR, aver­tis­sant que “cette année doit mar­quer un tour­nant”.

La Con­ven­tion sur cer­taines armes clas­siques (CCAC), groupe d’ex­perts gou­verne­men­taux qui tra­vaille sur les armes autonomes et les règles inter­na­tionales qui pour­raient les encadr­er (nous en avions déjà présen­té un état des travaux) doit achev­er son man­dat de trois ans fin août par un doc­u­ment présen­tant le con­sen­sus obtenu par les par­tic­i­pants. Puis en novem­bre, les États pour­ront décider de la suite à don­ner à cette ques­tion, notam­ment du lance­ment, ou pas, de négo­ci­a­tions pour éla­bor­er des règles.

Le ciblage des civils et des infra­struc­tures civiles est inter­dit par le droit inter­na­tion­al human­i­taire. Mais sur un champ de bataille en évo­lu­tion con­stante, il peut être extrême­ment dif­fi­cile de dis­tinguer les com­bat­tants des non-com­bat­tants. L’enjeu est donc de savoir si une machine peut pren­dre seule une déci­sion de vie ou de mort dans des cir­con­stances imprévis­i­bles.

Pour l’ONU, les sys­tèmes capa­bles de sélec­tion­ner ou d’attaquer des cibles et de tuer des êtres humains sans con­trôle ni juge­ment humains “sont poli­tique­ment inac­cept­a­bles, morale­ment répug­nants et devraient être inter­dits en ver­tu du droit inter­na­tion­al”. Pour le CICR, les con­flits “ne sont pas une ques­tion de pré­ci­sion, de dis­tinc­tion et de retenue. Il s’agit de civils tués, de familles déplacées, d’hôpitaux, d’écoles et de maisons détru­its à un rythme et à une échelle tou­jours plus grands”. La sit­u­a­tion peut, en out­re, évoluer en quelques instants. “Un com­bat­tant peut se ren­dre ou être blessé et donc béné­fici­er d’une pro­tec­tion con­tre les attaques ; des civils peu­vent pénétr­er dans la zone d’opérations des sys­tèmes d’armes autonomes ; les armes peu­vent se retrou­ver con­fron­tées à une sit­u­a­tion qui n’aurait pas été anticipée”.

L’appel con­joint vise notam­ment deux types d’armes autonomes :

• Les armes autonomes imprévis­i­bles, d’abord : celles pour lesquelles, en rai­son de leur con­cep­tion ou de leur util­i­sa­tion, l’opérateur ne peut prévoir ni anticiper les con­séquences de l’usage de la force.

• Les armes antiper­son­nel, ensuite. Les sys­tèmes qui ciblent délibéré­ment des êtres humains sus­ci­tent des inquié­tudes par­ti­c­ulières, car ils réduisent la vie humaine à des don­nées, des algo­rithmes, des cap­teurs et des opéra­tions mécaniques. A not­er qu’un accord inter­na­tion­al, la Con­ven­tion sur l’interdiction des mines antiper­son­nel, ou Traité d’Ottawa (1997), signé par 164 États, a freiné pen­dant un long laps de temps leur util­i­sa­tion. Mais cer­tains non sig­nataires, ou d’autres qui s’en retirent (Fin­lande, Estonie, Let­tonie, Litu­anie, Pologne et Ukraine), font crain­dre une résur­gence de leur emploi.

Pour l’ONU et le CICR, l’enjeu est d’empêch­er que la déci­sion de tuer ne soit trans­férée aux machines avant que leur util­i­sa­tion ne devi­enne une réal­ité à grande échelle.