IA act : 151 organisations demandent à l’UE de respecter les droits humains, particulièrement ceux des migrant·es

Le pro­jet de règle­ment européen sur l’IA, voté très majori­taire­ment par le Par­lement de l’UE le 14 juin, est actuelle­ment en négo­ci­a­tion avec les Etats dans le cadre du “tri­logue” [1].

Deux écueils peu­vent se présen­ter

• Les Etats, sous la pres­sion des lob­bies indus­triels et aus­si pour pou­voir main­tenir leurs pro­pres lég­is­la­tions répres­sives (c’est par­ti­c­ulière­ment le cas de la France qui, seule en Europe, intro­duit la recon­nais­sance faciale à l’oc­ca­sion de la loi JO 2024 !), peu­vent être ten­tés d’af­faib­lir le texte voté au Par­lement (qui prévoit les inter­dic­tions de l’i­den­ti­fi­ca­tion bio­métrique, de la recon­nais­sance des émo­tions et de la police pré­dic­tive, voir détails dans notre arti­cle).
• le texte voté a de fait totale­ment ignoré la pro­tec­tion des migrant·es, pour­tant par­ti­c­ulière­ment ciblé·es par les dis­posi­tifs d’IA financés par l’UE.

La déc­la­ra­tion, signée par 151 organ­i­sa­tions, de toute l’Eu­rope mais aus­si inter­na­tionales (seule­ment deux français­es, dont la LDH) vise donc à main­tenir les acquis du texte face aux lob­bies et aux appétits de con­trôle de cer­tains Etats, et à y inté­gr­er la défense des droits humains pour les migrant·es.

Dans la même per­pec­tive, la secré­taire générale d’Amnesty Inter­na­tion­al (la française Agnès Calla­mard) avait dif­fusé fin avril une let­tre ouverte (élé­ments ci-dessous après la déc­la­ra­tion des 151).

L’ONG State­watch, d’o­rig­ine anglaise mais qui a désor­mais des antennes dans plusieurs pays d’Eu­rope, a pro­duit une analyse très riche sur l’absence de garanties en matière de migra­tion et d’asile dans ce règle­ment européen sur l’IA.

[1] “Tri­logue” : phase de négo­ci­a­tion entre le Par­lement européen, le Con­seil de l’U­nion européenne et la Com­mis­sion européenne, pour par­venir à un accord sur une propo­si­tion lég­isla­tive accept­able pour le Par­lement et le Con­seil.

Déc­la­ra­tion des 151 organ­i­sa­tions de la société civiles : le règle­ment européen sur l’IA doit pro­téger les droits des citoyens

Texte com­plet (en anglais)

Com­mu­niqué de l’EDRi (Euro­pean Dig­i­tal Rights), sur le site de la LDH

151 organ­i­sa­tions de la société civile deman­dent au Par­lement européen, à la Com­mis­sion européenne et au Con­seil de l’UE de don­ner la pri­or­ité aux per­son­nes et à leurs droits fon­da­men­taux dans la loi sur l’intelligence arti­fi­cielle (IA), au moment où les insti­tu­tions de l’UE enta­ment les négo­ci­a­tions du “tri­logue”. Ces réu­nions déci­sives déter­mineront la lég­is­la­tion finale et la place qu’elle accordera aux droits de l’Homme et aux préoc­cu­pa­tions des per­son­nes sus­cep­ti­bles d’être affec­tées par des sys­tèmes d’IA “risqués”.

Les sys­tèmes d’IA ont déjà un impact con­sid­érable sur nos vies. Ils sont de plus en plus util­isés pour nous sur­veiller et nous iden­ti­fi­er dans les espaces publics, prédire notre prob­a­bil­ité de crim­i­nal­ité, réori­en­ter les con­trôles de police et d’immigration vers des zones déjà sur­veil­lées, faciliter les vio­la­tions du droit de deman­der l’asile, prédire nos émo­tions et nous caté­goris­er. Ils sont égale­ment util­isés pour pren­dre des déci­sions cru­ciales à notre sujet, par exem­ple en ce qui con­cerne l’accès aux pro­grammes d’aide sociale.

En l’absence d’une régle­men­ta­tion appro­priée, elles exac­er­beront les préju­dices socié­taux exis­tants liés à la sur­veil­lance de masse, à la dis­crim­i­na­tion struc­turelle et au pou­voir cen­tral­isé des grandes entre­pris­es tech­nologiques.

Le règle­ment sur l’IA est une occa­sion cru­ciale de régle­menter cette tech­nolo­gie et de don­ner la pri­or­ité aux droits des per­son­nes plutôt qu’aux prof­its. Grâce à cette lég­is­la­tion, l’UE doit veiller à ce que le développe­ment et l’utilisation de l’IA soient respon­s­ables et publique­ment trans­par­ents, et à ce que les per­son­nes aient les moyens de dénon­cer les préju­dices subis :

– don­ner aux per­son­nes con­cernées les moyens d’agir en met­tant en place un cadre de respon­s­abil­ité, de trans­parence, d’accessibilité et de répa­ra­tion.

Il s’agit notam­ment d’exiger une éval­u­a­tion de l’impact sur les droits fon­da­men­taux avant de déploy­er des sys­tèmes d’IA à haut risque, l’enregistrement des sys­tèmes à haut risque dans une base de don­nées publique, des exi­gences d’accessibilité hor­i­zon­tales et inté­grées pour tous les sys­tèmes d’IA, le droit de porter plainte lorsque les droits des per­son­nes sont vio­lés par un sys­tème d’IA, ain­si que le droit à la représen­ta­tion et le droit à des recours effi­caces.

– lim­iter la sur­veil­lance préju­di­cia­ble et dis­crim­i­na­toire exer­cée par les ser­vices de sécu­rité nationale, les ser­vices répres­sifs et les autorités chargées des migra­tions.

Lorsque les sys­tèmes d’IA sont util­isés à des fins de main­tien de l’ordre, de sécu­rité et de con­trôle des migra­tions, le risque de préju­dice et de vio­la­tion des droits fon­da­men­taux est encore plus grand, en par­ti­c­uli­er pour les com­mu­nautés déjà mar­gin­al­isées. Des lignes rouges claires doivent être fixées pour ce type d’utilisation afin de prévenir les préju­dices. Il faut notam­ment inter­dire tous les types d’identification bio­métrique à dis­tance, les sys­tèmes de police pré­dic­tive, les éval­u­a­tions des risques indi­vidu­els et les sys­tèmes d’analyse pré­dic­tive dans les con­textes migra­toires.

– lut­ter con­tre le lob­by­ing des grandes entre­pris­es tech­nologiques et sup­primer les lacunes qui nuisent à la régle­men­ta­tion.

Pour que la loi sur l’IA soit effec­tive­ment appliquée, les négo­ci­a­teurs doivent s’opposer aux efforts de lob­by­ing déployés par les grandes entre­pris­es tech­nologiques pour affaib­lir la régle­men­ta­tion. Cela est par­ti­c­ulière­ment impor­tant en ce qui con­cerne la clas­si­fi­ca­tion des risques des sys­tèmes d’IA. Cette clas­si­fi­ca­tion doit être objec­tive et ne doit pas laiss­er aux développeurs d’IA la pos­si­bil­ité de déter­min­er eux-mêmes si leurs sys­tèmes sont suff­isam­ment “impor­tants” pour être classés comme étant à haut risque et néces­siter une pro­tec­tion juridique. Les entre­pris­es tech­nologiques, motivées par la recherche du prof­it, voudront tou­jours sous-class­er les sys­tèmes d’IA.

151 Sig­nataires

1. Euro­pean Dig­i­tal Rights (EDRi), Europe	39.Charity & Secu­ri­ty Net­work	77.Fundacion Sec­re­tari­a­do Gitano, Europe	115. Moomken orga­ni­za­tion for Aware­ness and Media
2. Access Now, Inter­na­tion­al	40.Citizen D / Državl­jan D, Slove­nia	78.Gong	116. Nation­al Cam­paign for Sus­tain­able Devel­op­ment Nepal
3. Algo­rithm Watch, Europe	41.Civil Lib­er­ties Union for Europe	79.Greek Forum of Migrants	117. Nation­al Net­work for Civ­il Soci­ety (BBE)
4. Amnesty Inter­na­tion­al	42.Civil Soci­ety Advo­cates	80.Greek Forum of Refugees	118. Nation­al old folks of Liberia
5. Bits of Free­dom, Nether­lands	43.Coalizione Ital­iana Lib­er­ta e Dirit­ti civili	81.Health Action Inter­na­tion­al	119. Novact, Spain
6. Elec­tron­ic Fron­tier Nor­way (EFN)	44.Comision Gen­er­al Jus­ti­cia y Paz de Espana	82.Hiperderecho	120. Obser­va­to­rio Tra­ba­jo, Algo­rit­mo y Sociedad
7. Euro­pean Cen­ter for Not-for-Prof­it Law, (ECNL)	45.Comision Legal Sol	83.Homo Dig­i­tal­is	121. Open Knowl­edge Foun­da­tion Ger­many
8. Euro­pean Dis­abil­i­ty Forum (EDF)	46.Commission Jus­tice et Paix Lux­em­bourg	84.horizontl Col­lab­o­ra­tive	122. Part­ners Alba­nia for Change and Devel­op­ment
9. Fair Tri­als, Inter­na­tion­al	47.Controle Alt Delete, Nether­lands	85.Human Rights Watch, Inter­na­tion­al	123. Poli­tis­cope
10. Homo Dig­i­tal­is, Greece	48.Corporate Europe Obser­va­to­ry (CEO)	86.I Have Rights	124. Pri­va­cy First
11. Irish Coun­cil for Civ­il Lib­er­ties (ICCL)	49.D64 – Zen­trum fur dig­i­tal­en Fortschritt	87.IDAY-Liberia Coali­tion Inc.	125. Pri­va­cy Inter­na­tion­al
12. Panop­tykon Foun­da­tion, Poland	50.DanChurchAid (DCA)	88.ILGA-Europe (the Euro­pean region of the Inter­na­tion­al Les­bian, Gay, Bisex­u­al, Trans and Inter­sex Asso­ci­a­tion)	126. Pri­va­cy Net­work
13. Plat­form for Inter­na­tion­al Coop­er­a­tion on the Rights of Undoc­u­ment­ed Migrants (PICUM), Europe	51.Danes je nov dan, Inšti­tut za dru­ga vprašan­ja	89.info.nodes	127. Pro­mo-LEX Asso­ci­a­tion
14.7amleh-The Arab Cen­ter for the Advance­ment of Social Media	52.Data Pri­va­cy Brasil	90.Initiative Cen­ter to Sup­port Social Action “Ednan­nia”	128. Pros­ti­tu­tion Infor­ma­tion Cen­ter (PIC)
15.Academia Cida­da – Cit­i­zen­ship Acad­e­my	53.Defend Democ­ra­cy	91.Institute for Strate­gic Dia­logue (ISD)	129. Pro­tec­tion Inter­na­tion­al
16.Africa Sol­i­dar­i­ty Cen­tre Ire­land	54.Democracy Devel­op­ment Foun­da­tion	92.Inter­na­tion­al Com­mis­sion of Jurists	130. Pub­lic Insti­tu­tion Roma Com­mu­ni­ty Cen­tre
17.AlgoRace, Spain	55.Digital Secu­ri­ty Lab Ukraine	93.International Reha­bil­i­ta­tion Coun­cil for Tor­ture vic­tims	131. Racism and Tech­nol­o­gy Cen­ter
18.Algorights, Spain	56.Digital Soci­ety, Switzer­land	94.IT-Pol	132. Red en Defen­sa de los Dere­chos Dig­i­tales
19.All Faiths and None	57.Digitalcourage, Ger­many	95.Ivorian Com­mu­ni­ty of Greece	133. Red Espanola de Inmi­gra­cion y Ayu­da al Refu­gia­do
20.All Out	58.Digitale Gesellschaft, Ger­many	96.Kif Kif vzw	134. Refugee Law Lab, York Uni­ver­si­ty, Cana­da
21.Anna Hen­ga	59.Digitalfems, Spain	97.KOK – Ger­man NGO Net­work against Traf­fick­ing in Human Beings	135. REPONGAC
22.Anticorruption Cen­ter	60.Diotima Cen­tre for Gen­der Rights & Equal­i­ty	98.KontraS	136. SHARE Foun­da­tion, Ser­bia
23.ARSIS – Asso­ci­a­tion of the Social Sup­port of Youth	61.Donestech	99.Koso­var Civ­il Soci­ety Foun­da­tion (KCSF)	137. SOLIDAR & SOLIDAR Foun­da­tion
24.ARTICLE 19	62.epicenter.works – for dig­i­tal rights	100. La Stra­da Inter­na­tion­al	138. State­watch, Inter­na­tion­al
25. Asia Indige­nous Peo­ples Pact	63.Equinox Ini­tia­tive for Racial Jus­tice, Europe	101. Lafede.cat	139. Sticht­ing LOS
26.Asociacion Por Ti Mujer	64.Eston­ian Human Rights Cen­tre	102. LDH (Ligue des droits de l’Homme), France	140. Superbloom (pre­vi­ous­ly known as Sim­ply Secure)
27.Aspiration	65.Eticas Foun­da­tion, Europe	103. Legal Cen­tre Lesvos	141. SUPERRR Lab
28.Association for Juridi­cal Stud­ies on Immi­gra­tion (ASGI)	66.EuroMed Rights	104. Lib­er­ty	142. SwitchMED – Magh­web
29.Association Konekt	67.Euro­pean Anti-Pover­ty Net­work (EAPN)	105. Lig­ali / IDPAD (Hack­ney)	143. Sym­bio­sis – Coun­cil of Europe School of Polit­i­cal Stud­ies in Greece
30.ASTI asbl – Lux­em­bourg	68.European Cen­ter for Human Rights	106. Ligue des droits humains, Bel­gium	144. TAMPEP Euro­pean Net­work for the Pro­mo­tion of Rights and Health among Migrant Sex Work­ers.
31.AsyLex	69.Euro­pean Civic Forum	107. LOAD e.V.	145. TEDIC – Paraguay
32.Aus­tria human rights League	70.European Move­ment Italy	108. Mai­son de l’Eu­rope de Paris	146. The Bor­der Vio­lence Mon­i­tor­ing Net­work
33.Avaaz	71.Euro­pean Net­work Against Racism (ENAR)	109. Meta­mor­pho­sis Foun­da­tion	147. The Good Lob­by
34.Balkan Civ­il Soci­ety Devel­op­ment Net­work	72.European Net­work on State­less­ness	110. Migrant Tales	148. Trans­paren­cy Inter­na­tion­al
35.Bul­gar­i­an cen­ter for Not-for-Prof­it Law (BCNL)	73.Euro­pean Sex Work­ers Rights Alliance (ESWA)	111. Migra­tion Tech Mon­i­tor	149. Volonteurope
36.Burgerrechte & Polizei/CILIP, Ger­many	74.Fair Vote	112. Mnemon­ic	150. WeMove Europe
37.Cana­di­an Civ­il Lib­er­ties Asso­ci­a­tion	75.FEANTSA, Euro­pean Fed­er­a­tion of Nation­al Organ­i­sa­tions Work­ing with the Home­less	113. Mobile Info Team	151. Xnet
38.Chaos Com­put­er Club, Ger­many	76.Free Press Unlim­it­ed	114. Moje Państ­wo Foun­da­tion

Let­tre ouverte d’Amnesty Inter­na­tion­al du 26 avril 2023 (en anglais)

Appel aux rap­por­teurs et aux mem­bres des com­mis­sions dirigeantes sur la loi européenne sur l’in­tel­li­gence arti­fi­cielle (loi IA) à inter­dire l’u­til­i­sa­tion de cer­tains sys­tèmes incom­pat­i­bles avec les droits humains des migrants, réfugiés et deman­deurs d’asile

La let­tre demande l’in­ter­dic­tion des :

1. Sys­tèmes automa­tisés d’é­val­u­a­tion des risques et de pro­fi­lage, util­isés pour déter­min­er si les per­son­nes en déplace­ment présen­tent un “risque” d’ac­tiv­ité illé­gale ou de men­aces à la sécu­rité, compte tenu des risques pour les droits à la non-dis­crim­i­na­tion, à la vie privée et à la pro­tec­tion des don­nées, ain­si qu’au droit à la lib­erté et à la sécu­rité .
2. Sys­tèmes ana­ly­tiques pré­dic­tifs util­isés pour inter­dire, réduire et prévenir la migra­tion , posant un grand risque de refoule­ment et de vio­la­tion du droit d’asile.
3. Util­i­sa­tion de “détecteurs de men­songe” basés sur l’IA et d’autres out­ils de recon­nais­sance des émo­tions, car ils men­a­cent les droits à la non-dis­crim­i­na­tion, à la vie privée, à la lib­erté et à un procès équitable.
4. L’i­den­ti­fi­ca­tion bio­métrique à dis­tance (RBI) rétro­spec­tive (post), en plus de la RBI en direct (en temps réel) dans tous les con­textes, y com­pris de la ges­tion des migra­tions et des fron­tières, qui facili­tent la sur­veil­lance de masse et dis­crim­i­na­toire et men­a­cent le principe de non-refoule­ment. L’ex­por­ta­tion de ces tech­nolo­gies devrait égale­ment être inter­dite.

A NOTER : l’U­nion Européenne a con­sid­érable­ment investi, depuis 2019, dans le sou­tien au développe­ment de mul­ti­ples pro­grammes basés sur l’IA qui ser­vent à sur­veiller, pis­ter, harcel­er les migrant·es et empêch­er physique­ment leur entrée sur le ter­ri­toire. Nous avons fait un inven­taire assez exhaus­tif de ces pro­grammes (dont drones, robots, détecteurs de men­songe, bases de don­nées bio­métriques jusqu’à des “robots tueurs”) avant un débat organ­isé en novem­bre 2022 (occa­sion de pro­jec­tion d’une vidéo sur cer­tains de ces out­ils).