IA act : 151 organisations demandent à l'UE de respecter les droits humains, particulièrement ceux des migrant·es

Le projet de règlement européen sur l'IA, voté très majoritairement par le Parlement de l'UE le 14 juin, est actuellement en négociation avec les Etats dans le cadre du "trilogue" [1].

Deux écueils peuvent se présenter

• Les Etats, sous la pression des lobbies industriels et aussi pour pouvoir maintenir leurs propres législations répressives (c'est particulièrement le cas de la France qui, seule en Europe, introduit la reconnaissance faciale à l'occasion de la loi JO 2024 !), peuvent être tentés d'affaiblir le texte voté au Parlement (qui prévoit les interdictions de l'identification biométrique, de la reconnaissance des émotions et de la police prédictive, voir détails dans notre article).
• le texte voté a de fait totalement ignoré la protection des migrant·es, pourtant particulièrement ciblé·es par les dispositifs d'IA financés par l'UE.

La déclaration, signée par 151 organisations, de toute l'Europe mais aussi internationales (seulement deux françaises, dont la LDH) vise donc à maintenir les acquis du texte face aux lobbies et aux appétits de contrôle de certains Etats, et à y intégrer la défense des droits humains pour les migrant·es.

Dans la même perpective, la secrétaire générale d'Amnesty International (la française Agnès Callamard) avait diffusé fin avril une lettre ouverte (éléments ci-dessous après la déclaration des 151).

L'ONG Statewatch, d'origine anglaise mais qui a désormais des antennes dans plusieurs pays d'Europe, a produit une analyse très riche sur l'absence de garanties en matière de migration et d'asile dans ce règlement européen sur l'IA.

[1] "Trilogue" : phase de négociation entre le Parlement européen, le Conseil de l'Union européenne et la Commission européenne, pour parvenir à un accord sur une proposition législative acceptable pour le Parlement et le Conseil.

Déclaration des 151 organisations de la société civiles : le règlement européen sur l'IA doit protéger les droits des citoyens

Texte complet (en anglais)

Communiqué de l'EDRi (European Digital Rights), sur le site de la LDH

151 organisations de la société civile demandent au Parlement européen, à la Commission européenne et au Conseil de l’UE de donner la priorité aux personnes et à leurs droits fondamentaux dans la loi sur l’intelligence artificielle (IA), au moment où les institutions de l’UE entament les négociations du “trilogue”. Ces réunions décisives détermineront la législation finale et la place qu’elle accordera aux droits de l’Homme et aux préoccupations des personnes susceptibles d’être affectées par des systèmes d’IA “risqués”.

Les systèmes d’IA ont déjà un impact considérable sur nos vies. Ils sont de plus en plus utilisés pour nous surveiller et nous identifier dans les espaces publics, prédire notre probabilité de criminalité, réorienter les contrôles de police et d’immigration vers des zones déjà surveillées, faciliter les violations du droit de demander l’asile, prédire nos émotions et nous catégoriser. Ils sont également utilisés pour prendre des décisions cruciales à notre sujet, par exemple en ce qui concerne l’accès aux programmes d’aide sociale.

En l’absence d’une réglementation appropriée, elles exacerberont les préjudices sociétaux existants liés à la surveillance de masse, à la discrimination structurelle et au pouvoir centralisé des grandes entreprises technologiques.

Le règlement sur l’IA est une occasion cruciale de réglementer cette technologie et de donner la priorité aux droits des personnes plutôt qu’aux profits. Grâce à cette législation, l’UE doit veiller à ce que le développement et l’utilisation de l’IA soient responsables et publiquement transparents, et à ce que les personnes aient les moyens de dénoncer les préjudices subis :

– donner aux personnes concernées les moyens d’agir en mettant en place un cadre de responsabilité, de transparence, d’accessibilité et de réparation.

Il s’agit notamment d’exiger une évaluation de l’impact sur les droits fondamentaux avant de déployer des systèmes d’IA à haut risque, l’enregistrement des systèmes à haut risque dans une base de données publique, des exigences d’accessibilité horizontales et intégrées pour tous les systèmes d’IA, le droit de porter plainte lorsque les droits des personnes sont violés par un système d’IA, ainsi que le droit à la représentation et le droit à des recours efficaces.

– limiter la surveillance préjudiciable et discriminatoire exercée par les services de sécurité nationale, les services répressifs et les autorités chargées des migrations.

Lorsque les systèmes d’IA sont utilisés à des fins de maintien de l’ordre, de sécurité et de contrôle des migrations, le risque de préjudice et de violation des droits fondamentaux est encore plus grand, en particulier pour les communautés déjà marginalisées. Des lignes rouges claires doivent être fixées pour ce type d’utilisation afin de prévenir les préjudices. Il faut notamment interdire tous les types d’identification biométrique à distance, les systèmes de police prédictive, les évaluations des risques individuels et les systèmes d’analyse prédictive dans les contextes migratoires.

– lutter contre le lobbying des grandes entreprises technologiques et supprimer les lacunes qui nuisent à la réglementation.

Pour que la loi sur l’IA soit effectivement appliquée, les négociateurs doivent s’opposer aux efforts de lobbying déployés par les grandes entreprises technologiques pour affaiblir la réglementation. Cela est particulièrement important en ce qui concerne la classification des risques des systèmes d’IA. Cette classification doit être objective et ne doit pas laisser aux développeurs d’IA la possibilité de déterminer eux-mêmes si leurs systèmes sont suffisamment “importants” pour être classés comme étant à haut risque et nécessiter une protection juridique. Les entreprises technologiques, motivées par la recherche du profit, voudront toujours sous-classer les systèmes d’IA.

151 Signataires

1. European Digital Rights (EDRi), Europe	39.Charity & Security Network	77.Fundacion Secretariado Gitano, Europe	115. Moomken organization for Awareness and Media
2. Access Now, International	40.Citizen D / Državljan D, Slovenia	78.Gong	116. National Campaign for Sustainable Development Nepal
3. Algorithm Watch, Europe	41.Civil Liberties Union for Europe	79.Greek Forum of Migrants	117. National Network for Civil Society (BBE)
4. Amnesty International	42.Civil Society Advocates	80.Greek Forum of Refugees	118. National old folks of Liberia
5. Bits of Freedom, Netherlands	43.Coalizione Italiana Liberta e Diritti civili	81.Health Action International	119. Novact, Spain
6. Electronic Frontier Norway (EFN)	44.Comision General Justicia y Paz de Espana	82.Hiperderecho	120. Observatorio Trabajo, Algoritmo y Sociedad
7. European Center for Not-for-Profit Law, (ECNL)	45.Comision Legal Sol	83.Homo Digitalis	121. Open Knowledge Foundation Germany
8. European Disability Forum (EDF)	46.Commission Justice et Paix Luxembourg	84.horizontl Collaborative	122. Partners Albania for Change and Development
9. Fair Trials, International	47.Controle Alt Delete, Netherlands	85.Human Rights Watch, International	123. Politiscope
10. Homo Digitalis, Greece	48.Corporate Europe Observatory (CEO)	86.I Have Rights	124. Privacy First
11. Irish Council for Civil Liberties (ICCL)	49.D64 - Zentrum fur digitalen Fortschritt	87.IDAY-Liberia Coalition Inc.	125. Privacy International
12. Panoptykon Foundation, Poland	50.DanChurchAid (DCA)	88.ILGA-Europe (the European region of the International Lesbian, Gay, Bisexual, Trans and Intersex Association)	126. Privacy Network
13. Platform for International Cooperation on the Rights of Undocumented Migrants (PICUM), Europe	51.Danes je nov dan, Inštitut za druga vprašanja	89.info.nodes	127. Promo-LEX Association
14.7amleh-The Arab Center for the Advancement of Social Media	52.Data Privacy Brasil	90.Initiative Center to Support Social Action "Ednannia"	128. Prostitution Information Center (PIC)
15.Academia Cidada – Citizenship Academy	53.Defend Democracy	91.Institute for Strategic Dialogue (ISD)	129. Protection International
16.Africa Solidarity Centre Ireland	54.Democracy Development Foundation	92.International Commission of Jurists	130. Public Institution Roma Community Centre
17.AlgoRace, Spain	55.Digital Security Lab Ukraine	93.International Rehabilitation Council for Torture victims	131. Racism and Technology Center
18.Algorights, Spain	56.Digital Society, Switzerland	94.IT-Pol	132. Red en Defensa de los Derechos Digitales
19.All Faiths and None	57.Digitalcourage, Germany	95.Ivorian Community of Greece	133. Red Espanola de Inmigracion y Ayuda al Refugiado
20.All Out	58.Digitale Gesellschaft, Germany	96.Kif Kif vzw	134. Refugee Law Lab, York University, Canada
21.Anna Henga	59.Digitalfems, Spain	97.KOK - German NGO Network against Trafficking in Human Beings	135. REPONGAC
22.Anticorruption Center	60.Diotima Centre for Gender Rights & Equality	98.KontraS	136. SHARE Foundation, Serbia
23.ARSIS - Association of the Social Support of Youth	61.Donestech	99.Kosovar Civil Society Foundation (KCSF)	137. SOLIDAR & SOLIDAR Foundation
24.ARTICLE 19	62.epicenter.works - for digital rights	100. La Strada International	138. Statewatch, International
25. Asia Indigenous Peoples Pact	63.Equinox Initiative for Racial Justice, Europe	101. Lafede.cat	139. Stichting LOS
26.Asociacion Por Ti Mujer	64.Estonian Human Rights Centre	102. LDH (Ligue des droits de l'Homme), France	140. Superbloom (previously known as Simply Secure)
27.Aspiration	65.Eticas Foundation, Europe	103. Legal Centre Lesvos	141. SUPERRR Lab
28.Association for Juridical Studies on Immigration (ASGI)	66.EuroMed Rights	104. Liberty	142. SwitchMED - Maghweb
29.Association Konekt	67.European Anti-Poverty Network (EAPN)	105. Ligali / IDPAD (Hackney)	143. Symbiosis - Council of Europe School of Political Studies in Greece
30.ASTI asbl - Luxembourg	68.European Center for Human Rights	106. Ligue des droits humains, Belgium	144. TAMPEP European Network for the Promotion of Rights and Health among Migrant Sex Workers.
31.AsyLex	69.European Civic Forum	107. LOAD e.V.	145. TEDIC - Paraguay
32.Austria human rights League	70.European Movement Italy	108. Maison de l'Europe de Paris	146. The Border Violence Monitoring Network
33.Avaaz	71.European Network Against Racism (ENAR)	109. Metamorphosis Foundation	147. The Good Lobby
34.Balkan Civil Society Development Network	72.European Network on Statelessness	110. Migrant Tales	148. Transparency International
35.Bulgarian center for Not-for-Profit Law (BCNL)	73.European Sex Workers Rights Alliance (ESWA)	111. Migration Tech Monitor	149. Volonteurope
36.Burgerrechte & Polizei/CILIP, Germany	74.Fair Vote	112. Mnemonic	150. WeMove Europe
37.Canadian Civil Liberties Association	75.FEANTSA, European Federation of National Organisations Working with the Homeless	113. Mobile Info Team	151. Xnet
38.Chaos Computer Club, Germany	76.Free Press Unlimited	114. Moje Państwo Foundation

Lettre ouverte d'Amnesty International du 26 avril 2023 (en anglais)

Appel aux rapporteurs et aux membres des commissions dirigeantes sur la loi européenne sur l'intelligence artificielle (loi IA) à interdire l'utilisation de certains systèmes incompatibles avec les droits humains des migrants, réfugiés et demandeurs d'asile

La lettre demande l'interdiction des :

1. Systèmes automatisés d'évaluation des risques et de profilage, utilisés pour déterminer si les personnes en déplacement présentent un "risque" d'activité illégale ou de menaces à la sécurité, compte tenu des risques pour les droits à la non-discrimination, à la vie privée et à la protection des données, ainsi qu'au droit à la liberté et à la sécurité .
2. Systèmes analytiques prédictifs utilisés pour interdire, réduire et prévenir la migration , posant un grand risque de refoulement et de violation du droit d'asile.
3. Utilisation de "détecteurs de mensonge" basés sur l'IA et d'autres outils de reconnaissance des émotions, car ils menacent les droits à la non-discrimination, à la vie privée, à la liberté et à un procès équitable.
4. L'identification biométrique à distance (RBI) rétrospective (post), en plus de la RBI en direct (en temps réel) dans tous les contextes, y compris de la gestion des migrations et des frontières, qui facilitent la surveillance de masse et discriminatoire et menacent le principe de non-refoulement. L'exportation de ces technologies devrait également être interdite.

A NOTER : l'Union Européenne a considérablement investi, depuis 2019, dans le soutien au développement de multiples programmes basés sur l'IA qui servent à surveiller, pister, harceler les migrant·es et empêcher physiquement leur entrée sur le territoire. Nous avons fait un inventaire assez exhaustif de ces programmes (dont drones, robots, détecteurs de mensonge, bases de données biométriques jusqu'à des "robots tueurs") avant un débat organisé en novembre 2022 (occasion de projection d'une vidéo sur certains de ces outils).