Face aux migrant·es, l'UE (et la France) systématisent l'IA

Mardi 8 novembre à 18 h, débat à l’amicale laïque du Crêt de Roc, 16 rue Royet à Saint-Étienne
Avec Jonathan Keller, chercheur à Télécom Paris qui travaille sur le futur règlement européen sur l’intelligence artificielle, et des représentant·es de l'association Traces, de Halte au contrôle numérique

La migration est présentée uniquement comme une menace et un problème de sécurité par l'UE et la plupart des États européens. Leur recours à des dispositifs technologiques pour contrôler les migrations n’est pas nouveau. Une chercheuse pointait déjà en 2010 la tentation des autorités européennes d’aller vers "une gestion électronique des personnes à risque" que sont, de leur point de vue, les migrant·es. Cette logique de contrôle et de répression (particulièrement des personnes en provenance des pays pauvres) est devenue dominante via des investissements massifs dans la technologie, principalement numérique.

La politique française et européenne en direction des migrant·es est inhumaine et meurtrière

Les personnes migrant depuis les pays européens, généralement vers des pays riches (USA, Canada, Qatar, Doha, Australie…) ne souffrent guère de restrictions de circulation ; il en va de même pour les migrants provenant de ces pays. Ces flux sont même largement encouragés, qu’il s’agisse de gonfler les revenus de l’économie touristique ou de contribuer à des marchés du travail désormais internationalisés.

Toute autre est la situation des personnes migrantes dites "non qualifiées", soit des populations issues de pays pauvres, situés notamment sur le continent asiatique ou africain : les autorités de l’UE et des pays membres imposent des restrictions de plus en plus fortes, faites de surveillance, de harcèlement et d’empêchement physique, qui les conduisent à prendre de plus en plus de risques, jusqu’à la mort.

Ces états européens méprisent leurs propres lois et les accords internationaux qu'ils ont signés. Ainsi, la convention internationale de 1974 "pour la sauvegarde de la vie humaine en mer", qui oblige un capitaine de navire à porter secours à toute personne qui envoie un signal de détresse, celle de 1979 sur "la recherche et le sauvetage maritimes", qui attribue aux États des zones pour la recherche et les secours en mer (notamment en Méditerranée, dans la Manche).

Or l’Union européenne, bien que parfaitement informée des tentatives de traversées par différents dispositifs (satellites, drones, etc.), laisse mourir en mer un nombre toujours plus important de personnes migrantes. L'UNHCR (l’agence des Nations Unies pour les réfugiés) soulignait ainsi, lors de sa conférence de presse de juin 2022, que si le nombre de personnes migrantes qui franchissent la Méditerranée pour rejoindre l'Europe est en nette baisse depuis quelques années, ces traversées sont de plus en plus meurtrières.

En 2021, 3 231 ont été déclarées décédées ou portées disparues en mer en Méditerranée et dans le Nord-Ouest de l’Atlantique, contre 1 881 en 2020, 1 510 en 2019... Un nombre plus important encore pourrait avoir perdu la vie sur la route à travers le désert du Sahara et dans les zones frontalières éloignées (voir le bilan présenté par l’Organisation internationale pour les migrations des Nations Unies).

Les pratiques de Frontex (acronyme de FRONTières Extérieures, devenue en 2019 l’Agence européenne de garde-frontières et de garde-côte) sont régulièrement dénoncées par des rapports, et font même scandale lorsqu’elles conduisent à des actions dramatiques (comme cet été dans l'enclave espagnole de Melilla où au moins 23 migrants ont trouvé la mort). Ce qui amène l'Union européenne et ses membres à développer des stratégies de contrôle des migrations plus discrètes, mettant en jeu les technologies numériques.

Technopolice à tous les étages

L’Union européenne (comme la France, qui a de fait rétabli des frontières pour les seules populations migrantes à Calais, à Vintimille et dans les Pyrénées) utilise toujours les outils classiques de l’enfermement face aux supposés envahisseurs : rangées de barbelés, voire murs en dur, projecteurs, troupes lourdement armées…

En 1991, on démantelait le "mur de Berlin"... En 2020, on comptait à nouveau 63 murs frontaliers dans le monde, 60 % de la population mondiale vivant dans un pays qui en a construit au moins un. L'Union européenne en est ainsi à 1 000 kilomètres de murs ! Ces murs "intelligents" sont désormais tous équipés de dispositifs numériques (radars, équipements de vision nocturne, drones...).

À cela se sont ajoutés :

• des lunettes de vision nocturne ou de réalité augmentée, des caméras (dont certaines thermiques), des portails de reconnaissance faciale, des scanners d’empreintes digitales, des détecteurs de mensonges, des capteurs et systèmes optroniques (combinant optique et électronique) de surveillance.
• des capteurs de CO2 ou de fréquence cardiaque, des systèmes d’imagerie par ondes millimétriques afin de détecter les personnes qui pourraient s’être cachées dans les camions.
• des avions et hélicoptères équipés de caméras thermiques, des drones (l’Agence européenne pour la sécurité maritime s’équipe de drones pour effectuer des missions de surveillance, mais aussi pour survoler les camps d’exilés, etc.).

En effet, à la surveillance des frontières s'ajoute celle des camps où sont parqué.es les réfugié·es, des espaces de jeux pour enfants qui y sont installés et, bien sûr, par delà des mers, les pays de transit…

Une note produite par l’OCDE mentionne que des dispositifs mobilisant l’intelligence artificielle sont utilisés pour identifier la langue des personnes réfugiées, détecter les "mensonges" dans les déclarations d’identité ou pour traiter des dossiers lors de l’examen des demandes d’asile.

L’Union européenne a mobilisé des financements considérables via, notamment, le programme Horizon 2020 (couvrant la période 2016 - 2020), et sa suite Horizon Europe (liste de nouveaux outils promus). Aperçu de quelques-uns :

• Roborder, pour surveiller les frontières via des essaims de drones autonomes. Ils sont dotés d’intelligence artificielle pour la reconnaissance biométrique et pour identifier les infractions (comme celle de passer une frontière), leur "dangerosité". Ces drones peuvent se mouvoir dans les airs, sous l’eau, sur l’eau et dans des engins au sol. Dotés de multiples capteurs, ils peuvent aussi écouter les communications.
• iBorderCtrl : parmi divers usages de la reconnaissance biométrique, iBorderCtrl prétend identifier les émotions à partir de l’examen de "38 micro-mouvements du visage" comme l’angle de la tête ou le mouvement des yeux. Ce "détecteur de mensonges", déjà mis à l'essai dans trois pays, peut être implanté aussi dans les aéroports. Il est vigoureusement contesté par Amnesty International qui rappelle que "les systèmes d’IA utilisant la reconnaissance faciale sont par nature biaisés, car ils assimilent les idées préconçues figurant dans les données".

Il permet la collecte massive d'informations pour alimenter les bases de données biométriques (qui stockent les caractéristiques physiques, biologiques et comportementales d’un individu pour permettre sa reconnaissance automatisée), parmi lesquelles :

• Eurodac, créée en 2003 pour vérifier les demandes de visa et d'autorisation de voyage. Elle a été étendue aux demandeurs d'asile et aux migrants en situation irrégulière. Ses données sont stockées dans le nouveau "Common Identity Repository", vaste base de données biométriques qui pourra contenir jusqu'à 300 millions de dossiers.

• En 2020, Idemia et Sopra Steria, deux entreprises françaises, ont créé un système partagé de correspondances biométriques (BMS partagé ou sBMS), comprenant les empreintes digitales et les portraits de plus de 400 millions de ressortissants de pays tiers, en vue de réguler les entrées et sorties de l’espace Schengen.
• l'utilisation de la technologie blockchain est aussi prévue pour gérer des cas de transfert Dublin. Ce projet fait partie de l'initiative européenne Blockchain Services Infrastructure (EBSI).

Ces bases – et d’autres – sont interconnectées et interopérables. Synthèse de ces technologies, ITFlows est un programme compilant des milliers de données et mobilisant l’intelligence artificielle afin de prédire des flux migratoires et identifier les "risques de tensions" liés à l’arrivée de réfugiés aux frontières de l’Europe. En 2021, Frontex l’a élu parmi les projets au « potentiel opérationnel et innovant » le plus élevé. Il devrait rentrer en service en août 2023. Un comité éthique s’alarme de l’utilisation possible des informations fournies par l’algorithme de ITFlows pour "stigmatiser, discriminer, harceler ou intimider les migrants, les réfugiés et les demandeurs d’asile" voire "créer des ghettos de migrants".

Notons que de grandes ONG contribuent à l’occasion au développement de ces bases de données. Ainsi, en Italie, la Croix-Rouge et Oxfam nourrissent, en contrepartie de financements (elles ont respectivement reçu de l’Union européenne 167 000 euros et 116 000 euros), l’intelligence artificielle d’ITFlows en lui fournissant des données, issues d’entretiens réalisés dans des camps de réfugié·es, portant sur l’origine ethnique, l’orientation sexuelle ou la religion. .

Un coût exorbitant

Le rapport Statewatch-TNI de mai 2022 « At what cost? Funding the EU’s security, defence, and border policies, 2021–2027 » (« À quel prix ? Le financement des politiques de sécurité, de défense et des frontières de l'UE, 2021-2027 ») permet de saisir l’évolution des budgets consacrés en particulier au contrôle des frontières de l’UE et des migrations pour la période 2021-2027.

Frontex, qui pilote l'identification ainsi que l'évaluation des activités de recherche dans le cadre du programme de recherche sur la sécurité civile, bénéficiera ainsi d'un financement sans précédent, à hauteur de 5,6 milliards d'euros, soit une augmentation de 194 % par rapport à la période précédente (2014-2020). Le Fonds pour la gestion intégrée des frontières augmentera lui de 131 % pour atteindre 6,2 milliards d'euros.

Un nouveau Fonds pour les affaires intérieures vise à renforcer la capacité des pays extérieurs à l'UE à contrôler les migrations. Un de ses objectifs est de "faciliter le franchissement légitime des frontières, de prévenir et de détecter l'immigration clandestine et la criminalité transfrontalière et de gérer efficacement les flux migratoires", notamment en renforçant la "coopération inter-institutionnelle" entre les États membres, les organes de l'Union et les pays tiers. Le but est donc d’externaliser le contrôle des frontières vers des pays tiers, les pays de transit (Libye, Turquie… qui sont pourtant régulièrement dénoncés pour leurs atteintes aux droits humains).

Compte tenu du croisement entre les technologies civiles et militaires, le renforcement du contrôle aux frontières est également alimenté par l’accroissement général du budget public européen alloué à la sécurité et à la défense (plus 123 %, pour s'élever à 43,9 milliards d'euros). Le Fonds européen de défense augmente ainsi de 1256 % pour atteindre près de 8 milliards d'euros et sera, pour la première fois, utilisé pour la recherche et le développement d'armements militaires de haute technologie.

Relevons par contraste que le Fonds pour l'asile et les migrations n’augmentera sur la même période que de 43 %, pour atteindre 9,9 milliards d'euros. Par ailleurs, l'aide au développement est pour partie réorientée vers la gestion des frontières, notamment pour contrôler les mouvements migratoires. Le Fonds européen de développement et le Fonds fiduciaire de l'UE pour l'Afrique sont de fait tous deux déjà utilisés pour servir les objectifs de la politique migratoire.

Une politique au service de quels intérêts ?

L’utilité de ces dispositifs est pourtant remise en cause. La Défenseure des droits, Claire Hédon, qualifie la stratégie de déploiement des forces de l’ordre au littoral Nord de "coûteuse, vaine et inefficace [...] les trois quarts des personnes qui arrivent à traverser La Manche sont éligibles au droit d’asile au Royaume-Uni". Pour Damien Carême, eurodéputé et ancien maire de Grande-Synthe, "ces technologies ne servent à rien, à part militariser l’espace public". Özlem Demirel, eurodéputée allemande, estime que "ces technologies coûtent la vie aux réfugié·es qui tentent d’atteindre l’Europe par bateau." En effet, en compliquant le passage, ces technologies forcent les migrant·es à prendre beaucoup plus de risques.

L'objectif se situerait-il ailleurs ? Michel Cadot, délégué interministériel français aux jeux Olympiques et Paralympiques de 2024, déclare, avec cynisme, que c’est une simple question de "souveraineté" : "si on ne teste pas, les technologies américaines et chinoises vont nous dépasser".

Or le marché de la sécurité des frontières au niveau mondial devrait croître annuellement entre 7,2 % et 8,6 % jusqu’à 2025, celui du "marché mondial des systèmes biométriques" doubler, de 33 milliards de dollars en 2019 à 65,3 milliards de dollars en 2024, quant à celui de l'IA, il devrait atteindre 190,61 milliards de dollars en 2025. Les deux tiers des nouvelles opportunités de marché militaire au cours des dix prochaines années se situeront en Asie et dans la région Moyen-Orient et Afrique du Nord.

Ces dispositifs technopoliciers, dont l’Union européenne finance la conception et l’expérimentation, ont donc vocation à être d’abord utilisés (et testés) aux frontières de l’UE pour être vendus ailleurs, dans des pays en guerre (Yémen...) ou à des régimes dictatoriaux (Égypte, Libye...). C'est la double peine : les victimes de la guerre ou des dictatures et amenées à fuir leur pays vont retrouver, lors de leur voyage et dans leurs tentatives de passage aux frontières, les technologies fournies par les mêmes industriels européens.

Militarisation et contrôle de toutes et tous

S’il est prévu que ces dispositifs n’aient pas d’application militaire, la distinction entre usages civil et militaire est en réalité loin d’être établie. Cette interpénétration entre militaire et civil n’a pas lieu de surprendre. En 2021, les Frontex Files, une enquête diligentée par la chaîne publique allemande ZDF en collaboration avec l’ONG Corporate Europe Observatory, mettait en effet en évidence les relations troubles de Frontex avec des industriels de l’armement entre 2018 et 2019, notamment avec les français Atos, Thales et Airbus. La recherche de "synergies" entre civil et militaire, avec l’objectif d'exploiter des technologies à double usage pouvant être utiles à la fois au secteur de la sécurité intérieure et au secteur militaire, est ouvertement encouragée par les institutions européennes. The Intercept note qu'il est difficile d’anticiper à quelles fins sera utilisée une technologie.

Ainsi de Roborder : ce programme d'engins autonomes, sans pilote, pourrait déboucher sur la conception de robots équipés de fonctions létales. Prono, une entreprise publique bulgare, avait en 2015 mis à disposition de Frontex un système de sécurité aux frontières "doté d’une influence meurtrière gérable sur les délinquants, ne nécessitant pas de surveillance permanente de la part d’agents compétents". Le risque d’une mise en place d’une telle technologie apparaît si réaliste que plus de 180 ONG (dont Amnesty International, Human Rights Watch, etc.) mènent actuellement une campagne pour mettre fin aux "robots tueurs".

Ces projets peuvent conduire à une militarisation accrue de la sphère civile en accentuant le brouillage entre guerre, maintien de l'ordre et sécurité intérieure. Leur application à la gestion des flux migratoires donne les atours de la neutralité technologique à des politiques de discrimination, d’exclusion et de déshumanisation. Les réfugié·es pourraient bien n'être que les "cobayes" des futures mesures de contrôle et de surveillance, étendues à tous et toutes les Européen·nes.

Comment s’opposer au développement de la technopolice aux frontières de l’UE ?

Ces politiques migratoires se font sans contrepoids démocratique ou presque : les gouvernements sont les seuls décideurs, le rôle du Parlement européen est extrêmement réduit, les consultations de l'Agence des droits fondamentaux ou d'organes nationaux de défense des droits humains sont sans effet contraignant.

Réintroduire du débat public apparaît donc particulièrement urgent, autour de films (par exemple Tori et Lokita des frères Dardenne), de documentaires et d'émissions, qui permettent de replacer les réfugié·es à hauteur humaine. Il est aussi nécessaire de favoriser des positionnements internationalistes dans les grandes associations, syndicats, partis politiques comme il pouvait en exister au 19^e siècle et dans une grande partie du 20^e, qui privilégiaient la solidarité et la lutte contre l'oppression.

Déjà, des actions internationales sont initiées mais méconnues, comme celles de l'EDRI qui appelle à interdire la surveillance biométrique de masse à l’échelle européenne, et qui a lancé une campagne pour les droits humains face au projet de règlement européen sur l'intelligence artificielle. D'autres sont initiées, dont celle qui cible les centres de recherche et ONG participant à l’élaboration d'ITFlows, ou celles pilotées par Amnesty International ou stopkillerrobots (voir vidéo ci-dessous) contre les "robots tueurs".

Des pistes juridiques peuvent aussi être mobilisées, notamment autour du RGPD (Règlement général de protection des données, édicté par l’Union européenne et applicable en l’état dans chacun des pays de l’Union), qui permet donc des actions internationales. Son article 22 stipule que "La personne concernée a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé [qui désigne les traitements effectués par une IA], y compris le profilage, produisant des effets juridiques la concernant ou l'affectant de manière significative de façon similaire".

Il est donc possible de demander, en toute circonstance, que soit appliqué·es, à la place du traitement par l’IA, un accueil et une décision par un humain. La CNIL prévoit même en cas de "dispositions légales spécifiques", (autrement appelées "droit d'exception", très souvent invoqué par l’État français) des modalités qui permettent de garantir des droits :

• d’être informé qu’une décision entièrement automatisée a été prise à notre encontre ;
• de demander à connaître la logique et les critères employés pour prendre la décision ;
• de contester la décision et d’exprimer notre point de vue ;
• de demander l’intervention d’un être humain pour qu'il puisse réexaminer la décision.

Ce raisonnement peut s'appliquer aux situations des réfugié·es comme de l'ensemble de la population.

Peuvent aussi être mobilisées les études et rapports produits par de grandes organisations internationales comme le Haut commissariat aux droits de l'Homme, ou le Conseil de l'Europe (qui va sortir une Recommandation sur les femmes migrantes, comprenant des dispositions sur l'impact de l'IA, et qui devrait être un support pour plaider devant la Cour Européenne des droits de l'Homme), ainsi que de grandes ONG (Amnesty International, Human Rights Watch...).

Le but ultime de nos actions est, en la matière, de revenir à la liberté de circulation pour toutes et tous :