Le site Médiapart nous conte, dans une série de quatre épisodes, en quoi la reconnaissance faciale a changé la vie d’argentins, ouïghours, russes ou bélarusses. Nous en relevons quelques extraits qui peuvent éclairer sur les dérives possibles de cette technologie avant son application prochaine en France (seul pays européen qui en a légalisé le déploiement dans le cadre de la loi JO 2024).
Dans l’épisode 1, “En quelques secondes, j’apprends que je suis recherché pour un braquage”, c’est la mésaventure de Leandro, qui se voit accusé par la police argentine, sur la foi d’une identification par reconnaissance faciale, d’un délit qu’il n’a pas commis.
Sur la ligne B du métro de Buenos Aires, à la station Callao, le logiciel de reconnaissance faciale couplé aux caméras aurait identifié une personne visée par un mandat d’arrêt. Le niveau de confiance de ce “match” est de 86,09 %.
Il a fallu attendre plusieurs années pour que ce système [développé par la société argentine Danaide] soit définitivement arrêté. En mars 2023, la cour d’appel de Buenos Aires a jugé cette reconnaissance faciale illégale, notamment à cause de l’absence d’étude d’impact sur les droits des citoyen·nes ou des erreurs dans la base de données. Selon le centre d’études légales et sociales, une ONG argentine spécialisée dans la défense des droits humains, sur 1 648 personnes arrêtées grâce au système, 141 [soit près de 10%] ont été des faux positifs.
Dans l’épisode 2, “Cela rend paranoïaque, on se dit que l’on peut être reconnu partout”, Luba, manifestante russe contre la guerre en Ukraine le 9 mai 2022, a été identifiée par des caméras du métro moscovite.
“J’ai pensé qu’une banque, lesquelles sont en Russie très liées au pouvoir, aurait pu communiquer l’image qui a servi de base de recherche au système de reconnaissance faciale couplé aux caméras du réseau de métro.”
Depuis plusieurs années, Moscou est l’un des plus grands laboratoires d’un essai amorcé pour sécuriser la Coupe du monde de football 2018. Aujourd’hui, près de 180 000 caméras lorgneraient sur les rues moscovites, dont 100 000 seraient connectées au logiciel de reconnaissance faciale de la société NTechLab. Une entreprise progressivement tombée sous le giron de Rostec, agence publique militaro-industrielle russe, dirigée depuis 2007 par Sergueï Tchemezov, ancien agent du KGB et intime de Vladimir Poutine.
Elle sera arrêtée plusieurs heures, et les tracasseries policières se répèteront dans les mois suivants. Cette identification par reconnaissance faciale a accentué son sentiment d’insécurité : “cela rend paranoïaque, on se dit que l’on peut être reconnu partout, et que l’État peut savoir si on manifeste. Je regardais les caméras partout, essayais de dissimuler mon visage. C’est vraiment une technologie malsaine.”
La reconnaissance faciale est en effet utilisée pour réprimer les activistes et opposant·es au régime, comme le documente l’organisation non gouvernementale russe OVD-Info. Luba a fini par quitter le pays et se réfugier en Allemagne.
L’épisode 3, “Les Ouïghours sont victimes du premier génocide technologique de l’histoire”, nous présente Kalbinur, qui a vécu le développement de la surveillance technologique de la population ouïghoure par le régime chinois.
Jusque dans le camp de “redressement” pour Ouïghours où cette professeure des écoles se voit forcer de travailler pendant deux ans. Deux gardes armés l’accueillent dans sa salle de classe. Une centaine de détenus, ses élèves, crânes rasés, corps squelettiques, numéros inscrits sur leur tenue en guise de prénom, franchissent la porte en rampant, les mains enchaînées.
Dispersées dans les angles de la pièce, huit caméras, dont deux juste au-dessus de sa tête, filment chaque seconde. “Un policier m’a mise en garde : elles captent tout ce que tu fais et ce que tu dis”. “C’est le premier génocide technologique de l’histoire”, pour Rahima Mahmut, directrice anglaise du World Uyghur Congress. Technologique, car le virage totalitaire amorcé au Xinjiang est indissociable des milliers de caméras couplées à des logiciels de reconnaissance faciale.
Kalbinur se souvient de leur apparition dans les rues, en 2014 : “Ils nous disaient que c’était pour surveiller le trafic. Nous étions méfiants, sans être paranoïaques.” Les choses s’accélèrent en 2016. La vie quotidienne devient orwellienne. Des milliers d’outils numériques lorgnent aujourd’hui la population. Utiliser WhatsApp ou passer un appel à l’étranger suffit à être envoyé dans des camps de redressement, construit à partir des années 2010.
Gulbahar, amie de Kalbinur, raconte la spécificité de ces détentions arbitraire dans son livre Rescapée du Goulag chinois (éditions Équateurs). La caméra “tourne la tête pour suivre celles d’entre nous qui se déplacent du lavabo au lit, du lit au lavabo. Bzzz, Bzzz. C’est insupportable. Elle se moque de nous, cette caméra. Elle nous humilie.”
Kalbinur comprend progressivement le rôle des caméras dans ce génocide. “Un jour, j’ai pu accéder dans la salle où sont centralisées les caméras. Il y avait des dizaines d’écrans sur trois murs. Les détenus n’ont pas le droit de parler entre eux. Dès qu’ils chuchotaient, une alerte apparaissait sur l’écran en question.”
Cette prison technologique suit Kalbinur partout. Des QR codes sont installés devant les portes des appartements. En les scannant, la police sait qui y réside et qui est venu. Lorsqu’elle se rend au supermarché, la professeure voit son visage scanné par une caméra de reconnaissance faciale. Même sentence lorsqu’elle passe le péage d’accès à son district.
Elle a depuis quitté le pays pour La Haye mais le harcellement continue. Un jour, elle a reçu un appel en visioconférence de sa sœur via le réseau social chinois WeChat. Derrière l’écran, elle découvre, incrédule, un policier, qui la somme de revenir au Xinjiang. Sur son téléphone, elle conserve également une vidéo “d’espions chinois” qui seraient venus filmer devant son appartement hollandais.
Une bande dessinée éditée par la Japan Uyghur Association raconte son histoire.
Dans l’épisode 4,“Je voulais montrer que ces technologies peuvent se retourner contre le régime”, c’est Andrew, bélarusse expatrié aux États-Unis, qui a travaillé sur un logiciel permettant de démasquer les policiers réprimant la population de son pays natal.
Une vidéo YouTube montre un policier en civil matraquer à plusieurs reprises un homme au sol. L’image de la vidéo se fige et zoome sur le visage cagoulé de l’assaillant. Un onglet d’identification s’ouvre. Des dizaines de portraits apparaissent et disparaissent jusqu’à ce que le “match” soit identifié : le visage du policier en civil est démasqué. Son identité est révélée au grand jour, tout comme sa date de naissance.
En pleine crise Covid, Andrew a eu l’idée de développer ce logiciel capable de recréer le visage masqué des policiers qui répriment violemment toute contestation au Bélarus. “Ces technologies de surveillance sont le symbole du Big Brother : cet œil du régime qui nous surveille. En faisant cela, je voulais montrer que si ces technologies existent, elles peuvent également se retourner contre le régime.”
“J’ai grandi en voyant des femmes se faire frapper sans raison, des personnes âgées se faire mettre KO et des gens disparaître du jour au lendemain. Quand je partais manifester, c’était comme partir à des funérailles, je me disais que peut-être je n’en reviendrais jamais.” Dans un récent rapport, l’ONU a qualifié de “catastrophique” la situation des droits humains au Bélarus, où plus de 1 500 personnes seraient toujours détenues pour motifs politiques.
“La difficulté, c’est qu’il faut une base de données détaillée des visages de tous les fonctionnaires de police bélarusses et que nous n’en avons pas.” Son objectif a désormais évolué. “Ce que nous voulons, c’est attendre que le régime de Loukachenko tombe. Nous pourrons ensuite récupérer plus facilement des images des forces de l’ordre et les comparer aux violences commises par ces derniers. Nous voulons documenter cette violence d’État.”