La reconnaissance faciale, est-ce inéluctable ? Luttons ensemble !

Les régimes autori­taires, dic­ta­to­ri­aux, instal­lent la recon­nais­sance faciale dans les aéro­ports, les trans­ports col­lec­tifs, le con­trôle aux fron­tières et le pistage des migrant.es, les stades… C’est le cas à Sin­gapour, en Chine, en Israël, dans les pays du Golfe, aux Etats-Unis… Son cou­plage avec l’IA représente un dan­ger majeur pour nos lib­ertés et face aux poli­tiques ségréga­tives qui s’in­stal­lent dans ces pays … et dans nos con­trées sup­posées libérales.

Com­ment lut­ter ? Com­ment mobilis­er face à ces atteintes pour nos droits humains indi­vidu­els et col­lec­tifs ?

Le jour­nal Le Monde présente la recon­nais­sance faciale comme un marché juteux qui pour­rait peser 18 mil­liards de dol­lars (15,4 mil­liards d’euros) en 2030, con­tre 8 mil­liards aujourd’hui. Il nous grat­i­fie d’une de ces info­gra­phies cen­sée nous prou­ver l’inéluctabil­ité de cette pro­gres­sion.

Dans cette entre­prise de banal­i­sa­tion (titre de l’ar­ti­cle), ce jour­nal utilise même le témoignage d’une soci­o­logue – Car­o­line Lequesne, respon­s­able d’un mas­ter 2 à l’université de Côte d’Azur – qui nous cer­ti­fie que “sen­si­bilis­er sur le seul ter­rain des lib­ertés fon­da­men­tales ne suf­fit plus”. Les lib­ertés ne sont donc plus fon­da­men­tales…

La recon­nais­sance faciale est inter­dite, sauf…

En droit, la recon­nais­sance faciale est inter­dite en France et dans l’UE, sauf en Hon­grie où elle a été autorisé par le Par­lement en mars pour iden­ti­fi­er les per­son­nes qui organ­isent ou assis­tent à la Marche des fiertés, désor­mais inter­dite par la loi.

Et la France a ini­tié un dan­gereux précé­dent en autorisant, à titre d’ex­péri­men­ta­tion lors des JO 2024, la VSA (Vidéo-Sur­veil­lance Algo­rith­mique, voir notre arti­cle). Depuis, les min­istres suc­ces­sifs – et les respon­s­ables de la région Auvergne-Rhône-Alpes – ne cessent de vouloir réin­stau­r­er l’ex­péri­men­ta­tion, pour les prochains JO notam­ment…

Et l’ex-min­istre de l’in­térieur, aujour­d’hui à la jus­tice, Gérald Dar­manin, laisse augur­er d’une volon­té de pas­sage à la “vraie” recon­nais­sance faciale : le 23 mai il annonçait le lance­ment d’un “groupe de tra­vail” sur la recon­nais­sance faciale, qu’il souhaitait met­tre en place dans l’espace pub­lic et les aéro­ports.

Laque­lle est déjà util­isée de manière illé­gale : en novem­bre 2023, Dis­close révélait que la police nationale avait recours au logi­ciel Video Syn­op­sis, de Brief­Cam (depuis 2015 !). Cette société israéli­enne con­tin­ue depuis de “ven­dre dans les villes leur logi­ciel de vidéo­sur­veil­lance algo­rith­mique, et ce qu’il se pas­sait avant les JO se pour­suit dans l’impunité la plus totale”, pointe Noémie Lev­ain, juriste au sein de La Quad­ra­ture du Net. En jan­vi­er, le tri­bunal admin­is­tratif de Greno­ble leur a don­né rai­son dans l’affaire qui les oppo­sait à la ville de Moirans (Isère), en recon­nais­sant l’illégalité du logi­ciel de vidéo­sur­veil­lance de Brief­Cam util­isé par de nom­breuses com­munes (Roanne…).

Dif­férentes tech­nolo­gies, de plus en plus lib­er­ti­cides

Type de tech­nolo­gie

Fonc­tion­nement

Con­stats

Authen­tifi­ca­tion, autorisée dans les aéro­ports

Com­para­i­son de l’image recon­nue avec celle du passe­port ou de la carte d’identité

Dans les aéro­ports, elle est cen­sée “flu­id­i­fi­er” en gag­nant du temps sur la véri­fi­ca­tion seule­ment visuelle. Elle n’est pas à l’abri des erreurs, biais… Cet usage très lim­ité peut con­duire à gliss­er vers les autres méth­odes

Caté­gori­sa­tion, inter­dite mais expéri­men­tée par cer­tains pays à leurs fron­tières (Grèce, Hon­grie, Let­tonie) dans le cadre du pro­jet financé par l’UE iBor­derC­trl

Analyse, d’après l’image générée, les car­ac­téris­tiques d’une per­son­ne (âge, sexe, couleur de peau…) et ses émo­tions

Source de nom­breuses erreurs, de biais divers (ces out­ils dis­tinguent très mal les couleurs de peau som­bres, sur­in­ter­prè­tent…). La recon­nais­sance des émo­tions est très intru­sive et est une atteinte au lib­ertés. L’UE finance ces pro­grammes, dont celui d’un détecteur de men­songe (qui ren­voie à l’imaginaire améri­cain des années 50), avec un taux d’erreur mon­strueux… (voir vidéo)

Vidéo Sur­veil­lance Algo­rith­mique (VSA), expéri­men­tée pen­dant les JO et au-delà (août 2023 à mars 2025) en France

Se sert de l’IA pour détecter des sit­u­a­tions sus­pectes (mou­ve­ment de foule, présence d’armes, émo­tions…)

Très intru­sive (émo­tions…) et très nor­ma­tive (courir déclenche une alerte). Lors des JO, taux d’alertes erronées con­statées par la SNCF de 62 % !

Iden­ti­fi­ca­tion, inter­dite

Com­para­i­son de l’image recon­nue avec celles stock­ées dans des bases de don­nées exis­tantes (notam­ment TAJ : fichi­er de Traite­ment des Antécé­dents Judi­ci­aires, où sont stock­ées les pho­tos des prévenus, mais aus­si des plaig­nants… ; ou TES : fichi­er des Titres Elec­tron­iques Sésurisés, autrement dit le fichi­er bio­métrique qui stocke toutes les don­nées enreg­istrées lors de la créa­tion des cartes d’identité et des passe­ports)

Per­met d’identifier pré­cisem­ment une per­son­ne dans une foule et d’afficher tous ses attrib­uts stock­és dans les fichiers : la sur­veil­lance de masse “idéale”, à la chi­noise, ou la STASI à l’ère numérique

UE : un cadre régle­men­taire peu pro­tecteur du fait d’un droit d’ex­cep­tion

La recon­nais­sance faciale est prise en compte dans l’ “AI Act” (ou Règle­ment IA, ou RIA pour la CNIL), applic­a­ble par étapes depuis le 1^e août 2024 dans toute l’UE. Une bataille intense a présidé à ce texte, con­duite par la coali­tion d’or­gan­i­sa­tions de défense des droits humains #Pro­tect Not Sur­veil (com­posée de l’EDRi [dont fait par­tie La Quad­ra­ture du Net], d’Amnesty Inter­na­tion­al, Access Now, Algo­rithm Watch…). Elle s’est battue notam­ment pour obtenir l’in­ter­dic­tion des IA util­isant la recon­nais­sance faciale en temps réel ou a pos­te­ri­ori, l’analyse com­porte­men­tale (recon­nais­sance des émo­tions)…

Cette coali­tion avait réus­si à obtenir le vote d’un texte au Par­lement européen qui repre­nait l’essen­tiel de ses deman­des en juin 2023 par 499 voix pour, 28 con­tre et 93 absten­tions, soit à une très large majorité (avec cepen­dant une restric­tion notable, celle de ne pas pro­téger les migrants, ce qui avait provo­qué un appel en leur faveur de 151 organ­i­sa­tions européennes).

Mais, dans un deux­ième temps, sont inter­venus les Etats (au pre­mier rang la France macro­niste, qui aurait dû renon­cer à la VSA…) qui ont obtenu le déclasse­ment de cer­tains dis­posi­tifs “inter­dits” vers seule­ment “régle­men­tés”, et beau­coup de droits d’ex­cep­tion, ce qui déna­ture le texte négo­cié avec le Par­lement. La ver­sion finale de ce règle­ment n’interdit pas la sur­veil­lance bio­métrique de masse.

Katia Roux, qui a par­ticipé aux négo­ci­a­tions pour Amnesty Inter­na­tion­al, souligne ain­si que des dérives sont pos­si­bles suiv­ant l’usage que l’on décide de faire de ces tech­nolo­gies. “L’AI Act encadre par­tielle­ment la recon­nais­sance faciale en temps réel, mais on voit bien que son usage peut être aus­si prob­lé­ma­tique a pos­te­ri­ori, quand des man­i­fes­tants sont arrêtés plusieurs jours après.”

En octo­bre 2024, la com­mis­sion européenne a pro­posé la créa­tion d’une “appli­ca­tion de voy­age numérique” au sein de l’UE afin que les pas­sagers puis­sent stock­er sur leur mobile les infor­ma­tions de leur passe­port ou de leur carte d’identité et une image faciale. Ella Jakubows­ka, de Euro­pean Dig­i­tal Rights (EDRi), pré­cise : “Cette propo­si­tion implique la créa­tion de 27 nou­velles bases de don­nées bio­métriques con­tenant les don­nées faciales de poten­tielle­ment tous les voyageurs, ain­si qu’une forme totale­ment inédite de traite­ment de don­nées sen­si­bles aux fron­tières européennes”, phénomène qui pour­rait s’am­pli­fi­er en cas de piratage de ces don­nées.

Il est donc avéré que le règle­ment IA ne pro­tège pas. Pour autant, le tra­vail mené dans le cadre de la coali­tion #Pro­tect not sur­veil peut à l’avenir amen­er des com­bats juridiques et mil­i­tants pour obtenir pro­gres­sive­ment ce qui avait été négo­cié, à savoir l’in­ter­dic­tion de la recon­nais­sance faciale en temps réel ou a pos­te­ri­ori, et celle de l’analyse com­porte­men­tale…

Com­ment mobilis­er sur ces ques­tions de lib­erté qui nous con­cer­nent toutes et tous ?

La Quad­ra­ture du net a lancé une action nationale pour s’op­pos­er à la VSA qui pro­pose des expli­ca­tions sur les enjeux, un kit d’ac­tions à men­er dans sa ville. Et, par ric­o­chet, à la recon­nais­sance faciale.

Notre col­lec­tif Halte au con­trôle numérique a relayé cette action à Saint Eti­enne (et dans des villes envi­ron­nantes), avec notam­ment une péti­tion à sign­er.

D’autres modes d’ac­tion, plus offen­sifs, doivent nous inspir­er : notam­ment cette action de Big Broth­er Watch, un groupe bri­tan­nique de défense des lib­ertés publiques.

Dans un rap­port de 2023, il analyse que, sur un total de 3 315 iden­ti­fi­ca­tions réal­isées par la police, seules 340 étaient vraies.

Il ini­tie une action très offen­sive : Cam­pagne Big Broth­er Watch en Grande Bre­tagne. Présen­ta­tion par eux :

Autres sources

L’entreprise améri­caine Palan­tir sus­pec­tée de créer une base de don­nées géante sur les citoyens (Le Monde, 08/2025)

JOP2030, retour de la VSA et de la recon­nais­sance faciale (HACN, 06/2025)

Le Con­seil Con­sti­tu­tion­nel cen­sure la pro­lon­ga­tion de la VSA (HACN, 05/2025)

Les don­nées per­son­nelles des Français de plus en plus piratées en ligne (Le Monde, 04/2025)

Un logi­ciel de recon­nais­sance faciale util­isé illé­gale­ment dans des dizaines de cours­es organ­isées en France (Le Monde, 03/2025)

Non à la recon­nais­sance faciale, non à la VSA ! Vic­toire à Moirans… (HACN, 02/2025)

Ate­lier Police / sur­veil­lance numérique (HACN, 10/2024)

JO 2024 : l’ex­ten­sion du domaine de la sur­veil­lance, en France (HACN, 04/2024)

La police nationale utilise la recon­nais­sance faciale de façon illé­gale depuis 2015 ! (HACN, 04/2024)

Par ces fichiers, l’E­tat organ­ise son con­trôle et sa dom­i­na­tion sur la pop­u­la­tion (HACN, 10/2022)