Le règlement européen sur l’IA n’interdira pas la surveillance biométrique de masse

Com­mu­niqué de la coali­tion Reclaim Your Face (traduit par LQDN)

Le 8 décem­bre 2023, les lég­is­la­teurs de l’Union européenne se sont félic­ités d’être par­venus à un accord sur la propo­si­tion de règle­ment tant atten­due rel­a­tive l’intelligence arti­fi­cielle (“règle­ment IA”). Les prin­ci­paux par­lemen­taires avaient alors assuré à leurs col­lègues qu’ils avaient réus­si à inscrire de solides pro­tec­tions aux droits humains dans le texte, notam­ment en exclu­ant la sur­veil­lance bio­métrique de masse (SBM).

Pour­tant, mal­gré les annonces des décideurs européens faites alors, le règle­ment IA n’interdira pas la grande majorité des pra­tiques dan­gereuses liées à la sur­veil­lance bio­métrique de masse. Au con­traire, elle définit, pour la pre­mière fois dans l’UE, des con­di­tions d’utilisation licites de ces sys­tèmes. Les eurodéputés  et les min­istres des États mem­bres de l’UE se pronon­ceront sur l’acceptation de l’accord final au print­emps 2024.

L’UE entre dans l’histoire – pour de mauvaises raisons

La coali­tion Reclaim Your Face sou­tient depuis longtemps que les pra­tiques des SBM sont sujettes aux erreurs et risquées de par leur con­cep­tion, et qu’elles n’ont pas leur place dans une société démoc­ra­tique. La police et les autorités publiques dis­posent déjà d’un grand nom­bre de don­nées sur cha­cun d’entre nous ; elles n’ont pas besoin de pou­voir nous iden­ti­fi­er et nous pro­fil­er en per­ma­nence, en objec­ti­fi­ant nos vis­ages et nos corps sur sim­ple pres­sion d’un bou­ton.

Pour­tant, mal­gré une posi­tion de négo­ci­a­tion forte de la part du Par­lement européen qui demandait l’interdiction de la plu­part des pra­tiques de SBM, très peu de choses avaient survécu aux négo­ci­a­tions du règle­ment relatif à l’IA. Sous la pres­sion des représen­tants des forces de l’ordre, le Par­lement a été con­traint d’accepter des lim­i­ta­tions par­ti­c­ulière­ment faibles autour des pra­tiques intru­sives en matière de SBM.

L’une des rares garanties en la matière ayant apparem­ment survécu aux négo­ci­a­tions – une restric­tion sur l’utilisation de la recon­nais­sance faciale a pos­te­ri­ori [par oppo­si­tion à l’utilisation en temps réel] – a depuis été vidée de sa sub­stance lors de dis­cus­sions ultérieures dites “tech­niques” qui se sont tenues ces dernière sse­maines.

Mal­gré les promess­es des représen­tants espag­nols en charge des négo­ci­a­tions, qui juraient que rien de sub­stantiel ne chang­erait après le 8 décem­bre, cette édul­co­ra­tion des pro­tec­tions con­tre la recon­nais­sance faciale a pos­te­ri­ori  est une nou­velle décep­tion dans notre lutte con­tre la société de sur­veil­lance.

Quel est le contenu de l’accord ?

D’après ce que nous avons pu voir du texte final, le règle­ment IA est une occa­sion man­quée de pro­téger les lib­ertés publiques. Nos droits de par­ticiper à une man­i­fes­ta­tion, d’accéder à des soins de san­té repro­duc­tive ou même de nous asseoir sur un banc pour­raient ain­si être men­acés par une sur­veil­lance bio­métrique omniprésente de l’espace pub­lic. Les restric­tions à l’utilisation de la recon­nais­sance faciale en temps réel et a pos­te­ri­ori prévues par la loi sur l’IA appa­rais­sent min­imes et ne s’appliqueront ni aux entre­pris­es privées ni aux autorités admin­is­tra­tives.

Nous sommes égale­ment déçus de voir qu’en matière de “recon­nais­sance des émo­tions” et les pra­tiques de caté­gori­sa­tion bio­métrique, seuls des cas d’utilisation très lim­ités sont inter­dits dans le texte final, avec d’énormes lacunes.

Cela sig­ni­fie que le règle­ment IA autoris­era de nom­breuses formes de recon­nais­sance des émo­tions – telles que l’utilisation par la police de sys­tèmes d’IA pour éval­uer qui dit ou ne dit pas la vérité – bien que ces sys­tèmes ne reposent sur aucune base sci­en­tifique crédi­ble. Si elle est adop­tée sous cette forme, le règle­ment IA légitimera une pra­tique qui, tout au long de l’histoire, a par­tie liée à l’eugénisme.

Le texte final prévoit égale­ment d’autoris­er la police à class­er les per­son­nes filmées par les caméras de vidéo­sur­veil­lance en fonc­tion de leur couleur de peau. Il est dif­fi­cile de com­pren­dre com­ment cela peut être autorisé étant don­né que la lég­is­la­tion européenne inter­dit nor­male­ment toute dis­crim­i­na­tion. Il sem­ble cepen­dant que, lorsqu’elle est pra­tiquée par une machine, les lég­is­la­teurs con­sid­èrent de telles dis­crim­i­na­tions comme accept­a­bles.

Une seule chose pos­i­tive était ressor­ti des travaux tech­niques menés à la suite des négo­ci­a­tions finales du mois de décem­bre : l’accord entendait lim­iter la recon­nais­sance faciale publique a pos­te­ri­ori aux cas ayant trait à la pour­suite de crimes trans­frontal­iers graves. Bien que la cam­pagne “Reclaim Your Face” ait réclamé des règles encore plus strictes en la matière, cela con­sti­tu­ait un pro­grès sig­ni­fi­catif par rap­port à la sit­u­a­tion actuelle, car­ac­térisée par un recours mas­sif à ces pra­tiques par les États mem­bres de l’UE.

Il s’agissait d’une vic­toire pour le Par­lement européen, dans un con­texte où tant de largess­es sont con­cédées à la sur­veil­lance bio­métrique. Or, les négo­ci­a­tions menées ces derniers jours, sous la pres­sion des gou­verne­ments des États mem­bres, ont con­duit le Par­lement à accepter de sup­primer cette lim­i­ta­tion aux crimes trans­frontal­iers graves tout en affaib­lis­sant les garanties qui sub­sis­tent. Désor­mais, un vague lien avec la “men­ace” d’un crime pour­rait suf­fire à jus­ti­fi­er l’utilisation de la recon­nais­sance faciale rétro­spec­tive dans les espaces publics.

Il sem­blerait que ce soit la France qui ait mené l’offensive visant à faire pass­er au rouleau com­presseur notre droit à être pro­tégés con­tre les abus de nos don­nées bio­métriques. À l’approche des Jeux olympiques et par­a­lympiques qui se tien­dront à Paris cet été, la France s’est battue pour préserv­er ou éten­dre les pou­voirs de l’État afin d’éradiquer notre anony­mat dans les espaces publics et pour utilis­er des sys­tèmes d’intelligence arti­fi­cielle opaques et peu fiables afin de ten­ter de savoir ce que nous pen­sons. Les gou­verne­ments des autres États mem­bres et les prin­ci­paux négo­ci­a­teurs du Par­lement n’ont pas réus­si à la con­tr­er dans cette démarche.

En ver­tu du règle­ment IA, nous serons donc tous coupables par défaut et mis sous sur­veil­lance algo­rith­mique, l’UE ayant accordé un blanc-seing à la sur­veil­lance bio­métrique de masse. Les pays de l’UE auront ain­si carte blanche pour ren­forcer la sur­veil­lance de nos vis­ages et de nos corps, ce qui créera un précé­dent mon­di­al à faire froid dans le dos.