Safe city, une dynamique à enrayer

Smart city, safe city… ces ter­mes ont envahi la com­mu­ni­ca­tion de la munic­i­pal­ité. L’objectif de faire de Saint-Éti­enne une smart/safe city (soit une ville dev­enue « intel­li­gente » ou « sûre » grâce à la col­lecte et au traite­ment de don­nées publiques et privées par des out­ils numériques) est en effet au cours du dernier man­dat devenu une pri­or­ité de l’équipe de Gaël Per­dri­au. Deux ren­con­tres organ­isées à Saint-Éti­enne en jan­vi­er et févri­er 2020 par le col­lec­tif Halte au con­trôle numérique avec Félix Tréguer, mem­bre fon­da­teur de la Quad­ra­ture du Net et de Tech­nop­o­lice et Alex­is Fitz­jean, avo­cat de la Quad­ra­ture du Net, ont apporté des éclairages sur ce que recou­vrent ces pro­jets ain­si que sur les manières d’y résis­ter.

Au croisement des politiques urbaines et des politiques sécuritaires

La smart city et sa ver­sion sécu­ri­taire la safe city se situent au croise­ment des poli­tiques urbaines et des poli­tiques sécu­ri­taires. L’aménagement de la ville à des fins de con­trôle social n’est pas en soi une pra­tique nou­velle, ce souci inspi­rant par exem­ple la trans­for­ma­tion urban­is­tique de Paris ini­tiée par Hauss­man à la fin du dix-neu­vième siè­cle. On retrou­ve aus­si l’idée de recourir à un traite­ment infor­ma­tisé des don­nées pour aigu­iller la prise de déci­sion et la mise en place des poli­tiques publiques à par­tir de la fin des années 1970, au Chili ou ailleurs. Les algo­rithmes sur lesquels repose aujourd’hui ce traite­ment ne pro­posent donc en soi rien de nou­veau, seule­ment la puis­sance de cal­cul mobil­is­able per­met de le déploy­er à une toute autre échelle.

La dynamique actuelle remonte à la fin des années 2000, lorsque de gross­es entre­pris­es infor­ma­tiques telles que IBM et Cis­co, à l’affût de nou­velles sources de prof­it, ciblent les marchés publics liés aux col­lec­tiv­ités ter­ri­to­ri­ales. Les activ­ités visées, por­tant sur l’équipement d’aménagements urbains ou sur la ges­tion de la four­ni­ture en énergie ou en eau, sont cepen­dant con­trôlées par des con­glomérats comme Suez ou Veo­lia via la ges­tion de délé­ga­tions de ser­vices publics. Plutôt que leur livr­er con­cur­rence, les entre­pris­es infor­ma­tiques vont par con­séquent s’appliquer à bâtir des alliances en appor­tant leur maîtrise du numérique.

La multiplication des projets de safe city

Si ini­tiale­ment il est ques­tion de dévelop­per une smart city, la final­ité sécu­ri­taire s’impose rapi­de­ment à tra­vers la pro­mo­tion d’une safe city. Les pro­jets ont longtemps sem­blé être pour l’essentiel can­ton­nés aux États-Unis, avec la police pré­dic­tive [1], ou à la Chine, qui expéri­mente actuelle­ment la recon­nais­sance faciale cou­plée à la vidéo­sur­veil­lance à grande échelle. Toute­fois, en novem­bre 2017, un com­mu­niqué de presse con­joint de la mairie de Mar­seille et de la société Engie annonce le lance­ment d’un « lab­o­ra­toire d’analyse de big data pour la tran­quil­lité publique ». La créa­tion de ce lab­o­ra­toire, en réal­ité en germe depuis 2014, pré­fig­ure une pro­liféra­tion de pro­jets sur le ter­ri­toire français [2].

Les pro­jets s’articulent autour soit de l’analyse des big data soit d’un traite­ment automa­tisé de flux de don­nées issues en par­ti­c­uli­er de la vidéo-sur­veil­lance.

La mise en com­mun, à Mar­seille, des don­nées en prove­nance des hôpi­taux, de la police munic­i­pale, du min­istère de l’Intérieur, etc. ou la mise en place de la plate­forme Dig­i­tal Saint-Éti­enne [3] relèvent du pre­mier ensem­ble. Dans le sec­ond fig­ure une série de dis­posi­tifs visant à automa­tis­er le traite­ment des images issues de la vidéo-sur­veil­lance (Valen­ci­enne, Toulouse, Nice, Mar­seille ou Cannes). Le croise­ment de ces don­nées avec celles issues des fichiers TAJ (le fichi­er de traite­ment des antécé­dents judi­ci­aires) et TES (qui rassem­ble les don­nées rel­a­tives aux passe­ports et à l’immigration), de l’application Alicem [4], de la carte d’identité bio­métrique, etc. per­me­t­trait de mas­si­fi­er la recon­nais­sance faciale – comme cela est déjà pra­tiqué avec les plaques numérologiques. Le pro­jet Serenic­i­ty à Saint-Éti­enne en était une décli­nai­son sonore, à par­tir de cap­ta­tions par des micros [5]. Cer­tains pro­jets affichent égale­ment l’ambition de prédire les com­porte­ments, à par­tir de la démarche ou de la voix.

Un business alléchant

L’argumentaire mobil­isé à l’appui du développe­ment de la safe city porte en pre­mier lieu sur la sécu­rité : le recours à ces tech­nolo­gies per­me­t­trait d’accroître la tran­quil­lité publique en assur­ant une sur­veil­lance plus effi­cace de l’espace pub­lic. La per­spec­tive de l’organisation des jeux olympiques en 2024 est notam­ment invo­quée par des respon­s­ables de ser­vices de sécu­rité tels que la Direc­tion générale de la sécu­rité intérieure pour réclamer la général­i­sa­tion de ces dis­posi­tifs.

Alors que la dynamique de con­cen­tra­tion à l’œuvre dans le secteur a abouti à la con­sti­tu­tion de deux mastodontes com­posés à majorité de cap­i­taux français, le gou­verne­ment y voit un secteur économique à pro­mou­voir.

Il s’agit aus­si d’un activ­ité économique qui promet des marges de prof­it con­sid­érables : le marché de la vidéo-sur­veil­lance en France s’élève à un mon­tant d’un à deux mil­liards par an ; celui de la smart city était estimé en 2018 à 71,3 mil­liards de dol­lars à l’échelle mon­di­ale. Et des finance­ments par des fonds publics, en prove­nance de l’État français (par la Banque publique d’investissement) comme de l’UE, assurent d’ores et déjà sa rentabil­ité. Alors que la dynamique de con­cen­tra­tion à l’œuvre dans le secteur a abouti à la con­sti­tu­tion de deux mastodontes com­posés à majorité de cap­i­taux français (Engie Ineo et Thalès), le gou­verne­ment y voit un secteur à pro­mou­voir. Aus­si, le développe­ment de ces expéri­men­ta­tions devrait-il être, selon le secré­taire d’État au numérique Cédric O, assuré « pour que nos indus­triels pro­gressent » [6].

Le recours à l’algorithmie pré­dic­tive à par­tir des big data ren­force les dis­crim­i­na­tions.

Des dispositifs liberticides

Pour­tant, les prob­lèmes posés sont nom­breux et d’envergure. D’une part, le recours à l’algorithmie pré­dic­tive à par­tir des big data ren­force les dis­crim­i­na­tions. Celle-ci reposant sur des bases de don­nées ali­men­tées par des cas préal­able­ment col­lec­tés, elle ne peut que repro­duire les ten­dances antérieures. Aus­si, le fait d’avoir relevé par le passé des taux d’infraction plus élevés dans un quarti­er don­né aura-t-il pour impli­ca­tion qu’un algo­rithme con­cluera mécanique­ment à con­cen­tr­er la sur­veil­lance sur ce quarti­er, quelle que soit la crim­i­nal­ité effec­tive. De même, les expéri­men­ta­tions de juge­ment automa­tisé aux États-Unis ont pour effet de repro­duire les biais antérieurs, tout par­ti­c­ulière­ment en ter­mes de taux dis­pro­por­tion­né de con­damna­tion des Afro-améri­cains.

D’autre part, la mas­si­fi­ca­tion d’une sur­veil­lance automa­tisée notam­ment par la vidéo assure une véri­fi­ca­tion d’identité per­ma­nente et général­isée. Out­re le fait qu’elle met à dis­po­si­tion des moyens sans précé­dent pour instau­r­er un con­trôle total (même si la mise en œuvre est sou­vent plus chao­tique et donc moins effi­cace qu’escomptée par les con­cep­teurs), elle génère une ten­dance, large­ment incon­sciente, à l’auto-contrôle et à la nor­mal­i­sa­tion des com­porte­ments. Qu’il s’agisse de sa démarche et de son com­porte­ment dans l’espace pub­lic que l’on cor­rig­era pour les align­er sur des pra­tiques jugées con­formes à la norme, de recherch­es en ligne que l’on s’abstiendra de faire par crainte d’être repéré·e comme représen­tant une men­ace pour l’ordre pub­lic, de pro­pos que l’on ne pronon­cerait pas par souci d’éviter d’être perçu·e comme déviant·e, etc.

Comment résister ?

Sans se sub­stituer aux actions menées dans l’espace pub­lic, la Quad­ra­ture du Net et Tech­nop­o­lice dévelop­pent dif­férentes activ­ités pour frein­er et con­tre­car­rer l’essor de ces pro­jets. Elles recensent ces derniers et pub­lient les doc­u­ments les con­cer­nant, en les obtenant par la sai­sine de la Com­mis­sion d’accès aux doc­u­ments admin­is­trat­ifs ou grâce à leur trans­mis­sion par des lanceurs d’alerte sur un espace sécurisé mis à dis­po­si­tion (cf. technopolice.fr/securedrop sur le site http://3hvdw2twgf3l47os.onion/ acces­si­ble par Tor). Ce tra­vail est ensuite acces­si­ble à tou·te·s via notam­ment une base de don­nées (data.technopolice.fr) et un forum d’échange en ligne (forum.technopolice.fr).

La Quad­ra­ture du Net recourt par ailleurs au levi­er juridique. Elle a ain­si con­testé devant le Tri­bunal admin­is­tratif le pro­jet d’installation de por­tails avec recon­nais­sance faciale dans les lycées de la région Provence-Alpes-Côte‑d’Azur. Acculée, la Région a dès lors inter­rogé la Com­mis­sion nationale de l’informatique et des lib­ertés (CNIL), qui a pointé le car­ac­tère dis­pro­por­tion­né du dis­posi­tif : le con­trôle de l’accès peut être réal­isé par d’autres moyens, moins intrusifs, et qui doivent donc être priv­ilégiés, a for­tiori lorsqu’il s’agit de mineurs. Infor­mée du pro­jet d’installation de micros dans le quarti­er Tarentaize-Beaubrun, la Quad­ra­ture a alerté la CNIL, obtenant un rap­pel du cadre légal qui, en l’état, n’autorise pas ce type d’expérimentation.

HalteauControleNumerique[at]protonmail.com

Notes

[1] Il s’agit, sur le fonde­ment de cal­culs algo­rith­miques, de « prévoir » un délit (vol, traf­ic de stupé­fi­ants, agres­sion, etc.) afin de pou­voir dépêch­er des forces de l’ordre capa­bles d’intervenir aus­sitôt voire de l’empêcher.

[2] Voir le tra­vail de recense­ment fait par le col­lec­tif Tech­nop­o­lice vis­i­ble sous : https://frama.link/techonopolice-graph.

[3] Cf. « Dig­i­tal Saint-Éti­enne vio­le votre vie privée à votre insu ! », 6/11/2019.

[4] Cette appli­ca­tion à des­ti­na­tion des télé­phones intel­li­gents est conçue pour s’authentifier sur les ser­vices publics en ligne à par­tir d’une recon­nais­sance faciale. Il est prévu d’y stock­er un ensem­ble de don­nées per­son­nelles (nom, prénom, date et lieu de nais­sance, nation­al­ité, sexe, etc.).

[5] Cf. « Les grandes oreilles de Per­dri­au et Ver­ney-Car­ron ne seront pas instal­lées ». Voir égale­ment les arti­cles pub­liés dans le Couac, n°7.

[6] Le Monde, 14/10/2019.