Gare au retour de Serenicity

Fin octobre 2019, la mairie annonce qu’elle « ne mènera pas l’expérimentation des capteurs sonores envisagée au printemps dernier » dans les rues des quartiers Tarentaize-Beaubrun. Une victoire dont on s’est bien sûr félicités. Pourtant, le projet n’est pas arrêté. Cette mise en sommeil résulte de l’absence de cadre législatif le permettant. Or le gouvernement planche sur un projet de loi en la matière et les espoirs que la Commission européenne mettraient le holà aux expérimentations de reconnaissance faciale et autres ont été douchés la semaine dernière [1]. Il est donc plus qu’important de rester vigilant.e.s sur cette question… Retour sur le projet initial de Serenicity avec un article de Couac paru à l’automne 2019.

Stockage des données du quartier, puis de la ville ?

Une plateforme numérique de la Ville et de la Métropole, Digital Saint-Étienne élaborée par Suez, collecterait aussi les données de Serenicity. Cette plateforme fusionne déjà les données collectées par la ville, la métropole, divers délégataires de services publics et des données issues des réseaux sociaux pour ce quartier test de Tarentaize-Beaubrun. Elle stocke des données liées aux consommations énergétiques publiques, etc. mais aussi celles issues des vidéos. Celles collectées par Serenicity alimenteraient entre autres la plateforme « en vue de la visualisation sur carte … pour constituer un outil d’aide à la décision concernant la tranquillité urbaine. »

C’est la privatisation d’activités municipales au profit d’entreprises payées très cher par l’impôt. Par ailleurs, le rapprochement des données personnelles des habitants, notamment celles issues de gestionnaires divers liés à la ville ou à la métropole (offices d’HLM, compteurs électriques Linky installés par Enedis…), des réseaux sociaux conduisent à un dispositif de surveillance très inquisiteur pour le compte des élus locaux, de l’État et de ses services et, suite à la revente des données, de beaucoup d’entreprises. Ce sont d’ailleurs ces dangers que veut dénoncer la plateforme nationale lancée en septembre par La Quadrature Du Net [2] : Technopolice [3]. Elle permet de documenter des combats contre les excès de pouvoir de mairies ou de régions qui se lancent dans les smart ou safe cities [4].

Le projet Mon quartier smart, pour Tarentaize-Beaubrun, dont le nom officiel est SOFT (pour Saint-Étienne – Observatoire des Fréquences du Territoire, Serenicity étant le nom de l’entreprise qui le propose) est bien plus large que les seuls micros. Outre leur installation couplée aux caméras de la vidéosurveillance, il prévoit le déploiement de drones automatisés qui décolleraient automatiquement pour rechercher la nature des bruits suspects, le développement d’une application de « vigilance » citoyenne (dénonciation)… Les micros « intelligents » visent à détecter des « anormalités sonores » : klaxons, bris de vitre, coups de feu, cris, bruits de perceuse, perforateurs, choc (masse, objet projeté), coups de sifflet, bombes aérosols (tags, bombe lacrymogène), crépitements (incendie), explosion, accidents, etc. jusqu’au chant des oiseaux cité par un des responsables du fournisseur…

C’est la ville sous-surveillance fantasmée par son maire, Gaël Perdriau

Dans ces quartiers actuellement déshérités, où les équipements collectifs sont soit inexistants soit délabrés et les salles de réunion fermées, sa volonté est de lancer une vaste opération de rénovation urbaine pour attirer une population plus aisée qui permettrait sa réélection future. Le caractère secret et volontairement opaque de leur mise en place est explicite dans les sources qu’a collectées La Quadrature Du Net : « il n’y aura pas de communication avec le grand public. Globalement, dans un premier temps l’objectif est l’expérimentation, puis dans un second temps, une communication adaptée sera mise en place. »

Saint-Étienne n’a cependant pas le monopole de ces « innovations ». Pour les drones, d’autres l’ont précédé, notamment Istres pour laquelle Thierry Vallat, avocat, relève que leur déploiement, au départ prévu pour la surveillance des massifs forestiers (à la suite de nombreux feux), s’est en fait cantonné à 77% au survol des manifestations (des Gilets Jaunes notamment). À la Butte aux Cailles à Paris, c’est l’objectif de calmer les tensions entre les commerçants et les riverains qui a justifié l’installation de méduses (gerbes de 4 micros, couplées à des appareils photo à 360°), qui ont une visée « pédagogique » en direction des consommateurs dont les visages seraient floutés…

Jusque-là, les promoteurs de l’utilisation de ces outils de surveillance prétextaient qu’il y avait un « vide juridique » : d’après un responsable de Serenicity, « à partir du moment où on n’enregistre rien et que l’émetteur du son ne peut être identifié, on peut faire ce que l’on veut » ! C’était partiellement vrai car les règles étaient disparates mais, depuis septembre, plusieurs textes permettent d’y voir plus clair : règlement des drones à usage professionnels (par la DGAC [5] dont l’avis sur le projet stéphanois en a stoppé provisoirement le déploiement) ; guides de la CNIL Sur l’usage des données personnelles par les collectivités territoriales [6] et sur l‘intervention des sous-traitants [7] ; dossier sur les assistants vocaux (par le LIN-CNIL [8], étude juridique sur l’usage de la voix dans les systèmes numériques).

La reconnaissance de la voix, vrai danger pour nos libertés

L’affirmation des responsables du projet de bloquer l’enregistrement des voix est une arnaque car personne ne contrôlera le traitement effectué sur les sons collectés. Or, J.F. Bonastre, professeur au Laboratoire d’Informatique d’Avignon, spécifie que la voix est un moyen d’identification des personnes dès le traitement de quelques secondes d’une même voix, « avec un ou deux % d’erreurs ». « La voix porte beaucoup d’informations sur l’individu comme son âge, son sexe, ses origines, son éducation, ses ressentis, son état physique ou psychique et peut-être même ses intentions… » Plusieurs laboratoires se sont lancés dans la recherche de signes sur la consommation d’alcool ou de stupéfiant, sur la détection des émotions ou des attitudes émotives, l’évaluation de la sincérité…

Dans son analyse juridique, la CNIL rattache cet usage de la voix aux droits à la vie privée et à la protection des données personnelles, ainsi qu’au droit à l’image d’une personne physique (qui inclut le droit à sa voix). Le type de traitement appliqué à la voix est pour elle un traitement de données biométriques qui fait l’objet d’une protection des données sensibles concernant l’origine raciale ou ethnique, les opinions politiques, les convictions religieuses ou philosophiques, l’appartenance syndicale ou encore les données relatives à la santé ou à la vie sexuelle. Il y a donc une panoplie juridique classique qui peut être rattachée à la voix et permettre la sanction pénale des usages frauduleux.

Le contrôle social par la technologie ne passera pas !

Un avocat de La Quadrature du Net a déposé un recours devant le Tribunal administratif dans la région Sud (ex-PACA), avec la LDH, la FCPE et CGT Educ’action, contre l’expérimentation de portiques biométriques dans deux lycées à Marseille et à Nice. Si le jugement sur le fond n’a pas encore été prononcé, l’action a déjà forcé le président de la Région – qui finance le projet – Renaud Muselier a annoncé son report avant le jugement. C’est dans cette démarche que nous nous engageons [9], avec plusieurs associations et collectifs stéphanois. Nous visons d’abord l’interpellation de la CNIL, puis le lancement de nouvelles actions, dans les rues et éventuellement devant un tribunal.

L’expertise gagnée dans ce combat sera utile face aux autres tentatives de projets smart ou safe cities prévues, ainsi qu’en direction des GAFA et entreprises diverses qui utilisent notre voix dans des applications type Alexa (Amazon), Siri (Apple), Aloha Messenger (Facebook), Google Assistant, Cortana (Microsoft)…

Notes

[1] Cf. le livre blanc sur l’intelligence artificielle présenté le 19 février dernier.

[2] La Quadrature Du Net : association fondée en 2008 pour résister au contrôle d’Internet qui va à l’encontre des libertés publiques. Elle lutte contre la censure et la surveillance par les États ou les entreprises privées. Elle œuvre pour un Internet libre, décentralisé et émancipateur.

[3] Technopolice : plateforme crée par La Quadrature Du Net pour documenter les projets locaux liés aux smart et safe cities, avec un site https://technopolice.fr/, un forum https://forum.technopolice.fr/, une base de données des documents administratifs collectés https://data.technopolice.fr/.

[4] Smart ou safe cities : smart city, désigne une ville dite « intelligente »utilisant les technologies de l’information et de la communication pour « améliorer » la qualité des services urbains et réduire ses coûts ; safe city en est une déclinaison plus limitée, centrée sur les questions de sécurité.

[5] Direction générale de l’aviation civile, qui dépend actuellement du ministère de la transition écologique et solidaire (!). Règlement de septembre 2019. Disponible sous : https://www.ecologique-solidaire.gouv.fr/drones-usages-professionnels.

[6] Guide CNIL de sensibilisation au RGPD pour les collectivités territoriales (septembre 2019), disponible sous : https://www.cnil.fr/sites/default/files/atoms/files/cnil-guide-collectivite-territoriale.pdf.

[7] Travailler avec un sous-traitant (septembre 2019), disponible sous : https://www.cnil.fr/fr/travailler-avec-un-sous-traitant.

[8] Laboratoire d’Innovation Numérique de la CNIL (LIN-CNIL). Dossier sur les assistants vocaux disponible sous : https://linc.cnil.fr/fr/dossier-assistants-vocaux.

[9] Le Collectif Halte au contrôle numérique a été constitué en lien notamment avec cette mobilisation. Cf. notamment http://resistance-verte.over-blog.c....