Le réseau Investigate Europe (qui regroupe des journalistes de différents pays européens pour des enquêtes au long court) s'intéresse au déploiement de la reconnaissance faciale pour surveiller les écoliers brésiliens (voir extraits ci-dessous).
Les entreprises qui développent cette technologie sont européennes, mais elles ne sont pas, pour le moment, exploitées en Europe du fait d'une réglementation jugée trop protectrice (RGPD, réglement IA...). Mais ça pourrait changer puisque, justement, l'UE a la volonté d'alléger sa règlementation dans le cadre du "Digital Omnibus" (voir sur le site de l'EDRi, European Digital Rights) !
Investigate Europe analyse comment les logiciels biométriques européens se sont implantés dans le secteur éducatif brésilien, avec des conséquences potentielles bien au-delà des salles de classe.
Au Colégio Estadual Professor Loureiro Fernandes, un lycée public de l'État du Paraná, dans le sud du Brésil, un cours commence comme tous les autres. Le professeur ouvre une application sur son téléphone, le lève et prend plusieurs photos de la salle. En quelques secondes, les images sont envoyées à un serveur cloud, où un algorithme de reconnaissance faciale détecte le visage de chaque élève, l'extrait et le compare à une base de données de profils biométriques. L'application LRCO Paraná renvoie une liste de noms. Les élèves identifiés sur les photos sont marqués comme présents ; ceux que le système ne trouve pas sont marqués comme absents.
Ce logiciel de reconnaissance faciale a été conçu pour identifier près d'un million d'enfants par jour dans l'État du Paraná . Depuis 2023, cette technologie est déployée dans plus de 1 700 écoles du Paraná, remplaçant l'appel traditionnel par un système d'identification automatisé instantané.
Pour certains élèves, une absence injustifiée est une source d'irritation administrative. Pour d'autres, elle peut compromettre l'accès de leur famille aux aides sociales. Au Brésil, l'éligibilité au programme Bolsa Família dépend en partie de la fréquentation scolaire, et dans l'État du Paraná, ces données sont désormais largement générées par un algorithme.
La technologie de reconnaissance faciale qui rend cela possible a été développée en Europe par une entreprise slovaque du nom d'Innovatrics . Bien qu'elle ne soit pas interdite dans l'Union européenne, son utilisation dans les écoles a été bloquée à plusieurs reprises par les tribunaux et les autorités, qui ont statué que les enfants ne peuvent donner un consentement éclairé à la surveillance biométrique en classe au regard du RGPD. Au Brésil, en revanche, où l'autorité de protection des données n'a commencé à sanctionner des entreprises qu'en 2023 et n'a prononcé qu'une poignée d'amendes à ce jour, des logiciels similaires peuvent désormais scanner des centaines de milliers d'enfants chaque jour.
En avril 2025, le procureur de l'État du Paraná, Marcos José Porto Soares, a déposé une première contestation judiciaire, arguant que le système enfreint la loi brésilienne. L'affaire est toujours en cours. Entre-temps, cette technologie se répand dans d'autres États brésiliens, comme Rio de Janeiro et São Paulo, et même vers l'Europe.
Répulsion en Europe
En août 2019, l'Autorité suédoise de protection des données a infligé une amende au conseil scolaire de Skellefteå , une petite ville du nord de la Suède. Un lycée local avait expérimenté un système de contrôle des présences utilisant un logiciel de reconnaissance faciale, développé par une entreprise informatique finlandaise, pour enregistrer 22 élèves pendant trois semaines.
L'autorité suédoise a jugé que l'expérimentation enfreignait le RGPD. "Le contrôle de présence peut être effectué par d'autres moyens moins intrusifs pour l'intégrité des élèves". L'autorité a souligné que les élèves ne peuvent consentir librement à l'utilisation de technologies de surveillance en classe.
Quelques mois plus tard, en février 2020, un tribunal administratif de Marseille est parvenu à une conclusion similaire et a suspendu deux projets pilotes qui prévoyaient l'installation de systèmes de contrôle d'accès par reconnaissance faciale dans des lycées de Nice et de Marseille.
Les juges ont invalidé l'expérimentation parce qu'ils ont constaté que le gouvernement régional n'avait pas la compétence légale pour mettre en œuvre un tel système. Le consentement obtenu des élèves était invalide, compte tenu du déséquilibre de pouvoir inhérent entre les établissements scolaires et les mineurs. Le gouvernement n'avait pas démontré que la reconnaissance faciale était nécessaire ni qu'elle servait un intérêt public substantiel. Enfin, le système biométrique était manifestement disproportionné, étant donné que des alternatives moins intrusives, comme le contrôle d'accès par badge, étaient facilement disponibles.
Depuis, l'Union européenne a pris des mesures pour réglementer l'utilisation de la reconnaissance faciale et des technologies connexes, avec l'adoption du règlement sur l'intelligence artificielle en 2024. Bien que non formellement interdite, l'utilisation de tels systèmes dans les établissements scolaires est strictement encadrée, même si les outils de suivi des présences ne sont pas explicitement considérés comme à haut risque. La législation ne prévoit pas de contrôle des exportations de ces technologies hors des frontières européennes.
"Le contrôle de la présence peut être effectué par d'autres moyens qui portent moins atteinte à l'intégrité des étudiants." — Autorité suédoise de protection des données
Un chemin différent au Brésil
Le Paraná est le cinquième État le plus peuplé du Brésil, avec près de 12 millions d'habitants répartis entre plaines agricoles, villes industrielles et la capitale tentaculaire de Curitiba. Son système d'enseignement public scolarise plus d'un million d'élèves. En 2019, Renato Feder a pris la direction du département de l'Éducation de l'État . Entrepreneur du secteur technologique, Feder est arrivé avec une vision clairement définie, qu'il avait exposée des années auparavant dans son livre "Carregando o Elefante" ["Porter l'éléphant", une version brésilienne du "dégraisser le mamouth" du ministre français Claude Allègre ?]. Le système éducatif brésilien, écrivait-il, était paralysé par "une mauvaise gestion et un gaspillage incroyable dans des projets insensés, l'inefficacité, un personnel administratif pléthorique et la corruption".
Feder s'était forgé une réputation de dirigeant réformateur, ayant contribué à transformer la petite entreprise d'électronique Multilaser en l'une des plus grandes sociétés informatiques du Brésil. Dans le domaine de l'éducation, il a cherché à appliquer une logique similaire : standardisation, mesurabilité et utilisation généralisée des outils numériques. "La technologie est là pour durer, pour enrichir les contenus enseignés en classe", a déclaré Feder après sa prise de fonctions . Sous sa direction, le système éducatif du Paraná a été entièrement numérisé.
Entre 2021 et 2024, l'État du Paraná a dépensé plus de 153 millions de réaux (25 millions d'€) en plateformes éducatives privées, selon une étude menée par des chercheurs de l'Université fédérale du Paraná. Google Classroom est devenu l'environnement d'apprentissage numérique de l'État. La société suisse EF Education First a dispensé des cours d'anglais via la plateforme Inglês Paraná. L'entreprise australienne Matific a développé une plateforme de mathématiques. Enfin, la société américaine Quizizz, désormais appelée Wayground, a fourni un outil d'apprentissage par quiz.
Le ministère de l'Éducation ne s'est pas contenté de numériser les plans de cours et les devoirs. Il a également entrepris de numériser un élément plus fondamental : déterminer quels élèves étaient présents en classe et lesquels étaient absents. La justification invoquée n'était ni une crise du décrochage scolaire ni un taux d'absentéisme alarmant, mais un souci d'efficacité administrative. Citant une étude de l'OCDE montrant que les enseignants brésiliens consacraient un tiers de chaque cours à des tâches non pédagogiques, l'État a fait valoir que l'automatisation du suivi des présences permettrait de récupérer le temps d'enseignement perdu.
En septembre 2022, Celepar, la société informatique publique de l'État du Paraná, a signé un contrat avec la société brésilienne Valid pour une "solution technologique d'identification des personnes", selon les documents. L'accord portait sur la "reconnaissance biométrique faciale par analyse d'images", ainsi que sur le traitement des données dans le cloud et un support technique continu. Concrètement, ce contrat a marqué un tournant : la présence des élèves en classe ne dépendrait plus uniquement du jugement de l'enseignant, mais de l'évaluation d'un algorithme.
L'ampleur du projet était considérable. Chaque mois, le système devait traiter les données biométriques de près d'un million d'enfants dans une infrastructure cloud. Les images sont stockées sur des serveurs gouvernementaux pendant un an. Pour fournir ce service, Valid s'est associé à Innovatrics, une entreprise slovaque spécialisée dans la reconnaissance faciale, dont le logiciel constitue le cœur du système d'identification. Dans une étude de cas publiée sur son site web, Innovatrics affirme que sa solution permettrait de gagner 80 % de temps sur l'appel par classe. Et selon l'entreprise, la solution présente un autre avantage : "Les parents peuvent vérifier instantanément la présence de leur enfant."
L'entreprise à l'origine de la technologie
Depuis son siège social à Bratislava, Innovatrics a bâti une entreprise internationale spécialisée dans l'identification biométrique, réalisant un chiffre d'affaires annuel de plus de 23 millions d'euros. Depuis 2004, la société développe des logiciels permettant aux gouvernements et aux entreprises d'identifier les individus à partir d'images faciales, d'empreintes digitales ou de scans de l'iris. Ses produits sont utilisés dans les programmes d'identification nationale, les projets d'inscription des électeurs et les systèmes de contrôle aux frontières à travers le monde. Selon l'entreprise, sa technologie a traité les données biométriques de plus d'un milliard de personnes dans plus de 80 pays.
Innovatrics a également bénéficié du soutien de l'Union européenne. Entre 2018 et 2019, la société a reçu près de 200 000 € de financement public dans le cadre d'un projet de recherche de l'UE axé sur l'analyse, la classification et le tri automatisés de photographies à l'aide de la biométrie faciale.
Caitlin Bishop, qui coordonne les travaux sur les technologies de surveillance au sein de l'ONG Privacy International, a examiné de près le déploiement de cette technologie dans l'État du Paraná.
La législation brésilienne n'est pas si différente de la législation européenne, a déclaré Bishop. "Mais il y a une absence de contrôle efficace qui permet le déploiement de cette technologie dans les salles de classe". Par ailleurs, l'absence de tout contrôle des exportations dans la loi sur l'IA ou dans d'autres réglementations de l'UE a créé une situation préoccupante, selon Bishop, qui permet à des entreprises européennes de commercialiser à l'international ce qu'elle qualifie de "technologie profondément intrusive".
Lors des négociations de la loi sur l'IA à Bruxelles, le Parlement européen a plaidé pour une interdiction de telles activités. Sa position officielle stipulait qu'"il convient d'interdire l'exportation" des systèmes dont l'utilisation est jugée "inacceptable" au regard de la loi sur l'IA. Toutefois, cette proposition n'a recueilli que peu de soutien auprès des autres institutions de l'UE [quand un texte est voté par le Parlement, il fait l'objet d'une négociation en "trilogue" avec la Commission Européenne et le Conseil, représentant les États] et a été exclue du texte final. "L'absence de telles mesures signifie que des technologies interdites ici pourraient être vendues et déployées ailleurs, portant atteinte à nos valeurs", a déclaré Brando Benifei, eurodéputé social-démocrate italien partisan de l'interdiction. "Nous ne devrions pas autoriser l'exportation et l'utilisation à l'étranger de systèmes que nous n'autoriserions pas chez nous."
Est-ce que ça fonctionne vraiment ?
Lors du déploiement du système dans l'État du Paraná, Celepar, entreprise informatique publique, l'a présenté comme efficace, sécurisé et incontestablement bénéfique. Dans un communiqué de presse, l'entreprise a affirmé que les enseignants perdaient "plus de 100 heures par an" et par classe en tâches administratives routinières telles que l'appel. Le nouveau système, selon Celepar, permettrait aux enseignants de gagner des dizaines d'heures.
Des enseignants ont décrit une réalité différente. Selon eux, l'algorithme met souvent plus de temps à enregistrer les présences que la saisie manuelle. Les erreurs d'identification des élèves restent fréquentes.
Ces observations sont corroborées par une étude indépendante publiée en 2025 par des chercheurs de l'Université d'État de São Paulo. Ces derniers ont testé le système dans un établissement scolaire public du Paraná et ont constaté une précision moyenne de 91,1 %, inférieure au seuil de 95 % fixé par le contrat d'acquisition du gouvernement. Le contrôle de présence, censé durer 30 secondes, prenait en réalité en moyenne deux minutes. La connexion internet, le positionnement des élèves et la qualité de la caméra ont tous influencé les performances.
"Au début, les enseignants sont tenus d'utiliser le système d'appel par reconnaissance faciale. Mais au bout d'un certain temps, les bureaucrates cessent de nous le demander." — Vandré Alexandre, enseignant et dirigeant syndical du Paraná
Une enquête menée par APP-Sindicato , l'un des syndicats d'enseignants les plus influents du Paraná, a révélé que huit enseignants sur dix considéraient le système de reconnaissance faciale comme moins efficace que le contrôle des présences classique. Ce syndicat représente plus de 65 000 enseignants.
Dans les établissements scolaires, l'utilisation du système est devenue inégale. "Chaque année, en début d'année scolaire, le Secrétariat à l'Éducation nationale nous demande d'inscrire les élèves dans la base de données", explique Vandré Alexandre, enseignant et responsable syndical. "Au début, les enseignants sont tenus d'utiliser l'appel par reconnaissance faciale. Mais au bout d'un moment, les bureaucrates cessent de nous le demander."
Le risque pour le bien-être
Les erreurs du système prennent une importance différente lorsqu'on les considère au regard de l'architecture de protection sociale brésilienne.
Dans le cadre du programme Bolsa Família, les familles doivent remplir certaines conditions pour continuer à bénéficier des transferts monétaires, notamment veiller à ce que leurs enfants fréquentent l'école régulièrement. Les élèves de plus de six ans doivent être présents à au moins trois quarts de leurs cours.
Le taux de précision de 91,1 % du système, documenté dans l'étude de l'Université d'État de São Paulo, peut paraître élevé. Cependant, dans un État où plus d'un million d'enfants peuvent être scannés quotidiennement, même une petite marge d'erreur pourrait affecter des dizaines de milliers de dossiers.
Dans un cas précis, un élève de cinquième avec seulement trois absences a été exclu des registres de présence officiels jusqu'à ce que les données fédérales de l'éducation soient compilées. "Ils ont noté que cet élève était absent, alors qu'il était dans ma classe".
Caitlin Bishop, de Privacy International, a déclaré que la simple possibilité d'un tel lien entre absence constatée et suspension des allocations soulève de sérieuses inquiétudes.
Le secrétariat à l'Éducation de l'État du Paraná a précisé que l'utilisation du système de reconnaissance faciale est facultative pour les enseignants, qui vérifient manuellement la liste des élèves présents et peuvent corriger les erreurs d'identification du système. Les élèves peuvent également refuser l'utilisation du système "sans préjudice" sur demande. Le secrétariat a ajouté que les dysfonctionnements techniques n'entraînent pas automatiquement l'absence de l'élève et n'ont aucune incidence directe sur son éligibilité aux aides sociales.
Un défi juridique
Ces préoccupations ont finalement été portées devant les tribunaux. En avril 2025, le parquet de l'État du Paraná a intenté une action civile contre le gouvernement de l'État, Celepar et le prestataire Valid, pour violation de la loi générale brésilienne sur la protection des données personnelles. Marcos José Porto Soares, procureur en charge du dossier, a déclaré que c'était la première fois que son parquet engageait des poursuites contre le gouvernement de l'État pour des infractions présumées à la loi sur la protection des données. Parmi les points litigieux figurait la question du consentement : une version antérieure du formulaire d'inscription scolaire ne permettait pas aux parents de refuser l'utilisation des images de leurs enfants pour le programme de reconnaissance faciale.
En mai 2025, un juge a rejeté la demande du procureur visant à suspendre immédiatement le système. Le tribunal n'a trouvé aucune preuve concrète de préjudice imminent, et estimait que l'arrêt du système pourrait nécessiter l'adoption rapide d'un autre mode de contrôle des présences, avec des conséquences potentielles sur les dépenses publiques.
En septembre, le parquet a formellement contesté ce raisonnement, arguant que cette politique ne repose sur aucun fondement juridique clair, ni dans la loi ni dans la réglementation. L'affaire est toujours en cours.
Concernant la procédure engagée par le procureur, Celepar a déclaré : "La société maintient que toutes ses activités de traitement de données sont menées dans le strict respect du Règlement général sur la protection des données (RGPD). Celepar collabore activement avec le MPPR afin de démontrer les protocoles de sécurité, le chiffrement des données et les justifications d’intérêt public qui sous-tendent le projet."
"Celepar reste attaché à la modernisation de l’éducation publique de l’État par la transformation numérique." — Un porte-parole de Celeper
Système de propagation
Malgré les plaintes croissantes des enseignants et l'ouverture de poursuites judiciaires, l'État du Paraná continue d'utiliser la technologie de reconnaissance faciale dans ses salles de classe. Début septembre de l'année dernière, il a prolongé son contrat d'un an , jusqu'en septembre 2026.
Alors même que la procédure judiciaire suit son cours, Innovatrics a continué de commercialiser sa technologie de surveillance scolaire ailleurs. À l'été 2023, un représentant de l'entreprise a rencontré des responsables du ministère chilien de l'Éducation. Mais un représentant de NutreChile, une entreprise impliquée dans le projet pilote proposé, a déclaré que celui-ci n'avait jamais abouti, sans fournir davantage d'explications.
Au Brésil, le modèle s'est répandu. Selon l'organisme de recherche InternetLab , sept des 27 États du pays utilisent désormais la technologie de reconnaissance faciale dans les écoles, et d'autres envisagent des systèmes similaires.
De manière moins visible, cette technologie a également commencé à circuler dans l'autre sens, vers l'Europe. En 2024, le gouvernement du Paraná a annoncé l'exportation de son système de reconnaissance faciale vers le Portugal. Le logiciel a été testé pendant trois mois à l'United Lisbon International School, un établissement privé accueillant des élèves d'une cinquantaine de pays. Suite aux questions posées par Investigate Europe, l'autorité portugaise de protection des données a annoncé l'ouverture d'une enquête officielle.
Celepar a confirmé qu'aucun contrat permanent n'avait été signé au Portugal – du moins pour l'instant.
Ce projet d'investigation a été mené par l'équipe journalistique Investigate Europe, en partenariat avec le Réseau de responsabilité en matière d'IA du Pulitzer Center. . Il est publié dans le monde entier par les médias Tech Policy Press (États-Unis), Nucleo (Brésil), Público (Portugal), EUobserver (Belgique) et Dennik N (Slovaquie).