Article de Z sur les algorithmes et la Sécu – Halte au contrôle numérique

La revue Z sort son numéro 17 « Saint-Étienne – Soigner la santé ». Pour son article « Algos à gogo ! Quand la Sécu utilise l’IA pour mieux contrôler ses assuré·es » (voir ci-dessous), elle a notamment rencontré le collectif Halte au contrôle numérique.

Des membres de la revue viennent par ailleurs présenter ce numéro à Saint-Étienne samedi 17 mai (programme complet ici).

à l’Amicale laïque de Tardy

12h : Repas
14h : Présentation du n°17, ateliers, discussion, chasse aux trésors
17h30 : Théâtre « La voix du cœur », par l’association Park’ensemble

la suite dès 20h30 à la Gueule Noire

Peaufine (poésie rage mélancolique pailletée)
Dj ibn elharam (raï, orientale)
Luna Spectra (Latin cor, trap, hybrid club)

Crêpes et tombola

Tout à prix libre

"Algos à gogo ! Quand la Sécu utilise l’IA pour mieux contrôler ses assuré·es"

Depuis les années 2010, la Sécurité sociale a généralisé le recours à des algorithmes de notation pour contrôler ses assuré·es, en toute opacité. L’impulsion politique à la base du développement de ces outils de répression : la perception d’un système social mis en danger par la « fraude » d’assuré·es qui « profiteraient du système ».

Revue Z, Collectif itinérant d'enquête et de critique sociale

Article publié dans le Z n°17 : Saint-Étienne - Soigner la santé, à paraître le 23 mai en librairie et déjà commandable en ligne : https://ladernierelettre.fr/produit/revue-z-n17-saint-etienne/

Z a besoin de vous et lance un appel à soutien (merci!) : https://www.helloasso.com/associations/les-ami-e-s-de-clark-kent/collectes/du-flouz-pour-le-z17

En 2019, la « stratégie nationale pour l’intelligence artificielle », rebaptisée AI for Humanity ⁱ, pose les prémices du Health Data Hub ⁱⁱ. Ce projet titanesque vise à rassembler l’ensemble des données de santé de la population française sur une seule plateforme, hébergée par Microsoft. À la différence du système actuel, le contenu du Health Data Hub serait adapté à l’utilisation de l’intelligence artificielle (IA) et plus accessible au secteur privé afin de « libérer la donnée » et de faire ainsi de la France « un pays leader de l’IA ⁱⁱⁱ ». L’idée faisait en tout cas briller les yeux d’Emmanuel Macron, extatique, qui évoquait une « chance inouïe d’accélérer le calcul réservé à Dieu » lors d’un colloque d’AI for Humanity en mars 2018 ^iv. En 2025, la plateforme n’est toujours pas opérationnelle.

Retour sur terre, où la base de données de santé actuelle, plus sobrement intitulée Système national des données de santé (SNDS), pose, d’ores et déjà, bon nombre de questions. Parmi les données qui y sont centralisées ^v, certaines viennent nourrir le dispositif Mon espace santé, inauguré en 2022. Ce dernier consiste en un espace de stockage et de partage d’informations pour chaque patient·e, contenant résultats d’examens, antécédents médicaux, comptes rendus d’hospitalisation, synthèses médicales, carnet de vaccination, historique des remboursements… Cet espace est érigé comme une solution pour le droit d’accès des patient·es à leur dossier médical. Or, dans les faits, il est créé sans leur consentement préalable et explicite, comme nous l’a expliqué le collectif stéphanois Halte au contrôle numérique ^vi.

Par ailleurs, « le système national de collecte des données est utilisé pour faciliter le ciblage des populations », nous a révélé Camille ^vii, une employée de la Sécu que Z a rencontrée. Dès 1991, un spot publicitaire de l’assurance-maladie met en scène un patient qui enchaîne les consultations, un immense dossier de demandes de remboursement sous le bras, au son de « Radios, scanners, échos, moi je m’en sers à gogo/ Dans tous les hôpitaux, je me fais prendre en photo/ Dépenser, gaspiller, mais pourquoi m’accuser ? […]/ La Sécu, c’est bien, en abuser, ça craint ^viii ! » Le mythe de « l’assistanat » des pauvres qui « profiteraient de la Sécu » s’est petit à petit traduit en directives pour les administrations, chargées de faire de la lutte contre la « fraude sociale » une priorité ^ix. Des politiques de contrôle sont alors mises en place avec l’utilisation de programmes informatiques automatiques, les fameux « algorithmes ».

Prenons la complémentaire santé solidaire (C2S) ^x, qui permet aux personnes disposant de faibles revenus d’être couvertes par une mutuelle. Un premier niveau de ciblage s’effectue par le croisement des données collectées par les différentes organisations publiques telles que les impôts, l’assurance-maladie ou encore France Travail. But de l’opération : récupérer autant que possible les sommes d’argent trop perçues, appelées « indus » dans le jargon. Ensuite, un algorithme attribue à chaque assuré·e un score de risque allant de 0 à 1. Plus le score « de suspicion » d’un·e assuré·e est proche de 1, plus la probabilité qu’iel soit contrôlé·e est élevée. L’association La Quadrature du Net, via sa campagne « France Contrôle » (voir encadré), montre que la formule utilisée aboutit à cibler un profil-type : les femmes de plus de 25 ans avec au moins un mineur dans le foyer. Une chasse aux mères précarisées qui ne dit pas son nom. Ainsi, « les algorithmes ciblent une population très précise et déjà précaire. Ils traduisent la complexité des aides [la lourdeur administrative et les nombreux critères pour toucher ces aides, ndlr] et touchent les parcours de vie les plus compliqués, explique La Quadrature du Net. Plus la situation du bénéficiaire est complexe, plus il y a un risque d’erreur et donc d’indus ^xi. »

Ces algorithmes, peu compréhensibles pour le commun des mortel·les, surcontrôlent ainsi certaines populations. Et ce sans que les personnes qui conduisent ces politiques n’aient jamais de comptes à rendre, contrairement aux assuré·es, qui doivent à l’administration une totale transparence… « On dépense certainement plus de sous pour courir derrière la fraude que le coût de la fraude elle-même, s’offusque Camille. Mais “lutter contre la fraude” permet de nourrir le discours politique. » Une soi-disant fraude qui se compte en millions d’euros quand le non-recours aux aides de santé, lui, se compte en milliards. Ainsi, en 2018, presque 40 % des personnes ayant droit à la C2S ne l’ont pas demandée, soit autant d’argent économisé par l’État sur le dos de ses administré·es, qui iront payer une mutuelle privée ou ne seront plus couvert·es qu’au tiers. En cause : la méconnaissance des aides, le coût et la durée des démarches, ou encore la stigmatisation sociale de celleux qui les perçoivent.

Par ailleurs, les contrôles ne s’arrêtent pas aux assuré·es. Les soignant·es aussi sont concerné·es. Sous couvert de lutter contre des prétendus arrêts de travail abusifs, les algorithmes ciblent les médecins prescrivant « trop » d’arrêts maladie, en comparant leur taux de prescription à une moyenne statistique. Pour Dominique Tribillac, médecin généraliste issu d’un milieu précaire et qui exerce dans le quartier populaire du Val-Druel à Dieppe, cela n’a aucun sens : « Les maladies dans les quartiers défavorisés sont beaucoup plus fréquentes que dans les autres quartiers : le diabète deux fois et demie, les maladies cardio-vasculaires une fois et demie, l’obésité deux fois… Le nombre de personnes qui ont une activité précaire est deux fois plus important que dans le reste de la population, et dans ces travaux précaires, il y a deux fois plus d’accidents de travail ^xii. » Le manque de spécialistes accessibles aux faibles revenus rallonge aussi le temps des arrêts, car plusieurs mois sont généralement nécessaires entre chaque rendez-vous. « Tout ça explique qu’il faut un nombre considérable d’indemnités journalières en plus pour ces quartiers défavorisés. Mais ça n’apparaît nulle part, et en particulier pas dans le fameux outil de référentiel de la Sécu. » Depuis juin 2023, le médecin est dans le collimateur de la Sécu et a reçu une menace de « MSO » (« mise sous objectif ») qui lui demande de baisser d’un quart son nombre d’arrêts. « Comme je pars en retraite, je pouvais me permettre de pousser le conflit, mais quand on a sa carrière devant soi, on est obligé de s’arrêter [de prescrire des arrêts]. »

Dernières trouvailles en date pour les dirigeants des administrations sociales zélés dans leurs objectifs de répression : la création de postes de « cyberenquêteurs » au sein de l’assurance-maladie. Ces derniers pourront patrouiller sous pseudo sur Internet « afin d’extraire des données et toutes formes de preuves sur des personnes susceptibles d’être les auteurs d’infractions », se félicite le magazine Challenges ^xiii. L’extension progressive du domaine policier au sein de la Sécurité sociale, et des administrations publiques en général, est claire, souligne La Quadrature du Net. Une tendance qui ne fait que s’accentuer et dont s’inquiète Camille : « Si dans certains cas comme dans l’affaire du Médiator^xiv les bases de données ont permis de prévenir les personnes victimes en retraçant leurs prescriptions de médicaments, on a tellement de données stockées qui sont à la main des institutions répressives, on ne sait pas demain ce que cet État pourrait être amené à faire avec.

i En français : « Intelligence artificielle pour l’humanité ».

ii En français : « Plateforme de données de santé ».

iii En février 2025, Paris a accueilli le Sommet pour l’action sur l’intelligence artificielle. À cette occasion, le président, Emmanuel Macron, a annoncé un budget de 109 milliards d’euros pour développer cette technologie.

iv Voir l’excellent article : « Health Data Hub : du fantasme de l’intelligence artificielle à la privatisation de nos données de santé », La Quadrature du Net, 17 mars 2021 (laquadrature.net).

v Le SNDS constitue la plus grande base de données de santé centralisée actuelle, où l’on retrouve notamment les informations collectées par les caisses primaires d’assurance-maladie, ou encore celles des hôpitaux ou des laboratoires.

vi Voir leur site Internet : halteaucontrolenumerique.fr.

vii Le prénom a été modifié pour préserver l’anonymat.

viii « Publicité 1991 Sécurité sociale (rap 3) », repostée par Le Publiblivore, YouTube, 2022, 30 s (youtube.com).

ix Mot d’ordre qui émerge avec le mandat présidentiel de Chirac, il est particulièrement remis en avant et traduit en objectifs pour les administrations sous celui de Sarkozy, comme l’explique Vincent Dubois dans Contrôler les assistés. Genèses et usages d’un mot d’ordre (éd. Raisons d’agir, 2021).

x Elle remplace depuis 2019 la CMU-C ainsi que l’aide à la complémentaire santé (ACS).

xi Les indus peuvent correspondre à de simples erreurs dans les déclarations, et ne sont pas nécessairement liés à une intention de fraude, en particulier dans le cas de dossiers complexes.

xii « Le médecin », documentaire sonore de Leila Djitli, Les Pieds sur terre, France Culture, 16 avril 2024.

xiii « Pour débusquer les fraudeurs, la Sécu met le paquet sur l’IA et les cyber-enquêteurs », Isabelle de Foucaud, Challenges, 30 septembre 2022.

xiv Scandale sanitaire lié au décès de personnes (entre 1 500 et 2 100) ayant pris un un antidiabétique utilisé comme coupe-faim, le Mediator, commercialisé par les laboratoires Servier. En appel, le groupe pharmaceutique a été condamné à une amende de 9 millions d’euros.

Sur ce sujet, retrouvez également sur le site de HACN les articles :