Article de Z sur les algorithmes et la Sécu

La revue Z sort son numéro 17 « Saint-Éti­enne – Soign­er la san­té ». Pour son arti­cle « Algos à gogo ! Quand la Sécu utilise l’IA pour mieux con­trôler ses assuré·es » (voir ci-dessous), elle a notam­ment ren­con­tré le col­lec­tif Halte au con­trôle numérique.

Des mem­bres de la revue vien­nent par ailleurs présen­ter ce numéro à Saint-Éti­enne same­di 17 mai (pro­gramme com­plet ici).

à l’Amicale laïque de Tardy

12h : Repas
14h : Présen­ta­tion du n°17, ate­liers, dis­cus­sion, chas­se aux tré­sors
17h30 : Théâtre « La voix du cœur », par l’association Park’ensemble

la suite dès 20h30 à la Gueule Noire

- Peaufine (poésie rage mélan­col­ique pail­letée)
- Dj ibn elharam (raï, ori­en­tale)
- Luna Spec­tra (Latin cor, trap, hybrid club)

Crêpes et tombo­la

Tout à prix libre

“Algos à gogo ! Quand la Sécu utilise l’IA pour mieux con­trôler ses assuré·es”

Depuis les années 2010, la Sécu­rité sociale a général­isé le recours à des algo­rithmes de nota­tion pour con­trôler ses assuré·es, en toute opac­ité. L’impulsion poli­tique à la base du développe­ment de ces out­ils de répres­sion : la per­cep­tion d’un sys­tème social mis en dan­ger par la « fraude » d’assuré·es qui « prof­it­eraient du sys­tème ».

Revue Z, Col­lec­tif itinérant d’en­quête et de cri­tique sociale

Arti­cle pub­lié dans le Z n°17 : Saint-Éti­enne – Soign­er la san­té, à paraître le 23 mai en librairie et déjà com­mand­able en ligne : https://ladernierelettre.fr/produit/revue-z-n17-saint-etienne/

Z a besoin de vous et lance un appel à sou­tien (mer­ci!)  : https://www.helloasso.com/associations/les-ami-e-s-de-clark-kent/collectes/du-flouz-pour-le-z17

Illustration 1

En 2019, la « stratégie nationale pour l’intelligence arti­fi­cielle », rebap­tisée AI for Human­i­ty i, pose les prémices du Health Data Hub ii. Ce pro­jet titanesque vise à rassem­bler l’ensemble des don­nées de san­té de la pop­u­la­tion française sur une seule plate­forme, hébergée par Microsoft. À la dif­férence du sys­tème actuel, le con­tenu du Health Data Hub serait adap­té à l’utilisation de l’intelligence arti­fi­cielle (IA) et plus acces­si­ble au secteur privé afin de « libér­er la don­née » et de faire ain­si de la France « un pays leader de l’IA iii ». L’idée fai­sait en tout cas briller les yeux d’Emmanuel Macron, exta­tique, qui évo­quait une « chance inouïe d’accélérer le cal­cul réservé à Dieu » lors d’un col­loque d’AI for Human­i­ty en mars 2018 iv. En 2025, la plate­forme n’est tou­jours pas opéra­tionnelle.

Retour sur terre, où la base de don­nées de san­té actuelle, plus sobre­ment inti­t­ulée Sys­tème nation­al des don­nées de san­té (SNDS), pose, d’ores et déjà, bon nom­bre de ques­tions. Par­mi les don­nées qui y sont cen­tral­isées v, cer­taines vien­nent nour­rir le dis­posi­tif Mon espace san­té, inau­guré en 2022. Ce dernier con­siste en un espace de stock­age et de partage d’informations pour chaque patient·e, con­tenant résul­tats d’examens, antécé­dents médi­caux, comptes ren­dus d’hospitalisation, syn­thès­es médi­cales, car­net de vac­ci­na­tion, his­torique des rem­bourse­ments… Cet espace est érigé comme une solu­tion pour le droit d’accès des patient·es à leur dossier médi­cal. Or, dans les faits, il est créé sans leur con­sen­te­ment préal­able et explicite, comme nous l’a expliqué le col­lec­tif stéphanois Halte au con­trôle numérique vi.

Par ailleurs, « le sys­tème nation­al de col­lecte des don­nées est util­isé pour faciliter le ciblage des pop­u­la­tions », nous a révélé Camille vii, une employée de la Sécu que Z a ren­con­trée. Dès 1991, un spot pub­lic­i­taire de l’assurance-maladie met en scène un patient qui enchaîne les con­sul­ta­tions, un immense dossier de deman­des de rem­bourse­ment sous le bras, au son de « Radios, scan­ners, échos, moi je m’en sers à gogo/ Dans tous les hôpi­taux, je me fais pren­dre en photo/ Dépenser, gaspiller, mais pourquoi m’accuser ? […]/ La Sécu, c’est bien, en abuser, ça craint viii ! » Le mythe de « l’assistanat » des pau­vres qui « prof­it­eraient de la Sécu » s’est petit à petit traduit en direc­tives pour les admin­is­tra­tions, chargées de faire de la lutte con­tre la « fraude sociale » une pri­or­ité ix. Des poli­tiques de con­trôle sont alors mis­es en place avec l’utilisation de pro­grammes infor­ma­tiques automa­tiques, les fameux « algo­rithmes ».

Prenons la com­plé­men­taire san­té sol­idaire (C2S) x, qui per­met aux per­son­nes dis­posant de faibles revenus d’être cou­vertes par une mutuelle. Un pre­mier niveau de ciblage s’effectue par le croise­ment des don­nées col­lec­tées par les dif­férentes organ­i­sa­tions publiques telles que les impôts, l’assurance-maladie ou encore France Tra­vail. But de l’opération : récupér­er autant que pos­si­ble les sommes d’argent trop perçues, appelées « indus » dans le jar­gon. Ensuite, un algo­rithme attribue à chaque assuré·e un score de risque allant de 0 à 1. Plus le score « de sus­pi­cion » d’un·e assuré·e est proche de 1, plus la prob­a­bil­ité qu’iel soit contrôlé·e est élevée. L’association La Quad­ra­ture du Net, via sa cam­pagne « France Con­trôle » (voir encadré), mon­tre que la for­mule util­isée aboutit à cibler un pro­fil-type : les femmes de plus de 25 ans avec au moins un mineur dans le foy­er. Une chas­se aux mères pré­carisées qui ne dit pas son nom. Ain­si, « les algo­rithmes ciblent une pop­u­la­tion très pré­cise et déjà pré­caire. Ils traduisent la com­plex­ité des aides [la lour­deur admin­is­tra­tive et les nom­breux critères pour touch­er ces aides, ndlr] et touchent les par­cours de vie les plus com­pliqués, explique La Quad­ra­ture du Net. Plus la sit­u­a­tion du béné­fi­ci­aire est com­plexe, plus il y a un risque d’erreur et donc d’indus xi. »

Ces algo­rithmes, peu com­préhen­si­bles pour le com­mun des mortel·les, sur­con­trô­lent ain­si cer­taines pop­u­la­tions. Et ce sans que les per­son­nes qui con­duisent ces poli­tiques n’aient jamais de comptes à ren­dre, con­traire­ment aux assuré·es, qui doivent à l’administration une totale trans­parence… « On dépense cer­taine­ment plus de sous pour courir der­rière la fraude que le coût de la fraude elle-même, s’offusque Camille. Mais “lut­ter con­tre la fraude” per­met de nour­rir le dis­cours poli­tique. » Une soi-dis­ant fraude qui se compte en mil­lions d’euros quand le non-recours aux aides de san­té, lui, se compte en mil­liards. Ain­si, en 2018, presque 40 % des per­son­nes ayant droit à la C2S ne l’ont pas demandée, soit autant d’argent économisé par l’État sur le dos de ses administré·es, qui iront pay­er une mutuelle privée ou ne seront plus couvert·es qu’au tiers. En cause : la mécon­nais­sance des aides, le coût et la durée des démarch­es, ou encore la stig­ma­ti­sa­tion sociale de celleux qui les perçoivent.

Par ailleurs, les con­trôles ne s’arrêtent pas aux assuré·es. Les soignant·es aus­si sont concerné·es. Sous cou­vert de lut­ter con­tre des pré­ten­dus arrêts de tra­vail abusifs, les algo­rithmes ciblent les médecins pre­scrivant « trop » d’arrêts mal­adie, en com­para­nt leur taux de pre­scrip­tion à une moyenne sta­tis­tique. Pour Dominique Tri­bil­lac, médecin général­iste issu d’un milieu pré­caire et qui exerce dans le quarti­er pop­u­laire du Val-Dru­el à Dieppe, cela n’a aucun sens : « Les mal­adies dans les quartiers défa­vorisés sont beau­coup plus fréquentes que dans les autres quartiers : le dia­bète deux fois et demie, les mal­adies car­dio-vas­cu­laires une fois et demie, l’obésité deux fois… Le nom­bre de per­son­nes qui ont une activ­ité pré­caire est deux fois plus impor­tant que dans le reste de la pop­u­la­tion, et dans ces travaux pré­caires, il y a deux fois plus d’accidents de tra­vail xii. » Le manque de spé­cial­istes acces­si­bles aux faibles revenus ral­longe aus­si le temps des arrêts, car plusieurs mois sont générale­ment néces­saires entre chaque ren­dez-vous. « Tout ça explique qu’il faut un nom­bre con­sid­érable d’indemnités jour­nal­ières en plus pour ces quartiers défa­vorisés. Mais ça n’apparaît nulle part, et en par­ti­c­uli­er pas dans le fameux out­il de référen­tiel de la Sécu. » Depuis juin 2023, le médecin est dans le col­li­ma­teur de la Sécu et a reçu une men­ace de « MSO » (« mise sous objec­tif ») qui lui demande de baiss­er d’un quart son nom­bre d’arrêts. « Comme je pars en retraite, je pou­vais me per­me­t­tre de pouss­er le con­flit, mais quand on a sa car­rière devant soi, on est obligé de s’arrêter [de pre­scrire des arrêts]. »

Dernières trou­vailles en date pour les dirigeants des admin­is­tra­tions sociales zélés dans leurs objec­tifs de répres­sion : la créa­tion de postes de « cyberen­quê­teurs » au sein de l’assurance-maladie. Ces derniers pour­ront patrouiller sous pseu­do sur Inter­net « afin d’extraire des don­nées et toutes formes de preuves sur des per­son­nes sus­cep­ti­bles d’être les auteurs d’infractions », se félicite le mag­a­zine Chal­lenges xiii. L’extension pro­gres­sive du domaine polici­er au sein de la Sécu­rité sociale, et des admin­is­tra­tions publiques en général, est claire, souligne La Quad­ra­ture du Net. Une ten­dance qui ne fait que s’accentuer et dont s’inquiète Camille : « Si dans cer­tains cas comme dans l’affaire du Médi­a­tor xiv les bases de don­nées ont per­mis de prévenir les per­son­nes vic­times en retraçant leurs pre­scrip­tions de médica­ments, on a telle­ment de don­nées stock­ées qui sont à la main des insti­tu­tions répres­sives, on ne sait pas demain ce que cet État pour­rait être amené à faire avec.

Illustration 2

i En français : « Intel­li­gence arti­fi­cielle pour l’humanité ».

ii En français : « Plate­forme de don­nées de san­té ».

iii En févri­er 2025, Paris a accueil­li le Som­met pour l’action sur l’intelligence arti­fi­cielle. À cette occa­sion, le prési­dent, Emmanuel Macron, a annon­cé un bud­get de 109 mil­liards d’euros pour dévelop­per cette tech­nolo­gie.

iv Voir l’excellent arti­cle : « Health Data Hub : du fan­tasme de l’intelligence arti­fi­cielle à la pri­vati­sa­tion de nos don­nées de san­té », La Quad­ra­ture du Net, 17 mars 2021 (laquadrature.net).

v Le SNDS con­stitue la plus grande base de don­nées de san­té cen­tral­isée actuelle, où l’on retrou­ve notam­ment les infor­ma­tions col­lec­tées par les caiss­es pri­maires d’assurance-maladie, ou encore celles des hôpi­taux ou des lab­o­ra­toires.

vi Voir leur site Inter­net : 2026.locationsiteweb.eu/halteaucontrolenumerique/.

vii Le prénom a été mod­i­fié pour préserv­er l’anonymat.

viii « Pub­lic­ité 1991 Sécu­rité sociale (rap 3) », repostée par Le Pub­li­b­li­vore, YouTube, 2022, 30 s (youtube.com).

ix Mot d’ordre qui émerge avec le man­dat prési­den­tiel de Chirac, il est par­ti­c­ulière­ment remis en avant et traduit en objec­tifs pour les admin­is­tra­tions sous celui de Sarkozy, comme l’explique Vin­cent Dubois dans Con­trôler les assistés. Genès­es et usages d’un mot d’ordre (éd. Raisons d’agir, 2021).

x Elle rem­place depuis 2019 la CMU‑C ain­si que l’aide à la com­plé­men­taire san­té (ACS).

xi Les indus peu­vent cor­re­spon­dre à de sim­ples erreurs dans les déc­la­ra­tions, et ne sont pas néces­saire­ment liés à une inten­tion de fraude, en par­ti­c­uli­er dans le cas de dossiers com­plex­es.

xii « Le médecin », doc­u­men­taire sonore de Leila Djitli, Les Pieds sur terre, France Cul­ture, 16 avril 2024.

xiii « Pour débus­quer les fraudeurs, la Sécu met le paquet sur l’IA et les cyber-enquê­teurs », Isabelle de Fou­caud, Chal­lenges, 30 sep­tem­bre 2022.

xiv Scan­dale san­i­taire lié au décès de per­son­nes (entre 1 500 et 2 100) ayant pris un un antidi­a­bé­tique util­isé comme coupe-faim, le Medi­a­tor, com­mer­cial­isé par les lab­o­ra­toires Servi­er. En appel, le groupe phar­ma­ceu­tique a été con­damné à une amende de 9 mil­lions d’euros.

Sur ce sujet, retrou­vez égale­ment sur le site de HACN les arti­cles :