L’algorithme de l’assurance-maladie surveille et discrimine les femmes pauvres avec enfants

Un arti­cle de Médi­a­part et un (très doc­u­men­té) de La Quad­ra­ture du net dénon­cent l’al­go­rithme déployé à la Caisse Nationale d’As­sur­ance Mal­adie (CNAM), après ceux de la CAF, de France Tra­vail (ex Pôle Emploi). Extraits ci-dessous.

* cette munic­i­pal­ité a voté, en octo­bre 2023, une délibéra­tion “en faveur d’un droit au non-numérique dans l’ac­cès aux ser­vices publics munic­i­paux”

La Quad­ra­ture du Net a eu accès à des doc­u­ments et au code source d’un out­il util­isé pour lut­ter con­tre la fraude. Les femmes pau­vres avec enfants seraient par­ti­c­ulière­ment visées par ces con­trôles. L’assurance-maladie sou­tient que ces algo­rithmes ne sont plus util­isés.

Une dis­crim­i­na­tion…

Une mère âgée de plus de 25 ans, pré­caire et béné­fi­ci­aire de la com­plé­men­taire san­té sol­idaire (C2S), gra­tu­ite : voilà en sub­stance le pro­fil type des per­son­nes les plus sus­cep­ti­bles d’être con­trôlées par l’assurance-maladie. 

A la suite d’une “erreur de la CNAM”, La Quad­ra­ture a pu avoir accès au code source de l’algorithme util­isé pour détecter les anom­alies depuis 2018, out­il sim­i­laire à celui de la Caisse d’allocations famil­iales (CAF).

Dans les deux insti­tu­tions sociales, il est con­staté que ces algo­rithmes (IA) ciblent par­ti­c­ulière­ment – comme fraudeurs poten­tiels – les immigré.es ou descen­dants de, les handicapé.es, et donc les femmes pré­caires seules avec enfants, bien sou­vent vul­nérables face à la pau­vreté, selon plusieurs études.

En jan­vi­er 2020, lors d’un “comité de direc­tion fraude” où était présen­té le mod­èle de dat­a­min­ing, qui per­met de brass­er une grande quan­tité de don­nées, les respon­s­ables de la CNAM jugeaient que ces pro­fils sont “les plus à risques d’anomalies et de fraude”. L’archétype du “fraudeur” y était décrit mot pour mot comme ceci : “Pre­mière demande dont le deman­deur est une femme de plus de 25 ans avec plus d’un majeur et au moins un mineur dans le foy­er.”

Pour effectuer ce ciblage, le principe est sim­ple : la Cnam “attribue une note, ou score de sus­pi­cion, à chaque foy­er béné­fi­ciant de la C2S. Par déf­i­ni­tion, ses 7,4 mil­lions de béné­fi­ci­aires sont pré­caires car elle est des­tinée aux per­son­nes dis­posant de ressources mod­estes pour les aider à cou­vrir les frais de san­té restant à la charge de l’assuré·e. Le pla­fond annuel de ressources pour y accéder est fixé à 10 166 € pour une per­son­ne seule, en métro­pole et en fonc­tion de la com­po­si­tion du foy­er du deman­deur ou de la deman­deuse. En cas de léger dépasse­ment, une par­tic­i­pa­tion finan­cière peut être demandée.

Dans le détail, le logi­ciel util­isé à la CNAM “est basé sur une régres­sion logis­tique sim­ple com­prenant cinq vari­ables en entrée, dont le sexe, l’âge ou la com­po­si­tion du foy­er”. Aucun critère lié à la pré­car­ité économique n’est en revanche mobil­isé car “ce critère est déjà présent de base dans la déf­i­ni­tion de la pop­u­la­tion analysée”.

Ces con­trôles peu­vent notam­ment aboutir à des sus­pen­sions abu­sives de cou­ver­ture san­té entraî­nant des rup­tures d’accès aux soins aux con­séquences par­ti­c­ulière­ment graves, et ce, pour l’ensemble des ayants droit du foy­er dont les enfants.

“Plus du tout d’actualité” ?

La Quad­ra­ture du Net a aus­si obtenu celui d’un mod­èle plus expéri­men­tal, dévelop­pé en vue d’évolutions futures. Il ajoutait aux critères venant aug­menter le score de sus­pi­cion d’un·e assuré·e “le fait d’être en sit­u­a­tion de hand­i­cap, malade” ou encore… d’être “en con­tact avec l’assurance-maladie”. Cepen­dant, ce mod­èle n’aurait pas été général­isé, car les équipes de statisticien·nes de la CNAM ont jugé que son util­i­sa­tion, néces­si­tant un “croise­ment de don­nées non autorisé”, n’était pas légale. La CNAM sou­tient que “ces doc­u­ments internes datent de plusieurs années et ne sont plus du tout d’actualité”, que “depuis qua­tre ans, le dat­a­min­ing util­isé ne com­porte aucune vari­able rel­a­tive au sexe du deman­deur, ni à l’âge du deman­deur”. “Il n’y a pas non plus de requête sur l’âge des enfants”.

Pour­tant, dans les échanges avec La Quad­ra­ture du Net, faisant suite à une demande d’accès aux doc­u­ments admin­is­trat­ifs, la CNAM écrit noir sur blanc, en mai 2024, qu’elle joint “la présen­ta­tion du mod­èle actuel de dat­a­min­ing, ver­sion enrichie de celui général­isé en 2019”. Elle con­firme aus­si que le dat­a­min­ing est util­isé pour prédire “le risque d’anomalies” chez les béné­fi­ci­aires et que des con­trôles “aléa­toires” sont réal­isés en par­al­lèle.

En 2023, un peu moins de 10 000 con­trôles ori­en­tés par le dat­a­min­ing ont été réal­isés, avec un taux de 23 % d’anomalies détec­tées. Mais l’assurance-maladie ne dit mot des per­son­nes dont les droits ont été sus­pendus à la suite de ces con­trôles. Elle assure cepen­dant qu’“aucune déci­sion de remise en cause de la C2S n’est réal­isée sur la seule base du dat­a­min­ing : il y a sys­té­ma­tique­ment une analyse du dossier par un agent de la CPAM et une phase con­tra­dic­toire avec les assurés en cas de détec­tion d’anomalie”. Elle dit ain­si respecter les principes édic­tés par le rap­port du Défenseur des droits “Algo­rithmes, sys­tèmes d’IA et ser­vices publics : quels droits pour les usagers”, pub­lié en novem­bre 2024.

La chasse aux indus

Comme le dénonce La Quad­ra­ture, ces con­trôles peu­vent aboutir à des “sus­pen­sions abu­sives de cou­ver­ture san­té, entraî­nant des rup­tures d’accès aux soins”, con­fir­mées par des asso­ci­a­tions de défense des droits des assuré·es. Con­trôles con­sid­érés comme “humiliants” par le soci­o­logue Vin­cent Dubois dans son livre Con­trôler les assistés (Raisons d’agir, avril 2021). Celui-ci pré­ci­sait (dans une inter­view de Medi­a­part, que le score élevé attribué aux plus pré­caires était prin­ci­pale­ment lié à la com­plex­ité de leur sit­u­a­tion. “Ce n’est pas dû à la propen­sion de ces per­son­nes à fraud­er qui serait supérieure à celle des autres, mais parce que leurs sit­u­a­tions et les critères des presta­tions qu’elles perçoivent sont plus com­plex­es, et génèrent ce qui est sta­tis­tique­ment iden­ti­fié comme des risques.”

Alex Dupré, chargé des sujets soci­aux à La Quad­ra­ture du Net, explique à Medi­a­part que ces nou­velles révéla­tions accrédi­tent l’idée que ces algo­rithmes “n’ont qu’un seul but, celui de récupér­er des indus”. “Or, on sait que les indus se con­cen­trent sur les presta­tions liées à la grande pré­car­ité, et par­mi les per­son­nes con­cernées par ces presta­tions, il y a des per­son­nes qui sont par­ti­c­ulière­ment en sit­u­a­tion de grande insta­bil­ité”. De sur­croît, les indus résul­tent sou­vent de la com­plex­ité des démarch­es et des par­cours de vie des béné­fi­ci­aires.

Voilà pourquoi l’association demande l’interdiction de ces algo­rithmes opaques util­isés égale­ment à France Tra­vail, l’assur­ance-vieil­lesse ou dans les mutu­al­ités sociales agri­coles, “puisque pour [elle], c’est un ver­nis sci­en­tifique et une façon de mas­quer la réal­ité des poli­tiques de con­trôle humaine­ment insouten­ables”. Quitte à aller en jus­tice.

Début octo­bre, une quin­zaine d’associations ont saisi le Con­seil d’État pour deman­der le retrait de l’algorithme util­isé par la Caisse nationale des allo­ca­tions famil­iales (CNAF) afin de not­er ses allo­cataires et d’orienter ses con­trôles.

Le problème n’est pas technique mais politique

La Quad­ra­ture du net doc­u­mente la général­i­sa­tion des algo­rithmes de nota­tion à des fins de con­trôle au sein de notre sys­tème social depuis deux ans et vient d’ou­vrir un espace France con­trôle.

Pour elle, les risques asso­ciés à l’essor de ces tech­niques se situent dans la sur­veil­lance numérique de toutes et tous, des poli­tiques de dis­crim­i­na­tions vis à vis des plus plus pré­caires et de vio­lence insti­tu­tion­nelle grâce à l’opacité et au ver­nis sci­en­tifique qu’ils offrent aux respon­s­ables des admin­is­tra­tions sociales.

Pour La Quad­ra­ture, il n’est pas néces­saire d’accéder au code de l’ensemble de ces algo­rithmes pour con­naître leurs con­séquences sociales. Car le prob­lème n’est pas tech­nique mais poli­tique.

Ven­dus au nom de la soi-dis­ant “lutte con­tre la fraude sociale”, ces algo­rithmes ne peu­vent pas être améliorés car ils ne sont que la tra­duc­tion tech­nique d’une poli­tique visant à harcel­er et réprimer les plus pré­caires d’entre nous.

L’hypocrisie et la vio­lence de ces pra­tiques et des poli­tiques qui les sous-ten­dent doivent être dénon­cées et ces algo­rithmes aban­don­nés. Quant aux respon­s­ables qui les appel­lent de leurs vœux, les vali­dent et les promeu­vent, ils et elles doivent répon­dre de leur respon­s­abil­ité.

L’al­go­rith­mi­sa­tion des poli­tiques sociales n’est pas pro­pre qu’à la France : toute l’Eu­rope (au moins) est con­cernée, et partout ces tech­niques sont com­bat­tues.