“Salauds de pauvres !”

15 asso­ci­a­tions (voir liste en bas de l’ar­ti­cle) attaque­nt l’al­go­rithme dis­crim­i­na­toire de la CAF con­tre les “fraudeur.ses” devant le Con­seil d’E­tat.

* “Salauds de pau­vres !” C’est Coluche qui avait pop­u­lar­isé l’expression dans les années 1980.

Depuis, l’image du chômeur fraudeur ‑ou de la fraudeuse‑, du/de la fainéant.e, du pau­vre respon­s­able de son sort, de ces indi­vidus qui abuseraient de l’argent pub­lic a fait florès.

Les CAF (Caiss­es d’allocations famil­iales) se sont dotées d’outils pour faire face à “la fraude aux presta­tions sociales”. C’est ain­si que data min­ing et scor­ing ont été mis en œuvre par les CAF dès 2011.

Le data min­ing, kesako  ?

C’est une démarche d’étude sta­tis­tique qui a pour objet l’extraction d’un savoir, ou d’une con­nais­sance, à par­tir de grandes quan­tités de don­nées, par des méth­odes automa­tiques ou semi-automa­tiques. Elle utilise un ensem­ble d’algoritmes issus de dis­ci­plines sci­en­tifiques divers­es telles que les sta­tis­tiques, l’intelligence arti­fi­cielle ou l’informatique pour con­stru­ire des mod­èles à par­tir des don­nées col­lec­tées.

Et le scor­ing, com­ment ça marche ?

Le mod­èle data min­ing attribue à chaque allo­cataire un score de risque/suspicion à par­tir duquel la Caf va class­er les dossiers en fonc­tion du niveau de score, donc de l’importance du risque qu’il présente. 

En résumé, un algo­rithme attribue à chaque allo­cataire un score de sus­pi­cion. Sa valeur sera util­isée pour sélec­tion­ner celles et ceux qui fer­ont l’objet d’un con­trôle dans le but de détecter les fraudes et les verse­ments indus .

A défaut de faire la chas­se à la pau­vreté, les CAF se sont investies dans la chas­se aux pau­vres.

Par exem­ple, Vin­cent Dubois, soci­o­logue et poli­tiste, prou­ve, dans un ouvrage paru en 2021 “Con­trôler les assistés. Genès­es et usages d’un mot d’ordre”, que les plus pré­caires sont celles et ceux qui font l’objet du plus grand nom­bre de con­trôles.

D’après la Quad­ra­ture du Net, “Chaque mois, l’algorithme analyse les don­nées per­son­nelles des plus de 32 mil­lions de per­son­nes vivant dans un foy­er rece­vant une presta­tion CAF et cal­cule plus de 13 mil­lions de scores”. Ce sont ces 13 mil­lions d’allocataires qui sont passé.es au crible de cet out­il sta­tis­tique qu’est le data min­ing. L’algorithme serait pro­gram­mé pour cibler, de manière “dis­crim­i­na­toire”, ses allo­cataires les plus pré­caires. 

Si vous avez des revenus faibles, si vous êtes au chô­mage, si vous béné­fi­ciez du revenu de sol­i­dar­ité active (RSA), de l’allocation adulte hand­i­capé (AAH), si vous êtes racisé.e, si vous vivez dans un quarti­er défa­vorisé, si votre sit­u­a­tion sociale et/ou famil­iale est insta­ble, etc, vous avez le pro­fil du fraudeur ‑ou de la fraudeuse.

C’est dans ce con­texte que quinze asso­ci­a­tions ont saisi le Con­seil d’Etat afin d’obtenir la sup­pres­sion de l’ algo­rithme util­isé par la Caisse nationale des allo­ca­tions famil­iales (CNAF).

Le recours, déposé le 15 octo­bre auprès de l’instance, “porte tant sur l’étendue de la sur­veil­lance à l’oeuvre que sur la dis­crim­i­na­tion opérée par cet algo­rithme envers des allo­cataires déjà frag­ilisés dans leurs par­cours de vie”, écrivent dans un com­mu­niqué Amnesty Inter­na­tion­al, la Quad­ra­ture du Net, la Fon­da­tion Abbé Pierre et les autres asso­ci­a­tions requérantes.

La vision du pau­vre qui serait for­cé­ment, évidem­ment, fraudeur s’est imposée dans nos sociétés alors que cette croy­ance est battue en brèche et bien doc­u­men­tée… mais ignorée par les poli­tiques et les média dom­i­nants.

Un rap­port du Haut con­seil du finance­ment de la pro­tec­tion sociale éval­ue la fraude sociale à 13 mil­liards d’euros par an. Le HCFPS révèle que la fraude sociale est majori­taire­ment le fait d’entreprises (via le tra­vail dis­simulé) ou de tra­vailleurs indépen­dants, alors que “la part des assurés, et notam­ment des tit­u­laires de min­i­ma soci­aux est faible dans l’ensemble”, à l’en­con­tre de cer­tains dis­cours.

Il serait réjouis­sant, et pro­duc­tif en ter­mes de ren­trée d’argent dans les caiss­es, que les poli­tiques qui sont aux manettes dénon­cent vigoureuse­ment cette fraude aux coti­sa­tions sociales. Pourquoi pas un algo­rithme pour ce faire ?

Non seule­ment les pau­vres ne sont pas intrin­sèque­ment fraudeurs et fraudeuses mais ils ne font pas for­cé­ment val­oir leurs droits.

Ain­si, la Direc­tion de la recherche, des études, de l’é­val­u­a­tion et des sta­tis­tiques (DREES) indi­quait, en 2022, que tous les trimestres, 750 mil­lions d’euros ne sont pas ver­sés faute d’avoir été réclamés. Soit env­i­ron 3 mil­liards d’euros par an. 

“Dans cette étude ren­due publique, à l’issue de deux ans de recherch­es, il est établi, en 2018, que 34 % des foy­ers éli­gi­bles ne deman­dent pas à percevoir le revenu de sol­i­dar­ité active (RSA) chaque trimestre et que 20 % des per­son­nes éli­gi­bles seraient en sit­u­a­tion de non-recours pérenne (plus de trois trimestres con­sé­cu­tifs)”.

Alors, salauds de pau­vres ?

* For­mule util­isée par Coluche pour la dénon­cer. Il n’en était pas l’auteur. Il l’avait emprun­tée à Jean GABIN dans le film “La tra­ver­sée de Paris” de Claude Autant-Lara, en 1956.

Une fonc­tion intel­li­gente, que pour­rait rem­plir l’algoritme CAF, serait de vers­er automa­tique­ment les presta­tions aux­quelles les allo­cataires ont droit. Nom­bre d’entre elles/eux ne savent pas qu’elles/ils peu­vent pré­ten­dre à une allo­ca­tion, certain.es ont des dif­fi­cultés à rem­plir leur dossier, d’où les non recours mas­sifs.

Cela dit, la ques­tion de la pro­tec­tion de la vie privée reste entière. D’après La Quad­ra­ture du Net, l’algorithme CAF dis­po­sait de 37 vari­ables en 2010, de 35 vari­ables en 2014, de 41 vari­ables en 2018 (algo­rithme util­isé actuelle­ment) : tech­nolo­gie partout, vie privée nulle part !

Com­mu­niqué com­mun des 15 organ­i­sa­tions

En cette veille de journée mon­di­ale du refus de la mis­ère, 15 organ­i­sa­tions de la société civile attaque­nt l’algorithme de nota­tion des allo­cataires des caiss­es d’allocations famil­iales (Caf) en jus­tice, devant le Con­seil d’Etat, au nom du droit de la pro­tec­tion des don­nées per­son­nelles et du principe de non-dis­crim­i­na­tion. Ce recours en jus­tice con­tre un algo­rithme de ciblage d’un organ­isme ayant mis­sion de ser­vice pub­lic est une pre­mière.

Cet algo­rithme attribue à chaque allo­cataire un score de sus­pi­cion dont la valeur est util­isée pour sélec­tion­ner celles et ceux faisant l’objet d’un con­trôle. Plus il est élevé, plus la prob­a­bil­ité d’être contrôlé‑e est grande. Chaque mois, l’algorithme analyse les don­nées per­son­nelles des plus de 32 mil­lions de per­son­nes vivant dans un foy­er rece­vant une presta­tion Caf et cal­cule plus de 13 mil­lions de scores. Par­mi les fac­teurs venant aug­menter un score de sus­pi­cion on trou­ve notam­ment le fait d’avoir de faibles revenus, d’être au chô­mage, de béné­fici­er du revenu de sol­i­dar­ité active (RSA) ou de l’allocation adulte hand­i­capé (AAH). En retour, les per­son­nes en dif­fi­culté se retrou­vent sur-con­trôlées par rap­port au reste de la pop­u­la­tion.

Notre recours devant le Con­seil d’Etat porte tant sur l’étendue de la sur­veil­lance à l’œuvre que sur la dis­crim­i­na­tion opérée par cet algo­rithme envers des allo­cataires déjà frag­ilisé-e‑s dans leurs par­cours de vie. En assim­i­lant pré­car­ité et soupçon de fraude, cet algo­rithme par­ticipe d’une poli­tique de stig­ma­ti­sa­tion et de mal­trai­tance insti­tu­tion­nelle des plus défa­vorisé-e‑s. Les con­trôles sont des moments par­ti­c­ulière­ment dif­fi­ciles à vivre, généra­teurs d’une forte charge admin­is­tra­tive et d’une grande anx­iété. Ils s’accompagnent régulière­ment de sus­pen­sions du verse­ment des presta­tions, précé­dant des deman­des de rem­bourse­ments d’indus non-motivés. Dans les sit­u­a­tions les plus graves, des allo­cataires se retrou­vent totale­ment privé-e‑s de ressources, et ce en toute illé­gal­ité. Quant aux voies de recours, elles ne sont pas tou­jours com­préhen­si­bles ni acces­si­bles.

Alors que l’utilisation de tels algo­rithmes de nota­tion se généralise au sein des organ­ismes soci­aux, notre coali­tion, regroupant des organ­i­sa­tions aux hori­zons divers, vise à con­stru­ire un front col­lec­tif afin de faire inter­dire ce type de pra­tiques et d’alerter sur la vio­lence dont sont por­teuses les poli­tiques dites de “lutte con­tre la fraude sociale”.

“Cet algo­rithme est la tra­duc­tion d’une poli­tique d’acharnement con­tre les plus pau­vres. Parce que vous êtes pré­caire, vous serez suspect‑e aux yeux de l’algorithme, et donc contrôlé‑e. C’est une dou­ble peine.” déclare Bastien Le Quer­rec, juriste à La Quad­ra­ture du Net.

Pour en savoir plus : La Quad­ra­ture du net, Chang­er de cap et Halte au con­trôle numérique, avec le sou­tien de la mairie de Villeur­banne* vous invi­tent, le 18 jan­vi­er 2025, à des ren­con­tres à Villeur­banne pour lut­ter con­tre la numéri­sa­tion des ser­vices publics

* cette munic­i­pal­ité a voté, en octo­bre 2023, une délibéra­tion “en faveur d’un droit au non-numérique dans l’ac­cès aux ser­vices publics munic­i­paux”

Autres sources

Mal­trai­tance insti­tu­tion­nelle, illé­gal­ités, vies broyées : 50 propo­si­tions pour remet­tre le droit et l’hu­main au coeur de l’ac­tion des CAF Dossier réal­isé par l’as­so­ci­a­tion Chang­er de cap

Page de La Quad­ra­ture du net dédiée à la numéri­sa­tion des admin­is­tra­tions sociales

LQDN pro­pose un out­il Demande ton score : si vous avez récem­ment fait l’objet d’un con­trôle CAF, Pôle Emploi, URSSAF ou de l’Assurance mal­adie et si vous voulez com­pren­dre sur quels critères vous avez été sélectionné·es ? Les admin­is­tra­tions sont légale­ment tenues de vous com­mu­ni­quer les “scores de sus­pi­cion” qu’elles vous ont alloués ain­si que des expli­ca­tions con­cer­nant leur cal­cul.

Espi­onnage sur Face­book, algo­rithme de “flicage” : les méth­odes scan­daleuses de la CAF Bastien Le Quer­rec (La Quad­ra­ture du net), invité par Cyril Lem­ba (Le Media)