Débat : “Ce que la numérisation fait au service public et à ses usagers”

A la CAF, à Pôle emploi et ailleurs, l’Etat s’appuie sur les tech­nolo­gies numériques, par­ti­c­ulière­ment l’IA, pour débus­quer ceux qui abuseraient des presta­tions sociales. Cette “bonne ges­tion” affichée par les doc­trines libérales est l’un des ali­bis avancés pour pri­va­tis­er des pans entiers de l’ad­min­is­tra­tion, sous cou­vert de solu­tion­nisme tech­nologique.

Depuis une dizaine d’années, le pro­pos des poli­tiques est de lim­iter les dépens­es publiques, notam­ment avec l’aide de l’intelligence arti­fi­cielle (1). Précédem­ment, les poli­tiques sociales se fondaient sur une approche col­lec­tive, fix­ant la norme et ce qui s’en éloigne. Désor­mais, d’après le soci­o­logue Vin­cent Dubois (2), “l’unité de base n’est plus la pop­u­la­tion mais les com­porte­ments indi­vidu­els qu’on cherche à prédire. Le risque n’est plus la mal­adie, la vieil­lesse ou la mort, mais la morale per­son­nelle” en scru­tant à la loupe le mode de vie des allo­cataires.

Ciblage des pauvres

Pour débus­quer les fraudeurs, la Caisse d’allocations famil­iales (CAF) — qui verse notam­ment le RSA — expéri­mente des algo­rithmes depuis 2004, et a général­isé le data min­ing depuis 2011. C’est-à-dire l’exploration de don­nées divers­es, de l’état civ­il aux habi­tudes de con­som­ma­tion, com­pilées et croisées de façon dis­cré­tion­naire. Ces out­ils auraient un impact sur la vie de près de 13 mil­lions de foy­ers. Trente mil­lions de per­son­nes en tout. Près d’un Français sur deux. Com­bi­en en sont cor­recte­ment infor­més ?

Ces organ­ismes peu­vent s’appuyer sur quan­tité de bases de don­nées qui n’ont pas grand-chose à envi­er à la police. Ain­si, la CAF con­sign­erait pas moins de mille don­nées dif­férentes par allo­cataire. De quoi car­togra­phi­er leur quo­ti­di­en et leur entourage. Dans un tel sys­tème, plus de place pour l’erreur ou l’oubli, seule­ment pour la sur­veil­lance et la puni­tion. De quoi creuser inex­orable­ment les iné­gal­ités. “Seuls les pau­vres sont placés sous le micro­scope de la clarté sci­en­tifique”, écrit la poli­to­logue améri­caine Vir­ginia Eubanks dans Automat­ing Inequal­i­ty (3), évo­quant la créa­tion d’“hos­pices dig­i­taux” qui met­tent les plus dému­nis au ban de la société.

Dans un rap­port trai­tant de la lutte con­tre la fraude aux presta­tions sociales (4), la députée LREM Car­ole Grand­jean et la séna­trice Nathalie Goulet (Union cen­triste) plaidaient pour un élar­gisse­ment des out­ils de data min­ing à Pôle emploi (qui en pos­sède déjà plusieurs, poé­tique­ment bap­tisés Sil­lage ou Ocapi).

Cer­tains sont plus visés que d’autres : ain­si, une cir­cu­laire de 2012 de la CAF recom­mandait de cibler les per­son­nes nées hors de l’Union européenne lors des con­trôles. Pour le défenseur des droits, “Les ciblages dis­crim­i­na­toires, quelle que soit la tech­nolo­gie employée, ne font que relay­er préjugés et stéréo­types, con­duisant à une sur­représen­ta­tion de ces pop­u­la­tions par­mi les fraudeurs.”

Vin­cent Dubois le con­firme : “L’usage des tech­nolo­gies de sta­tis­tique pré­dic­tive con­duit à inten­si­fi­er le ciblage intrusif des pop­u­la­tions les plus pré­caires. L’informatisation pro­duit non seule­ment un effet de déshu­man­i­sa­tion, mais aus­si de déréal­i­sa­tion” car “Les sit­u­a­tions per­son­nelles n’existent plus que sous une forme abstraite, sans tenir compte des réal­ités sociales ou humaines.”

La fraude sociale par les allo­cataires est pour­tant estimée à deux mil­liards d’euros, donc bien inférieure à l’évasion fis­cale, éval­uée entre 80 et 100 mil­liards d’euros par an, mais aus­si au non verse­ment de coti­sa­tions par les employeurs… Mais ces derniers ne sont pas sus­pec­tés d’abuser de la générosité publique.

Combats européens contre l’algorithmisation de l’administration

Deux com­bats européens (gag­nés !) con­tre l’usage abusif des out­ils numériques en matière de con­trôle social sont à relever :

- aux Pays-Bas, une coali­tion d’ONG (Plat­form Bescherming Burg­er­recht­en) (5) a réus­si à obtenir en févri­er 2020 le déman­tèle­ment d’un dis­posi­tif algo­rithme de pro­fi­lage des indi­vidus nom­mé SyRI (Sys­tem risk indi­ca­tion). Il per­me­t­tait aux organ­ismes soci­aux de com­bin­er des don­nées à car­ac­tère privé sur l’emploi, les dettes, l’é­d­u­ca­tion, le loge­ment. Pour le tri­bunal, SyRI vio­le la Con­ven­tion européenne des droits de l’homme, notam­ment en dis­crim­i­nant et stig­ma­ti­sant les citoyens des zones urbaines défa­vorisées, selon leur sit­u­a­tion socio-économique et leur orig­ine migra­toire.

- en Pologne, au terme d’une bataille juridique con­clue en 2014, la fon­da­tion Panop­tykon (6), a con­traint les autorités à révéler les mécan­ismes de l’algorithme util­isé pour pro­fil­er les deman­deurs d’emploi. Le tri­bunal a con­clu au car­ac­tère anti­con­sti­tu­tion­nel de ce con­trôle des pop­u­la­tions pou­vant con­duire à des dis­crim­i­na­tions sur des indi­vidus vul­nérables comme les hand­i­capés, les femmes seules…

En France, le col­lec­tif Chang­er de cap mène une cam­pagne d’ampleur (7) con­tre le déploiement d’un sys­tème algo­rith­mique à la CAF au détri­ment des allo­cataires pau­vres. Le site Bas­ta ! relaie très large­ment leur action (et d’autres) dans une séries d’articles (8).

Numérisation pour privatiser

Les auteurs du livre La pri­vati­sa­tion numérique. Désta­bil­i­sa­tion et réin­ven­tion du ser­vice pub­lic (9) analy­sent l’usage du numérique pour pri­va­tis­er pro­gres­sive­ment les ser­vices publics (en rap­port avec les théories du New Pub­lic Man­age­ment, pro­mues par les cab­i­nets de con­seil, Mc Kin­sey par exem­ple). Cela con­duit à la sub­sti­tu­tion d’al­go­rithmes aux agents publics, à la général­i­sa­tion des mécan­ismes de nota­tion et au développe­ment de l’ubéri­sa­tion des tâch­es.

Ses effets soci­aux sont con­sid­érables : ces méth­odes désta­bilisent les admin­is­tra­tions, ren­for­cent les iné­gal­ités sociales d’ac­cès aux ser­vices publics et accélèrent la perte de sou­veraineté publique. Les auteurs pro­posent une réap­pro­pri­a­tion des com­muns numériques, notam­ment sous la forme d’un mil­i­tan­tisme de fonc­tion­naires qui ain­si défendraient la sou­veraineté numérique nationale.

(1) Arti­cle d’O­livi­er Tes­quet, Com­ment l’intelligence arti­fi­cielle cible les plus pré­caires

(2) Vin­cent Dubois, soci­o­logue à Sci­ences-po Stras­bourg, auteur du livre Con­trôler les assistés, genès­es et usages d’un mot d’ordre

(3) Vir­ginia Eubanks, Automat­ing Inequal­i­ty, How High-tech Tools Pro­file, Police, and Pun­ish the Poor, St. Martin’s Press, 2018

(4) Rap­port d’oc­to­bre 2019, Lut­ter con­tre les fraudes aux presta­tions sociales, un levi­er de jus­tice sociale pour une juste presta­tion, par Car­ole Grand­jean et Nathalie Goulet

(5) https://www.openglobalrights.org/landmark-judgment-from-netherlands-on-digital-welfare-states/?lang=French

(6) https://algorithmwatch.org/en/poland-government-to-scrap-controversial-unemployment-scoring-system/

(7) Chang­er de cap : action con­tre le déploiement d’un sys­tème algo­rith­mique à la CAF https://changerdecap.net/caf-controle-social/

(8) Sur le site Bas­ta !, https://basta.media/Quel-avenir-pour-nos-protections

(9) Gilles Jean­not et Simon Cot­tin-Marx, La pri­vati­sa­tion numérique. Désta­bil­i­sa­tion et réin­ven­tion du ser­vice pub­lic

Affiche du débat :

En pdf

https://halteaucontrolenumerique.fr/wp-content/uploads/2022/05/affiche-numerisation-service-public11.pdf