À France Travail, le contrôle algorithmique baffoue les droits des usagers

La Quad­ra­ture du net – avec d’autres, notam­ment Chang­er de cap face aux algos de la CAF – a engagé depuis plusieurs années un com­bat con­tre l’usage dis­crim­i­na­toire de l’in­tel­li­gence arti­fi­cielle par dif­férents ser­vices publics. Nous relayons ci-dessous son étude de celle déployée à France Tra­vail (ex Pôle Emploi).

Par ailleurs, nous relayons en dessous de cet arti­cle l’ap­pel à sign­er une péti­tion pour con­train­dre France Tra­vail à respecter les droits des usagers. En effet, ceux-ci sont de plus en plus baf­foués par la numéri­sa­tion ren­due oblig­a­toire des rap­ports des usagers avec ce ser­vice pub­lic de l’empoi.

Arti­cle de La Quad­ra­ture du net

“Score de sus­pi­cion” visant à éval­uer l’honnêteté des chômeur·ses, “score d’employabilité” visant à mesur­er leur “attrac­tiv­ité”, algo­rithmes de détec­tion des demandeur·ses d’emploi en sit­u­a­tion de “perte de con­fi­ance”, en “besoin de redy­nami­sa­tion” ou encore à “risque de dis­per­sion”… France Tra­vail mul­ti­plie les expéri­men­ta­tions de pro­fi­lage algo­rith­mique des per­son­nes sans emploi.

Après avoir traité de l’utilisation par la CAF d’un algo­rithme de nota­tion des allo­cataires, nous mon­trons ici que cette pra­tique est aus­si partagée par France Tra­vail, ex-Pôle Emploi. À France Tra­vail, elle s’inscrit plus large­ment dans le cadre d’un proces­sus de numéri­sa­tion for­cée du ser­vice pub­lic de l’emploi. Retrou­vez l’ensemble de nos pub­li­ca­tions sur l’utilisation par les organ­ismes soci­aux d’algorithmes à des fins de con­trôle social sur notre page dédiée et notre Git­lab.

Au nom de la “ratio­nal­i­sa­tion” de l’action publique et d’une promesse “d’accompagnement per­son­nal­isé” et de “rela­tion aug­men­tée”, se des­sine ain­si l’hori­zon d’un ser­vice pub­lic de l’emploi large­ment automa­tisé. Cette automa­ti­sa­tion est ren­due pos­si­ble par le recours à une myr­i­ade d’algorithmes qui, de l’inscription au suivi réguli­er, se voient chargés d’analyser nos don­nées afin de mieux nous éval­uer, nous tri­er et nous class­er. Soit une exten­sion des logiques de sur­veil­lance de masse visant à un con­trôle social tou­jours plus fin et con­tribuant à une déshu­man­i­sa­tion de l’accompagnement social.

De la CAF à France Travail : vers la multiplication des “scores de suspicion”

C’est, ici encore, au nom de la “lutte con­tre la fraude” que fut dévelop­pé le pre­mier algo­rithme de pro­fi­lage au sein de France Tra­vail. Les pre­miers travaux visant à éval­uer algo­rith­mique­ment l’honnêteté des per­son­nes sans emploi furent lancés dès 2013 dans la foulée de l’officialisation par la CAF de son algo­rithme de nota­tion des allo­cataires. Après des pre­miers essais en interne jugés “frus­trants”, France Tra­vail – à l’époque Pôle Emploi – se tourne vers le secteur privé. C’est ain­si que le développe­ment d’un out­il de déter­mi­na­tion de la pro­bité des demandeur·ses d’emploi fut con­fié à Cap Gem­i­ni, une multi­na­tionale du CAC40.

La nota­tion des chômeur·ses est général­isée en 2018. La présen­ta­tion qui en est faite par France Tra­vail donne à voir, comme à la CAF, l’imaginaire d’une insti­tu­tion assiégée par des chômeur·ses présumé·es mal­hon­nêtes. Ses dirigeant·es expliquent que l’algorithme assigne un “score de sus­pi­cion” – dans le texte – visant à détecter les chômeur·ses les plus sus­cep­ti­bles “d’escroquerie” grâce à l’exploitation de “sig­naux faibles” [1]. Une fois l’ensemble des per­son­nes sans emploi notées, un sys­tème d’“alertes” déclenche ain­si des con­trôles lorsque l’algorithme détecte des sit­u­a­tions “sus­pectes” (emploi fic­tif, usurpa­tion d’identité, reprise d’emploi non déclarée) [2].

Pour l’heure, France Tra­vail s’est refusé à nous com­mu­ni­quer le code source de l’algorithme. Au pas­sage, notons que ses dirigeants ont par ailleurs refusé, en vio­la­tion fla­grante du droit français, de fournir la moin­dre infor­ma­tion aux demandeur·ses d’emploi que nous avions accompagné·es pour exercer leur droit d’accès au titre du RGPD. Nous avons cepen­dant obtenu, via l’accès à cer­tains doc­u­ments tech­niques, la liste des vari­ables util­isées.

On y retrou­ve une grande par­tie des don­nées détenues par France Tra­vail. Aux vari­ables per­son­nelles comme la nation­al­ité, l’âge ou les modal­ités de con­tact (mails, télé­phone…) s’ajoutent les don­nées rel­a­tives à notre vie pro­fes­sion­nelle (employeur·se, dates de début et de fin de con­trat, cause de rup­ture, emploi dans la fonc­tion publique, secteur d’activité…) ain­si que nos don­nées finan­cières (RIB, droits au chô­mage…). À ceci s’ajoute l’utilisation des don­nées récupérées par France Tra­vail lors de la con­nex­ion à l’espace per­son­nel (adresse IP, cook­ies, user-agent). La liste com­plète per­met d’entrevoir l’ampleur de la sur­veil­lance numérique à l’œuvre, tout comme les risques de dis­crim­i­na­tions que ce sys­tème com­porte.

Profilage psychologique et gestion de masse

Fort de ce pre­mier “suc­cès”, France Tra­vail décide d’accroître l’usage d’algorithmes de pro­fi­lage. C’est ain­si que, dès 2018, ses dirigeant·es lan­cent le pro­gramme Intel­li­gence Emploi [3]. Son ambi­tion affichée est de met­tre l’intelligence arti­fi­cielle “au ser­vice de l’emploi” pour “révéler à chaque deman­deur d’emploi son poten­tiel de recrute­ment”.

Un des axes de tra­vail retient notre atten­tion : “Accélér­er l’accès et le retour à l’emploi [via un] diag­nos­tic “aug­men­té” pour un accom­pa­g­ne­ment plus per­son­nal­isé”. Ici, l’IA doit per­me­t­tre d’“aug­menter la capac­ité de diag­nos­tic” rel­a­tive aux “traite­ments des aspects moti­va­tion­nels” via la “détec­tion de sig­naux psy­chologiques”. En son sein, deux cas d’usage retenus sont par­ti­c­ulière­ment frap­pants.

Le pre­mier est le développe­ment d’algorithmes visant à “anticiper les éventuels décrochages”, prévenir les “risques de rup­ture” ou encore “détecter les moments où ils [les per­son­nes au chô­mage] peu­vent se sen­tir découragés ou en sit­u­a­tion de fragilité”.

Ces travaux ont trou­vé, au moins en par­tie [4], un pre­mier aboutisse­ment dans l’outil du Jour­nal de la Recherche d’Emploi (JRE) actuelle­ment expéri­men­té dans plusieurs régions de France [5]. Le JRE assigne à chaque incrit·e qua­tre scores de “pro­fi­lage psy­chologique” visant respec­tive­ment à éval­uer la “dynamique de recherche” d’emploi, les “signes de perte de con­fi­ance”, le “besoin de redy­nami­sa­tion” ou les “risques de dis­per­sion”.

Ces infor­ma­tions sont syn­thétisées et présen­tées aux conseiller·es sous la forme d’un tableau de bord. “Par­cours à analyser”, “Sit­u­a­tions à exam­in­er”, “Dynamique de recherche faible” : des alertes sont remon­tées con­cer­nant les chômeur·ses jugé·es déficient·es par tel ou tel algo­rithme. Le ou la conseiller·e doit alors faire un “diag­nos­tic de sit­u­a­tion” – via l’interface numérique – afin d’“adapter l’intensité” des “actions d’accompagnement”. Et là encore, ils et elles peu­vent s’appuyer sur des “con­seils per­son­nal­isés” générés par un dernier algo­rithme [6].

Con­trôle, mécan­i­sa­tion et déshu­man­i­sa­tion de l’accompagnement : voilà la réal­ité de ce que le directeur de France Tra­vail appelle “l’accompagnement sur mesure de masse”.

Diagnostic et score d’employabilité

Le sec­ond cas d’usage est tout aus­si inquié­tant. Il s’agit de déter­min­er la “qual­ité” d’un·e demandeur·se d’emploi. Ou, pour repren­dre les ter­mes offi­ciels, son “employ­a­bil­ité”. Ce pro­jet n’est pas encore déployé à grande échelle, mais nous savons qu’une pre­mière ver­sion – basée, elle, sur des tech­niques d’intelligence arti­fi­cielle – a été dévelop­pée en 2021.

L’algorithme alloue à chaque inscrit·e un score prédis­ant ses “chances de retour à l’emploi”. Véri­ta­ble out­il automa­tique de tri des chômeur·ses, il vise à organ­is­er la “pri­or­i­sa­tion des actions d’accompagnement” en fonc­tion d’un sup­posé degré d’autonomie de la per­son­ne sans emploi.

Si les infor­ma­tions disponibles sur ce pro­jet sont lim­itées, on peut imag­in­er que ce score per­me­t­tra le con­trôle en temps réel de la “pro­gres­sion de la recherche d’emploi” via les actions entre­pris­es pour amélior­er “l’attractivité [de leur] pro­fil”. Il serait alors un indi­ca­teur d’évaluation en con­tinu de la bonne volon­té des chômeur·ses.

Mais on peut aus­si penser qu’il sera util­isé pour inciter les per­son­nes sans emploi à se diriger vers les “métiers en ten­sion”, dont une majorité con­cen­tre les con­di­tions de tra­vail les plus dif­fi­ciles. En deman­dant aux chômeur·ses d’améliorer leur score, via une réori­en­ta­tion, ils et elles seraient encouragé·es à accepter un emploi au rabais.

Agenda partagé & agences virtuelles

Mais l’étendue du proces­sus de numéri­sa­tion à l’oeuvre à France Tra­vail va bien au-delà de ces exem­ples. Côté con­trôle numérique, citons l’interface “XP RSA”, l’outil numérique déployé dans le cadre de la récente réforme du RSA. Cette inter­face n’est rien d’autre qu’un agen­da partagé per­me­t­tant de déclar­er, et de con­trôler, les quinze à vingt “heures d’activité” heb­do­madaires dont vont devoir s’acquitter les béné­fi­ci­aires du min­i­ma social. Son rem­plis­sage for­cé est un pas sup­plé­men­taire vers le flicage des plus pré­caires.

Côté IA, France Tra­vail a lancé en 2024 le pro­gramme “Data IA”, suc­cesseur d’Intel­li­gence Emploi men­tion­né plus haut. Présen­té avec fra­cas au salon de l’“inno­va­tion tech­nologique” VivaT­e­ch – organ­isé par le groupe Pub­li­cis –, on retrou­ve par­mi les pro­jets en développe­ment une IA généra­tive visant à numéris­er l’accompagnement et la recherche d’emploi (“Match FT”) [7]. France Tra­vail s’intéresse aus­si aux “maraudes numériques” pour “remo­bilis­er les jeunes les plus éloignés de l’emploi” et au développe­ment d’“agences virtuelles”.

Austérité, automatisation et précarisation

La numéri­sa­tion de France Tra­vail signe la nais­sance d’un mod­èle de ges­tion de masse où coex­is­tent une mul­ti­tude d’algorithmes ayant cha­cun la tâche de nous clas­si­fi­er selon une dimen­sion don­née. Risque de “fraude”, de “dis­per­sion”, de “perte de con­fi­ance”, suivi des divers­es oblig­a­tions : les capac­ités de col­lecte et de traite­ments de don­nées sont mis­es au ser­vice de la détec­tion, en temps réel, des moin­dres écarts à des normes et règles tou­jours plus com­plex­es. Cette numéri­sa­tion à marche for­cée sert avant tout à con­trôler les per­son­nes sans emploi [8].

Alors qu’­Gabriel Attal [1^e min­istre en sur­sis] avait annon­cé une énième réforme de l’assurance-chômage, ce con­trôle ne cache plus son but : forcer les plus pré­caires à accepter des con­di­tions de tra­vail tou­jours plus dégradées.

Loin des promess­es de “libér­er du temps pour les con­seillers” ou d’offrir un accom­pa­g­ne­ment “plus réac­t­if et plus per­son­nal­isé” aux per­son­nes sans emploi, cette numéri­sa­tion con­tribue à la déshu­man­i­sa­tion d’un ser­vice essen­tiel et à l’exclusion des plus pré­caires, voire tend à une général­i­sa­tion du non-recours aux droits. Il ne s’agit pas d’idéaliser le traite­ment “au guichet”, mais de rap­pel­er que la numéri­sa­tion for­cée accentue les écueils de ce dernier. En accom­pa­g­nant la fer­me­ture des points d’accueil, elle trans­fère une par­tie du tra­vail admin­is­tratif aux per­son­nes usagères du ser­vice pub­lic, par­tic­i­pant à l’éloignement de celles et ceux qui ne sont pas en mesure de le pren­dre en charge [9].

En stan­dard­is­ant les proces­sus d’accompagnement, via la quan­tifi­ca­tion de chaque action et le pro­fi­lage de toute une pop­u­la­tion, elle restreint les pos­si­bil­ités d’échange et sup­prime toute pos­si­bil­ité d’accompagnement réelle­ment per­son­nal­isé [10].

En facil­i­tant le con­trôle général­isé, elle accentue enfin la stig­ma­ti­sa­tion des plus pré­caires et par­ticipe active­ment à leur paupéri­sa­tion.

Notes

[1] L’expression “score de sus­pi­cion” est extraite de l’analyse d’impact disponible ici, celle de “sig­naux faibles” d’une note de suivi des travaux OCAPI 2018 disponible ici, celle d’“indices” de l’arti­cle présen­tant la col­lab­o­ra­tion de France Tra­vail avec Cap Gem­i­ni. Quant au terme d’“escro­querie”, il est issu d’un échange de mails avec un·e respon­s­able de France Tra­vail.

[2] L’algorithme util­isé sem­ble se baser sur des arbres de déci­sions, sélec­tion­nés via XGBoost. Les prin­ci­paux cas d’entraînement sem­blent être la détec­tion de péri­odes d’activité dites “fic­tives” – soit des péri­odes de tra­vail déclarées mais non tra­vail­lées – d’usurpation d’identité et de reprise d’emploi non déclarée. Voir ce doc­u­ment.

[3] Ce pro­gramme, financé à hau­teur de 20 mil­lions d’euros par le Fond de Trans­for­ma­tion de l’Action Publique a été con­stru­it autour de 3 axes et s’est déroulé de 2018 à 2022. Voir notam­ment la note de 2020 envoyée à la DINUM par France Tra­vail, disponible ici.

[4] En par­tie puisqu’au cœur des algo­rithmes du JRE, nulle trace de machine learn­ing ou de traite­ments sta­tis­tiques com­plex­es. Chaque score résulte de l’application de règles sim­ples, bien loin des ambi­tions ini­tiales de recours à l’intelligence arti­fi­cielle. Les dirigeant·es de France Tra­vail sem­blent ici avoir éprou­vé les lim­ites d’un tech­no-solu­tion­nisme béat. Voir ce doc­u­ment. À not­er aus­si que ce doc­u­ment évoque une “brique IA Mire” por­tant sur la détec­tion de “sit­u­a­tions de décrochage”. Il se pour­rait donc que des algo­rithmes plus avancés soient en développe­ment.

[5] Le JRE est une refonte de l’interface numérique. Voir à ce sujet l’excellent arti­cle de Bas­ta disponible ici. Si le JRE ne sem­ble pas avoir été créé dans le cadre du pro­gramme Intel­li­gence Emploi, il sem­ble avoir été le cadre d’expérimentations de plusieurs des solu­tions pro­duites. Voir ici.

[6] Les doc­u­ments les plus par­lants sur la mécan­i­sa­tion de l’accompagnement via le JRE sont ce sup­port et ce doc­u­ment à des­ti­na­tion des conseiller·es. Voir aus­si les doc­u­ments que nous met­tons en ligne sur l’utilisation d’IA pour génér­er des con­seils automa­tisés, con­sulta­bles par les per­son­nes sans emploi et les conseiller·es.

[7] Pour Match FT, voir cet entre­tien, ce tweet et cet arti­cle de la Banque des Ter­ri­toires. Voir aus­si Chat FT, l’IA généra­tive pour l’instant dédiée aux conseillers·es, dans ce doc­u­ment.

[8] Sur l’histoire du con­trôle à France Tra­vail, voir le livre Chômeurs, vos papiers de C.Vivès, L. Siga­lo Snatos, J.-M Pil­lon, V. Dubois et H. Clou­et, le rap­port Le con­trôle des chômeurs de J‑M Méon, P. Emmaule et V. Dubois disponible ici et le livre France Tra­vail : gér­er le chô­mage de masse de Jean-Marie Pil­lon.

[9] Voir le livre L’Etat social à dis­tance de Clara Dev­ille.

[10] Voir le texte Déshu­man­is­er le tra­vail social de Kel­toum Bra­han et Muriel Bom­bar­di, pub­lié dans le numéro de févri­er 2017 de CQFD.