France Travail veut cibler chômeurs et chômeuses “suspect.es” par une IA

La Quad­ra­ture du net (LQDN) présente ci-dessous sa nou­velle analyse des algo­rithmes de con­trôle déployées dans les admin­is­tra­tions sociales français­es, ici à France Tra­vail, après la CAF et la CNAM. Toutes sont à retrou­ver dans sa page dédiée : France con­trôle.

Cette poli­tique de con­trôle social numérique au détri­ment des plus démuni.es est indis­cutable­ment à met­tre au dis­crédit du pou­voir macro­niste, qui l’in­stalle par étapes depuis 2017. Mais elle cor­re­spond à la vision com­mune des droites (dont les extrêmes), qui ont voté unies en mai la loi de “lutte con­tre les fraudes sociales [et fis­cales]” (le “fis­cal”, con­tre les plus rich­es, y étant réduit à la por­tion con­grue).

Par ailleurs la très per­ti­nente Cel­lule Inves­ti­ga­tion de Radio France a réal­isé un pod­cast sur “Chô­mage busi­ness. Pour qui tra­vaille France Tra­vail ?”. Nous reprenons en bas de cet arti­cle les liens vers les 4 épisodes (le 3^e présen­tant juste­ment l’analyse par LQDN de l’IA pro­jetée).

France Tra­vail développe un algo­rithme de pro­fi­lage des chômeur·euses à des fins de con­trôle, comme le prou­ve un doc­u­ment que nous pub­lions aujourd’hui, en parte­nar­i­at avec la cel­lule inves­ti­ga­tion de Radio France.

Cet algo­rithme, encore en phase de test, man­i­feste la volon­té de France Tra­vail de mas­si­fi­er les con­trôles via l’utilisation d’outils numériques.

Nous appelons à la mobil­i­sa­tion con­tre cet algo­rithme illé­gal et à son aban­don par la direc­tion de France Tra­vail.

Le 10 décem­bre dernier, un nou­v­el out­il numérique était présen­té au comité d’éthique IA de France Tra­vail. Inti­t­ulé “Ciblage du Con­trôle de la Recherche d’Emploi”, son objec­tif est de “recourir à l’IA” afin d’“iden­ti­fi­er les dossiers néces­si­tant un exa­m­en appro­fon­di” et d’“ali­menter automa­tique­ment l’outil de con­trôle de la recherche d’emploi”. Lors de sa présen­ta­tion, cet out­il était en phase active de test, étape préal­able à un déploiement plus large.

En d’autres ter­mes, l’ancien Pôle Emploi cherche à se dot­er d’un out­il sim­i­laire à ceux que nous dénonçons à la CNAF ou à l’Assur­ance mal­adie, visant à automa­tis­er la sélec­tion des per­son­nes devant faire l’objet d’un con­trôle.

6 millions de personnes concernées

Cet algo­rithme vise à “prédire” quel·les chômeur·euses man­queraient à leurs oblig­a­tions de recherche d’emploi. Con­crète­ment, il repose sur la con­struc­tion de pro­fils “suspects/non sus­pects” fondée sur l’analyse de dizaines de mil­liers de con­trôles passés [1]. Chaque per­son­ne inscrite est ensuite assignée à l’un de ces pro­fils sur la base des don­nées per­son­nelles que détient France Tra­vail. Celles et ceux classifié·es comme “suspect·es” sont placé·es sur une liste de per­son­nes pri­or­i­taires à con­trôler.

Types de con­trôles … et déci­sions liées : sus­pen­sion, sup­pres­sion, radi­a­tion !

Si cet algo­rithme est aujourd’hui testé sur les pro­fils de per­son­nes en sit­u­a­tion de rup­ture con­ven­tion­nelle [2], France Tra­vail souhaite “éten­dre l’utilisation du mod­èle à d’autres publics” afin d’“ali­menter automa­tique­ment l’outil de con­trôle et trans­met­tre chaque mois des listes de con­trôle ciblés” [3]. En prenant en compte l’ensemble des per­son­nes au RSA, dont l’inscription à France Tra­vail est oblig­a­toire depuis le 1^er jan­vi­er 2026, ce sont plus de 6 mil­lions de per­son­nes qui pour­raient se voir pro­fil­er chaque mois par l’algorithme [4].

Un ciblage incertain

À ce jour, nous dis­posons seule­ment de la liste des 26 vari­ables util­isées par l’algorithme, mais nous ne con­nais­sons pas les règles util­isées dans la con­struc­tion des pro­fils [5]. Nous ne sommes donc pas en mesure de déter­min­er, via des sim­u­la­tions, quelles pop­u­la­tions sont les plus ciblées par cet out­il. Nous avons fait une demande d’accès au code source de l’algorithme mais, eu égard à l’opacité qu’entretient France Tra­vail vis-à-vis de ses out­ils numériques, il est peu prob­a­ble qu’elle aboutisse.

Par­mi les caté­gories de vari­ables retenues, notons notam­ment celles rel­a­tives aux “activ­ités déclarées”, à la “vis­i­bil­ité du deman­deur d’emploi” (par exem­ple si le CV est en ligne sur le site de France Tra­vail), à la recherche d’un tra­vail dans un “méti­er en ten­sion”, au “niveau de for­ma­tion”, à “l’ancienneté d’inscription”, ou encore à “l’historique des man­que­ments” (absence à un ren­dez-vous par exem­ple). On retrou­ve égale­ment la présence d’une activ­ité non salariée, critère par ailleurs util­isé par la CNAF dans son dernier algo­rithme de scor­ing pour dégrad­er la note des per­son­nes en emploi pré­caire.

Mais l’absence de trans­parence quant aux règles de clas­si­fi­ca­tion de l’algorithme ne doit pas mas­quer l’essentiel. Comme le mon­trent les exem­ples de la CNAF et de la CNAM, ces algo­rithmes sont dan­gereux en eux-mêmes, car ils sont des out­ils par­ti­c­ulière­ment effi­caces pour organ­is­er, en toute impunité, la répres­sion de pop­u­la­tions entières, et en par­ti­c­uli­er des plus vul­nérables.

Déresponsabilisation et répression sociale

En pre­mier lieu car, comme nous l’avions doc­u­men­té en détail dans le cas de la CNAF, l’introduction d’algorithmes dopés à l’IA ou au “machine learn­ing” dépoli­tise la ques­tion du con­trôle social et des vio­lences asso­ciées. France Tra­vail ne fait pas excep­tion : le doc­u­ment présen­té à son comité d’éthique avance, dans un para­graphe inti­t­ulé “Pourquoi recourir à l’IA ?”, que cette dernière per­me­t­trait une “sup­pres­sion des a pri­ori” en pro­posant “des dossiers à con­trôler sur la base de critères objec­tifs”.

Ce que l’on observe ici c’est la trans­for­ma­tion d’un prob­lème poli­tique – le choix des critères de sélec­tion des per­son­nes à con­trôler – en un prob­lème pure­ment tech­nique. Cette dépoli­ti­sa­tion s’accompagne d’une délégiti­ma­tion de la cri­tique des poli­tiques de con­trôle, puisque ces dernières sont désor­mais cen­sées être “neu­tres” et “objec­tives”. Elle procède égale­ment d’une dére­spon­s­abil­i­sa­tion des dirigeant·es qui n’ont plus à assumer, en leur nom, les poli­tiques qui con­duisent au ciblage de cer­taines caté­gories de per­son­nes.

Ajou­tons enfin que le pro­fi­lage algo­rith­mique est util­isé pour invis­i­bilis­er le car­ac­tère dis­crim­i­na­toire des poli­tiques de con­trôle à tra­vers l’individualisation du proces­sus de sélec­tion. Nul·le n’est contrôlé·e parce qu’il ou elle fait par­tie de telle ou telle pop­u­la­tion, mais parce que son “score” indi­vidu­el s’est détéri­oré.

Opacité et maltraitance

À cela s’ajoute l’opacité qui entoure le code des algo­rithmes de pro­fi­lage. En per­me­t­tant aux respon­s­ables des insti­tu­tions sociales de taire la réal­ité du tri social organ­isé, elle com­plique con­sid­érable­ment la mise en lumière de leurs dérives.

On rap­pellera ici que, dans le cas de la CNAF, le code source de l’algorithme n’a été obtenu qu’après une longue bataille juridique et médi­a­tique, tan­dis que celui de l’Assurance mal­adie ne l’a été qu’à la faveur d’une erreur de caviardage par l’administration.

Pen­dant des années, l’absence de pub­li­ca­tion des paramètres de ces algo­rithmes a per­mis à ces insti­tu­tions d’organiser le sur-con­trôle de cer­taines pop­u­la­tions (femmes isolées, per­son­nes au RSA, per­son­nes en sit­u­a­tions de hand­i­cap…) sans jamais avoir à ren­dre de comptes. Pire, les dirigeant·es de ces insti­tu­tions ont prof­ité de cette opac­ité pour aller jusqu’à se van­ter du recours à des out­ils de “mod­erni­sa­tion” à la “pointe de la tech­nolo­gie”.

Ce risque est par­ti­c­ulière­ment fort con­cer­nant France Tra­vail. Car, loin de la com­mu­ni­ca­tion de sa direc­tion van­tant un recours à une IA “éthique” et “trans­par­ente” [6], toutes nos deman­des d’accès au code des IA util­isées par France Tra­vail sont, à ce jour, restées let­tres mortes.

En vio­la­tion fla­grante de la loi, France Tra­vail a notam­ment refusé de nous com­mu­ni­quer la moin­dre infor­ma­tion sur des IA aus­si sen­si­bles que celles util­isées pour échang­er par SMS afin de pro­pos­er des offres d’emplois à des usager·ères (MatchFt) ou celle que France Tra­vail a général­isé auprès de ses con­seillers afin de les aider dans leurs tâch­es quo­ti­di­ennes (ChatFt) [7].

Pire, dans ces deux cas, l’institution n’a même pas pris la peine de motiv­er sa déci­sion auprès de la Com­mis­sion d’accès aux doc­u­ments admin­is­trat­ifs (CADA) – l’institution chargée d’indiquer si ces refus sont légaux ou pas – lorsque nous l’avons saisie.

IA générative et massification des contrôles

Le développe­ment de ce nou­v­el out­il de pro­fi­lage s’inscrit dans un con­texte plus large de mul­ti­pli­ca­tion des out­ils numériques de con­trôle au sein de France Tra­vail. Rien que l’année dernière, nous aler­tions déjà sur le déploiement de “robots” visant à automa­tis­er la déci­sion de clore ou non un con­trôle. Ces “robots” inter­ve­naient lors du con­trôle lui-même, alors que le nou­v­el algo­rithme inter­vient en amont, lors de la sélec­tion des per­son­nes à con­trôler.

Ce qui se des­sine, c’est la volon­té d’automatiser l’ensemble de la chaîne de con­trôle afin de répon­dre aux objec­tifs gou­verne­men­taux de mas­si­fi­ca­tion des con­trôles, dont le nom­bre est passé de 200 000 en 2017 à 730 000 en 2025. En 2027, l’objectif fixé par le gou­verne­ment est d’en réalis­er 1,5 mil­lions [8].

Mais c’est du côté de l’IA généra­tive que les risques les plus impor­tants exis­tent aujourd’hui. Alors que France Tra­vail mul­ti­plie le développe­ment d’IA (ChatfT, Neo­Ft, MatchFT…), on ne peut que s’attendre à ce qu’une IA généra­tive soit déployée à des fins de con­trôle. Con­nec­tée au dossier de la per­son­ne con­trôlée, elle for­mulerait une “sug­ges­tion” quant à la déci­sion à pren­dre par le ou la contrôleur·euse. Ce serait une étape déci­sive vers une automa­ti­sa­tion totale du con­trôle de la recherche d’emploi et la pos­si­bil­ité de mas­si­fi­er, à moin­dre coût, le con­trôle et la sur­veil­lance des mil­lions de per­son­nes inscrites à France Tra­vail.

Il est fon­da­men­tal que France Tra­vail change de poli­tique. Celle qui se des­sine, une automa­ti­sa­tion tou­jours plus inhu­maine du con­trôle, doit être rejetée. Il est encore plus inquié­tant de voir que les dirigeant·es de France Tra­vail ne veu­lent pas voir la réal­ité sociale de leur poli­tique de con­trôle et préfèrent s’enfermer dans la douce mélodie du solu­tion­nisme tech­nologique.

Alors pour nous aider à con­tin­uer la lutte, vous pou­vez nous faire un don et retrou­vez l’ensemble de nos pub­li­ca­tions sur l’utilisation par les organ­ismes soci­aux d’algorithmes à des fins de con­trôle social sur notre page dédiée.

Notes

[1]	L’algorithme a été entraîné sur la base de 60 000 con­trôles passés. Tech­nique­ment, il se base sur un arbre de déci­sion, une tech­nique de machine-learn­ing dont les paramètres sont sélec­tion­nés par itéra­tions suc­ces­sives
[2]	À la date de pub­li­ca­tion du doc­u­ment, l’algorithme avait fait l’objet de deux cam­pagnes de 7 000 tests env­i­ron cha­cune, por­tant sur les per­son­nes ayant fait l’objet d’une rup­ture con­ven­tion­nelle
[3]	Ciblage du con­trôle de la recherche d’emploi, doc­u­ment présen­té en comité d’éthique IA du 10 décem­bre 2025, disponible ici. Le doc­u­ment pré­cise que l’algorithme vise à ali­menter les “listes de con­trôles ciblées”. Ces con­trôles représen­tent env­i­ron 40% de l’ensemble des con­trôles, soit 500 000 con­trôles en 2025, aux côtés des con­trôles aléa­toires ou des con­trôles déclenchés sur “sig­nale­ment”
[4]	Inscrits à France Tra­vail, pre­mier semes­tre 2026, caté­gories A, B, C, D et E, France Tra­vail, disponible ici
[5]	La liste exhaus­tive des vari­ables est disponible dans le doc­u­ment que nous pub­lions
[6]	Voir notam­ment la “Charte de France Tra­vail pour une éthique de ses usages de l’intelligence arti­fi­cielle”, disponible ici.
[7]	Notons que nos deman­des ne por­taient pas que sur le code source de ces IA, mais aus­si sur la doc­u­men­ta­tion tech­nique ou l’analyse d’impact de la pro­tec­tion des don­nées
[8]	Pour les chiffres de 2017, voir l’étude de Pôle Emploi “Le con­trôle de la recherche d’emploi : l’impact sur le par­cours des deman­deurs d’emploi”, disponible ici. Pour 2025, voir le doc­u­ment de présen­ta­tion de l’algorithme. L’objectif de 1,5 mil­lions a été annon­cé par Gabriel Attal en 2024, voir cet arti­cle