Rap­port Amnesty Inter­na­tion­al sur le fil “Pour toi” (sep­tem­bre 2023)

Trente-neuf plaignant.es, issu.es de 16 familles, réuni.es autour du col­lec­tif Algos Vic­ti­ma (struc­ture créée par une avo­cate en 2024), se sont associé.es dans une plainte con­tre le réseau social Tik­Tok, le lun­di 11 mai, pour abus de faib­lesse. Ils et elles esti­ment que Tik­Tok prof­ite de la vul­néra­bil­ité de leurs enfants, les pous­sant par­fois jusqu’au sui­cide.

Cela rap­pelle les actions – vic­to­rieuses – engagées en Cal­i­fornie et au Nou­veau-Mex­ique con­tre Meta (mai­son mère de Face­book, Insta­gram, What­sApp…) et Google (ser­vice de stream­ing vidéo Youtube) pour leur influ­ence néfaste sur la san­té men­tale des mineurs.

En France comme à l’étranger, plusieurs procé­dures visent désor­mais directe­ment la respon­s­abil­ité des algo­rithmes addic­tifs des réseaux soci­aux, entraî­nant des usagers jeunes et frag­iles dans des boucles de con­tenus de plus en plus vio­lents ou qui engen­dre des patholo­gies destruc­tri­ces.

Alors que les dirigeants éta­tiques pré­tendaient jusque là qu’il était impos­si­ble de met­tre en cause la respon­s­abil­ité des indus­triels, pour des con­tenus pro­duits à l’é­tranger et qu’ils se con­tentaient de dif­fuser, les défenseurs des vic­times arrivent à démon­ter que ce sont bien les dis­posi­tifs algo­rith­miques élaborés par ces indus­triels qui sont en cause.

Cette nou­velle plainte col­lec­tive vient s’ajouter à l’enquête ouverte con­tre Tik­Tok par l’Union européenne pour non-respect du DSA (Dig­i­tal Ser­vice Act), ou à celle du par­quet de Paris après la com­mis­sion d’enquête par­lemen­taire sur les effets psy­chologiques de Tik­Tok (que nous avons déjà présen­té, avec d’autres sources).

“Ce qui est extra­or­di­naire­ment trou­blant, c’est que ces adolescent.es peu­vent venir de milieux dif­férents, de régions dif­férentes, avec des his­toires de vie dif­férentes, et pour­tant on retrou­ve tou­jours la même mécanique”, observe l’avocate fon­da­trice du col­lec­tif.

“Elle cher­chait de l’aide sur Tik­Tok. L’algorithme lui a servi des vidéos pour mourir”, dénonce le père d’une jeune fille qui s’est sui­cidée à l’âge de 18 ans, en févri­er 2024. Pen­dant des semaines après le drame, sa famille a ignoré ce qu’elle regar­dait réelle­ment sur son télé­phone. “On a décou­vert dans quelle noirceur numérique elle vivait”, lorsque l’appareil a fini par être déblo­qué.

Dans le fil “Pour toi”, par lequel l’algorithme de Tik­Tok pousse des con­tenus en fonc­tion des vidéos regardées, les proches dis­ent avoir retrou­vé une suc­ces­sion d’images autour du sui­cide et de l’automutilation. Des vidéos expli­quant “com­ment faire un nœud coulant”, “au bout de com­bi­en de sec­on­des on perd con­nais­sance”, ou encore décrivant dif­férentes méth­odes pour met­tre fin à ses jours.

Amnesty Inter­na­tion­al avait analysé dès sep­tem­bre 2023 la mécanique algo­rith­mique du fil “Pour toi”. Nous avions relayé leur péti­tion à l’époque. Médi­a­part avait aus­si livré une analyse de ce que les algo­rithmes mon­trent vrai­ment aux ado­les­cents de 13 ans.

Les familles expliquent que le pre­mier télé­phone est arrivé tôt, dès l’entrée au col­lège, pour s’assurer que tout allait bien sur le tra­jet ou à la sor­tie de l’école, avec une volon­té d’encadrer son util­i­sa­tion : con­trôle parental, télé­phone coupé le soir, box dés­ac­tivée la nuit. 

Lors des pre­miers usages de Tik­Tok, les par­ents n’y voient qu’une appli­ca­tion de plus dans la vie de leurs adolescent.es. Une mère, intriguée, crée un faux compte et décou­vre des vidéos “très som­bres”, des repub­li­ca­tions de “tutos” expli­quant “com­ment se faire du mal”, des con­tenus par­lant de scar­i­fi­ca­tion, de dépres­sion et de trou­bles ali­men­taires.

Cela peut aus­si inter­venir par­al­lèle­ment à des prob­lèmes ren­con­trés dans le monde physique, har­cèle­ment sco­laire par exem­ple. Et entraîn­er un décrochage sco­laire jusqu’à la dés­co­lar­i­sa­tion, avec une addic­tion (Tik­Tok jusqu’à dix heures par jour, “elle ne dor­mait plus”). Un suivi psy­chi­a­trique est même engagé pour plusieurs, qui n’empêche pas, pour certain.es, le drame.

Cinq familles engagées dans la plainte y vien­nent après le sui­cide de leurs filles. Les autres mineurs (dix filles et un garçon) souf­frent d’anorex­ie, de dépres­sion, ou encore d’idées sui­cidaires.

Partout dans le monde

Les procé­dures engagées aux États-Unis con­tre Meta et Google visent directe­ment les mécan­ismes de recom­man­da­tion et les logiques addic­tives des plate­formes. Là-bas, quar­ante-deux procureur·es généraux pour­suiv­ent Meta pour avoir dévelop­pé cer­taines fonc­tion­nal­ités addic­tives des­tinées aux enfants et aux adolescent·es.

Au Cana­da, ce sont qua­tre con­seils sco­laires de l’Ontario qui récla­ment de leur côté 4,5 mil­liards de $ cana­di­ens (2,8 mil­liards d’eu­ros) à Meta, Tik­Tok et Snapchat, qu’ils accusent d’avoir aggravé la crise de la san­té men­tale et de l’attention chez les élèves. Au Brésil, une loi entrée en vigueur en 2025 prévoit désor­mais une respon­s­abil­ité civile automa­tique des plate­formes en cas de dom­mages causés au développe­ment des mineur·es. 

En Aus­tralie, l’autorité de régu­la­tion eSafe­ty Com­mis­sion­er a exigé de Meta et de Snapchat qu’ils réduisent forte­ment l’exposition des adolescent·es aux con­tenus liés à l’automutilation, sous peine de sanc­tions pou­vant aller jusqu’au blocage de leurs ser­vices.

Même con­stat du côté d’Amnesty Inter­na­tion­al. Pour Katia Roux, respon­s­able des ques­tions tech­nologiques de l’ONG, la nou­velle procé­dure judi­ci­aire s’inscrit dans une prise de con­science plus large du rôle des plate­formes dans la dégra­da­tion de la san­té men­tale des mineur·es. Pour elle, “ce n’est pas une action isolée qui fera bouger les lignes, mais la mul­ti­pli­ca­tion des procé­dures judi­ci­aires, des enquêtes et des actions régle­men­taires”.

Au delà de la limitation d’accès selon l’âge

Par­mi les prin­ci­pales recom­man­da­tions de la com­mis­sion par­lemen­taire fig­u­rait l’interdiction des réseaux soci­aux aux moins de 15 ans. Une propo­si­tion de loi de la députée macro­niste Lau­re Miller, d’après elle “faute de mieux”, soutenue par le gou­verne­ment, a été adop­tée en jan­vi­er à l’Assemblée nationale, puis remaniée en mars par le Sénat, qui a ajouté plusieurs modal­ités de con­trôle sup­plé­men­taires.

Compte tenu de l’at­tente d’un avis de la Com­mis­sion européenne sur la com­pat­i­bil­ité de ces nou­velles dis­po­si­tions avec le droit com­mu­nau­taire, et d’un cal­en­dri­er lég­is­latif ten­du, rien ne dit que l’exécutif tien­dra son objec­tif d’une mise en appli­ca­tion dès le mois de sep­tem­bre.

Nous avons déjà exprimé des doutes sur cette stratégie d’in­ter­dic­tion qui revient, au final, à exonér­er l’État et les plate­formes de leurs oblig­a­tions de pro­tec­tion, et qui impute aux adolescent.es et à leurs par­ents la seule respon­s­abil­ité de leurs “égare­ments”. Nous avons aus­si relayé l’oppo­si­tion des représentant.es de jeunes de toute l’Eu­rope à cette impo­si­tion d’une inter­dic­tion par l’âge qui mécon­nait leurs droits à s’in­former libre­ment, à dévelop­per des rela­tions sociales qui ne sont pas toutes con­stru­ites sur des algo­rithmes per­vers.

Le prési­dent de la com­mis­sion d’en­quête de l’Assem­blée Nationale estime que le débat ne peut pas se lim­iter à la seule ques­tion de l’âge. Pour lui, les plate­formes “ne respectent pas réelle­ment les oblig­a­tions du DSA” (Dig­i­tal Ser­vices Act, règle­ment européen cen­sé les encadr­er). Il appelle notam­ment à ren­forcer les capac­ités d’enquête européennes et le rôle des “sig­naleurs de con­fi­ance”, chargés d’alerter rapi­de­ment sur les con­tenus dan­gereux.

La Com­mis­sion européenne a déjà la pos­si­bil­ité d’examiner le fonc­tion­nement des algo­rithmes et d’exiger des change­ments lorsque cer­taines fonc­tion­nal­ités favorisent des con­tenus jugés dan­gereux pour les mineur·es. Le DSA prévoit aus­si des sanc­tions pou­vant attein­dre 6 % du chiffre d’affaires mon­di­al en cas de man­que­ments répétés. Au delà, il serait pos­si­ble de sus­pendre la dif­fu­sion de la plate­forme.