Rapport Amnesty International sur le fil « Pour toi » (septembre 2023)

Trente-neuf plaignant.es, issu.es de 16 familles, réuni.es autour du collectif Algos Victima (structure créée par une avocate en 2024), se sont associé.es dans une plainte contre le réseau social TikTok, le lundi 11 mai, pour abus de faiblesse. Ils et elles estiment que TikTok profite de la vulnérabilité de leurs enfants, les poussant parfois jusqu’au suicide.

Cela rappelle les actions – victorieuses – engagées en Californie et au Nouveau-Mexique contre Meta (maison mère de Facebook, Instagram, WhatsApp…) et Google (service de streaming vidéo Youtube) pour leur influence néfaste sur la santé mentale des mineurs.

En France comme à l’étranger, plusieurs procédures visent désormais directement la responsabilité des algorithmes addictifs des réseaux sociaux, entraînant des usagers jeunes et fragiles dans des boucles de contenus de plus en plus violents ou qui engendre des pathologies destructrices.

Alors que les dirigeants étatiques prétendaient jusque là qu’il était impossible de mettre en cause la responsabilité des industriels, pour des contenus produits à l’étranger et qu’ils se contentaient de diffuser, les défenseurs des victimes arrivent à démonter que ce sont bien les dispositifs algorithmiques élaborés par ces industriels qui sont en cause.

Cette nouvelle plainte collective vient s’ajouter à l’enquête ouverte contre TikTok par l’Union européenne pour non-respect du DSA (Digital Service Act), ou à celle du parquet de Paris après la commission d’enquête parlementaire sur les effets psychologiques de TikTok (que nous avons déjà présenté, avec d’autres sources).

« Ce qui est extraordinairement troublant, c’est que ces adolescent.es peuvent venir de milieux différents, de régions différentes, avec des histoires de vie différentes, et pourtant on retrouve toujours la même mécanique », observe l’avocate fondatrice du collectif.

« Elle cherchait de l’aide sur TikTok. L’algorithme lui a servi des vidéos pour mourir », dénonce le père d’une jeune fille qui s’est suicidée à l’âge de 18 ans, en février 2024. Pendant des semaines après le drame, sa famille a ignoré ce qu’elle regardait réellement sur son téléphone. « On a découvert dans quelle noirceur numérique elle vivait », lorsque l’appareil a fini par être débloqué.

Dans le fil « Pour toi« , par lequel l’algorithme de TikTok pousse des contenus en fonction des vidéos regardées, les proches disent avoir retrouvé une succession d’images autour du suicide et de l’automutilation. Des vidéos expliquant « comment faire un nœud coulant« , « au bout de combien de secondes on perd connaissance », ou encore décrivant différentes méthodes pour mettre fin à ses jours.

Amnesty International avait analysé dès septembre 2023 la mécanique algorithmique du fil « Pour toi« . Nous avions relayé leur pétition à l’époque. Médiapart avait aussi livré une analyse de ce que les algorithmes montrent vraiment aux adolescents de 13 ans.

Les familles expliquent que le premier téléphone est arrivé tôt, dès l’entrée au collège, pour s’assurer que tout allait bien sur le trajet ou à la sortie de l’école, avec une volonté d’encadrer son utilisation : contrôle parental, téléphone coupé le soir, box désactivée la nuit. 

Lors des premiers usages de TikTok, les parents n’y voient qu’une application de plus dans la vie de leurs adolescent.es. Une mère, intriguée, crée un faux compte et découvre des vidéos « très sombres« , des republications de « tutos » expliquant « comment se faire du mal« , des contenus parlant de scarification, de dépression et de troubles alimentaires.

Cela peut aussi intervenir parallèlement à des problèmes rencontrés dans le monde physique, harcèlement scolaire par exemple. Et entraîner un décrochage scolaire jusqu’à la déscolarisation, avec une addiction (TikTok jusqu’à dix heures par jour, « elle ne dormait plus »). Un suivi psychiatrique est même engagé pour plusieurs, qui n’empêche pas, pour certain.es, le drame.

Cinq familles engagées dans la plainte y viennent après le suicide de leurs filles. Les autres mineurs (dix filles et un garçon) souffrent d’anorexie, de dépression, ou encore d’idées suicidaires.

Partout dans le monde

Les procédures engagées aux États-Unis contre Meta et Google visent directement les mécanismes de recommandation et les logiques addictives des plateformes. Là-bas, quarante-deux procureur·es généraux poursuivent Meta pour avoir développé certaines fonctionnalités addictives destinées aux enfants et aux adolescent·es.

Au Canada, ce sont quatre conseils scolaires de l’Ontario qui réclament de leur côté 4,5 milliards de $ canadiens (2,8 milliards d’euros) à Meta, TikTok et Snapchat, qu’ils accusent d’avoir aggravé la crise de la santé mentale et de l’attention chez les élèves. Au Brésil, une loi entrée en vigueur en 2025 prévoit désormais une responsabilité civile automatique des plateformes en cas de dommages causés au développement des mineur·es. 

En Australie, l’autorité de régulation eSafety Commissioner a exigé de Meta et de Snapchat qu’ils réduisent fortement l’exposition des adolescent·es aux contenus liés à l’automutilation, sous peine de sanctions pouvant aller jusqu’au blocage de leurs services.

Même constat du côté d’Amnesty International. Pour Katia Roux, responsable des questions technologiques de l’ONG, la nouvelle procédure judiciaire s’inscrit dans une prise de conscience plus large du rôle des plateformes dans la dégradation de la santé mentale des mineur·es. Pour elle, « ce n’est pas une action isolée qui fera bouger les lignes, mais la multiplication des procédures judiciaires, des enquêtes et des actions réglementaires« .

Au delà de la limitation d’accès selon l’âge

Parmi les principales recommandations de la commission parlementaire figurait l’interdiction des réseaux sociaux aux moins de 15 ans. Une proposition de loi de la députée macroniste Laure Miller, d’après elle « faute de mieux« , soutenue par le gouvernement, a été adoptée en janvier à l’Assemblée nationale, puis remaniée en mars par le Sénat, qui a ajouté plusieurs modalités de contrôle supplémentaires.

Compte tenu de l’attente d’un avis de la Commission européenne sur la compatibilité de ces nouvelles dispositions avec le droit communautaire, et d’un calendrier législatif tendu, rien ne dit que l’exécutif tiendra son objectif d’une mise en application dès le mois de septembre.

Nous avons déjà exprimé des doutes sur cette stratégie d’interdiction qui revient, au final, à exonérer l’État et les plateformes de leurs obligations de protection, et qui impute aux adolescent.es et à leurs parents la seule responsabilité de leurs « égarements ». Nous avons aussi relayé l’opposition des représentant.es de jeunes de toute l’Europe à cette imposition d’une interdiction par l’âge qui méconnait leurs droits à s’informer librement, à développer des relations sociales qui ne sont pas toutes construites sur des algorithmes pervers.

Le président de la commission d’enquête de l’Assemblée Nationale estime que le débat ne peut pas se limiter à la seule question de l’âge. Pour lui, les plateformes « ne respectent pas réellement les obligations du DSA » (Digital Services Act, règlement européen censé les encadrer). Il appelle notamment à renforcer les capacités d’enquête européennes et le rôle des « signaleurs de confiance », chargés d’alerter rapidement sur les contenus dangereux.

La Commission européenne a déjà la possibilité d’examiner le fonctionnement des algorithmes et d’exiger des changements lorsque certaines fonctionnalités favorisent des contenus jugés dangereux pour les mineur·es. Le DSA prévoit aussi des sanctions pouvant atteindre 6 % du chiffre d’affaires mondial en cas de manquements répétés. Au delà, il serait possible de suspendre la diffusion de la plateforme.