Image © Romain Gautier / Hans Lucas via AFP
Nous relayons la tribune diffusée sur Médiapart, signée par de nombreuses organisations et auteurs techno-critiques. Elle revient sur plusieurs dispositifs légaux (notamment interdiction des réseaux sociaux aux moins de 15 ans) pris sans évaluer leur faisabilité, et sans prendre en comptes les restrictions de liberté qu'ils induisent.
Alors que l’intelligence artificielle générative - notamment Grok - est utilisée pour créer des images sexualisées sans consentement, ce sont des réponses inadaptées et simplistes qui sont apportées à des problèmes qui nécessitent des solutions systémiques.
Pour un ensemble de spécialistes, militantes et collectifs, "il est grand temps de lutter contre la toute-puissance de ces corporations internationales étrangères, et de faire valoir le droit européen pour un espace public en ligne sûr."
Ces dernières semaines ont été marquées par de nouveaux scandales en matière de détournement des réseaux sociaux et des outils numériques au service du patriarcat.
Pendant les fêtes de fin d’année, l’intelligence artificielle Grok a été intégrée à la plateforme X. Des internautes en ont profité pour générer des images dénudées de femmes et d’enfants, parmi les victimes de ces deepfakes se trouvaient des adolescentes mortes dans l’incendie de Crans-Montana. L’utilisation de l’intelligence artificielle générative pour créer des images sexualisées sans consentement n’est pas récente : les organisations féministes tirent la sonnette d’alarme depuis l’apparition de ces technologies.
La société civile appelle également, et ce depuis longtemps, à lutter contre les contenus pédocriminels. Le volume de ces contenus a augmenté de façon spectaculaire ces 20 dernières années et près d’un·e enfant sur cinq en Europe a été confronté à des sollicitations sexuelles en ligne [1]. Ce à quoi la Commission européenne a feint de répondre avec un projet de loi liberticide dit “Chat Control”.
De fausses bonnes idées qui ne conviennent pas à la réalité du terrain
Mais quelles sont les solutions préconisées jusqu’ici ? Tout simplement interdire les réseaux sociaux aux mineur·es de moins de 15 ans, et surveiller en masse les discussions privées.
Des réponses inadaptées et simplistes, à des problèmes qui nécessitent pourtant des solutions systémiques. Pire, elles créent de nouvelles vulnérabilités, sans efficacement lutter contre la dérive initiale.
Depuis quand interdire l’accès à un espace public numérique à un groupe exposé à la violence est-elle une solution ? Par cette logique, les femmes seraient exhortées à quitter les réseaux sociaux pour échapper aux violences en ligne. Les internautes n’ont pas besoin de présence effective d’adolescent·es pour générer des deepfakes à caractère pédocriminel. L’enjeu est de garantir un Internet sûr, et non pas un Internet dont on exclurait les femmes et les mineur·es sous couvert de les protéger.
L’obligation de protection et de modération des plateformes est également remise en cause : quelles sont-elles si les internautes ont la responsabilité de prouver leur âge ? Quels recours seraient donc prévus pour les mineur·es qui ont contourné la vérification ? À quoi ressembleraient des plateformes, déjà nuisibles, si elles ne sont plus tenues de garantir des espaces sûrs pour ses utilisateur·ices les plus jeunes ? La vérification est d’ailleurs facilement contournable, tel que constaté en Australie, où la loi a été adoptée l’année dernière [2].
Enfin, comment prouver son âge ? Quel traitement de ces données particulières : que ce soit via une déclaration de l’âge ou une preuve d’identité ? Quel droit à la vie privée nous reste-t-il alors ? L’instrumentalisation de la lutte contre les violences faites aux enfants au profit de dérives sécuritaires ou liberticides n’est pas récente, mais entre le projet de loi Chat Control et l’interdiction des médias sociaux aux moins de 15 ans, on assiste à une escalade.
Or se focaliser sur la surveillance ou l’interdiction, c’est autant moins de moyens alloués à la mise en œuvre de solutions reposant sur de réelles politiques publiques de prévention, d’accès à la justice et de prise en charge des victimes.
Les chiffres montrent que les violences sur les enfants ont lieu, dans la majorité des cas, au sein de la famille. Or, étrangement, les pouvoirs publics semblent moins prompts à prendre des mesures ambitieuses et protectrices dans ces cas-là. Preuve qu'il s’agit moins de protéger que de trouver une bonne excuse pour sacrifier toujours plus de libertés au nom de la surveillance généralisée.
Un besoin de politiques publiques complexes, holistiques et ciblées
L’intersectionnalité de ces violences est un point mort de ces réponses inadéquates. Pour rappel, les cyberviolences visent surtout les personnes les plus vulnérables ou discriminées et le phénomène touche en particulier les 18-24 ans, qui sont 87% à en avoir subi, les personnes LGBTQI+ (85%), les personnes racisées (71%) et les femmes de moins de 35 ans (65%) [3].
Pire, ces politiques exposeraient davantage les groupes les plus vulnérables. Le chiffrement – que Chat Control menace de supprimer pour avoir accès à nos conversations privées – permet une communication sûre avec des associations, l’accès à des services sensibles, comme l’accès à l’avortement dans des contextes où cela peut-être criminalisé, ou encore l’exposition aux représailles ou à la censure des militant·es, journalistes et personnes LGBTIQ+. Des femmes ont déjà été traduites en justice aux États-Unis ou en Angleterre, après que leurs données issues de messageries ou d’applications menstruelles ont été communiquées aux autorités.
Seuls les droits et les libertés sont universels, notamment la protection des données et le droit au respect de la vie privée. La fin du chiffrement et de l’anonymat en ligne expose à de potentielles dérives autoritaires et sécuritaires, dont nous ne pouvons ignorer la résurgence, y compris en Europe. Pour rappel, l’absence de chiffrement accroît l’exposition aux représailles, à la censure et à la surveillance étatique, y compris pour nous, organisations de la société civile.
Il est donc particulièrement inquiétant que des militant·es, organisations et allié·es à l’égalité des genres et à la protection de l’enfance soutiennent ces réformes sécuritaires et idéologiques. Il nous faut exiger des solutions à hauteur des ambitions, qui comprennent une approche intégrée centrée sur les besoins des publics concernés, et particulièrement les jeunes, associant la responsabilisation des plateformes et la mise en œuvre de la régulation, la sensibilisation et formation des publics et des professionnel·les ainsi que la prise en charge holistique des victimes.
Il nous faut également promouvoir des plateformes plus respectueuses des droits humains et de la protection de leurs utilisateur·ices. Nous ne pouvons pas faire peser sur les internautes le poids de leur protection, qui ne peut dépendre de compétences techniques individuelles ou de la compromission de nos libertés. Il est grand temps de lutter contre la toute-puissance de ces corporations internationales étrangères, et de faire valoir le droit européen pour un espace public en ligne sûr.
Notes :
[1] Rapport Into the Light Index 2025 de Childlight, cité par IREDIC
[2] “En Australie, les débuts balbutiants de l’interdiction des réseaux sociaux aux moins de 16 ans”
[3] "Cyberviolence et cyberharcèlement : le vécu des victimes", Féministes contre le cyberharcèlement, Institut IPSOS, 2022
Signataires
| Agir ensemble pour les droits humains | Asociación cultural Baizara | Boussole Féministe |
| C.A.L.I Collectif d'aide et de lutte contre l'inceste et les coercitions sexuelles | La Chaire sur la modération des contenus | Collectif Changer de Cap |
| Collectif LutteHSM | Collectif Zef | Data for Good |
| Defend DemocracyDigiQ | ECHAP | |
| European Network Against Racism (ENAR) | Féministes révolutionnaires Paris | Institut du Genre en Géopolitique |
| Génération Panasiatique | LOVE-Storm.de | New School of the Anthropocene |
| Nous Toutes | Open right group | La Quadrature du Net |
| REC (Résistons Ensemble Contre la cyber haine) | Ritimo | Skyline International for Human Rights (SIHR) |
| Social Good Accelerator | #StopFisha | Superrr |
| Toutes des Femmes | Vox Public | Wiquaya |
| Ségolène Amiot, députée de Loire-Atlantique | Raymond Amumpaire, Independent Digital Rights and Policy Analyst with Digital Rights Alliance Africa (DRAA) | Alice Barbe, entrepreneure sociale |
| Yaël Benayoun, chercheuse indépendante en sciences sociales | Fatima Benomar, militante féministe | Adélaïde Bon, autrice |
| Cécile Cée, autrice et illustratrice de BD | Typhaine D, artiste féministe, victime de cyberharcèlement misogyne | Lynda Dematteo, anthropologue CNRS EHESS |
| Thomas Dossus, sénateur écologiste du Rhône | Pauline Ferrari, autrice et journaliste indépendante | Hildegarde, artiste |
| Stéphanie Lamy, chercheuse, militante féministe, autrice Agora Toxica, la terreur masculiniste | Ophélie Latil, juriste et fondatrice du collectif Georgette Sand | Maëlle Le Corre, journaliste et autrice |
| Clémentine Lemaire, consultante féministe et administratrice des fameuses | Grace Ly, autrice | Julie Ozenne, députée écologiste de l’Essonne |
| Marie Peltier, historienne | Soizic Pénicaud, consultante en politiques publiques du numérique et militante féministe | Maud Royer, autrice |
| Muriel Salmona, présidente de l’association Mémoire Traumatique et Victimologie | Juliette Todisco, @machoboulotdodo, créatrice de contenu | Elodie Vialle, journaliste et consultante |