Les politiques sécuritaires et liberticides n’ont jamais permis de lutter contre les violences

Image © Romain Gau­ti­er / Hans Lucas via AFP

Nous relayons la tri­bune dif­fusée sur Médi­a­part, signée par de nom­breuses organ­i­sa­tions et auteurs tech­no-cri­tiques. Elle revient sur plusieurs dis­posi­tifs légaux (notam­ment inter­dic­tion des réseaux soci­aux aux moins de 15 ans) pris sans éval­uer leur fais­abil­ité, et sans pren­dre en comptes les restric­tions de lib­erté qu’ils induisent.

Alors que l’intelligence arti­fi­cielle généra­tive – notam­ment Grok – est util­isée pour créer des images sex­u­al­isées sans con­sen­te­ment, ce sont des répons­es inadap­tées et sim­plistes qui sont apportées à des prob­lèmes qui néces­si­tent des solu­tions sys­témiques.

Pour un ensem­ble de spé­cial­istes, mil­i­tantes et col­lec­tifs, “il est grand temps de lut­ter con­tre la toute-puis­sance de ces cor­po­ra­tions inter­na­tionales étrangères, et de faire val­oir le droit européen pour un espace pub­lic en ligne sûr.”

Ces dernières semaines ont été mar­quées par de nou­veaux scan­dales en matière de détourne­ment des réseaux soci­aux et des out­ils numériques au ser­vice du patri­ar­cat.

Pen­dant les fêtes de fin d’année, l’intelligence arti­fi­cielle Grok a été inté­grée à la plate­forme X. Des inter­nautes en ont prof­ité pour génér­er des images dénudées de femmes et d’enfants, par­mi les vic­times de ces deep­fakes se trou­vaient des ado­les­centes mortes dans l’incendie de Crans-Mon­tana. L’utilisation de l’intelligence arti­fi­cielle généra­tive pour créer des images sex­u­al­isées sans con­sen­te­ment n’est pas récente : les organ­i­sa­tions fémin­istes tirent la son­nette d’alarme depuis l’apparition de ces tech­nolo­gies.

La société civile appelle égale­ment, et ce depuis longtemps, à lut­ter con­tre les con­tenus pédocrim­inels. Le vol­ume de ces con­tenus a aug­men­té de façon spec­tac­u­laire ces 20 dernières années et près d’un·e enfant sur cinq en Europe a été con­fron­té à des sol­lic­i­ta­tions sex­uelles en ligne [1]. Ce à quoi la Com­mis­sion européenne a feint de répon­dre avec un pro­jet de loi lib­er­ti­cide dit “Chat Con­trol”.

De fauss­es bonnes idées qui ne con­vi­en­nent pas à la réal­ité du ter­rain

Mais quelles sont les solu­tions pré­con­isées jusqu’ici ? Tout sim­ple­ment inter­dire les réseaux soci­aux aux mineur·es de moins de 15 ans, et sur­veiller en masse les dis­cus­sions privées.

Des répons­es inadap­tées et sim­plistes, à des prob­lèmes qui néces­si­tent pour­tant des solu­tions sys­témiques. Pire, elles créent de nou­velles vul­néra­bil­ités, sans effi­cace­ment lut­ter con­tre la dérive ini­tiale.

Depuis quand inter­dire l’accès à un espace pub­lic numérique à un groupe exposé à la vio­lence est-elle une solu­tion ? Par cette logique, les femmes seraient exhortées à quit­ter les réseaux soci­aux pour échap­per aux vio­lences en ligne. Les inter­nautes n’ont pas besoin de présence effec­tive d’adolescent·es pour génér­er des deep­fakes à car­ac­tère pédocrim­inel. L’enjeu est de garan­tir un Inter­net sûr, et non pas un Inter­net dont on exclu­rait les femmes et les mineur·es sous cou­vert de les pro­téger.

L’obligation de pro­tec­tion et de mod­éra­tion des plate­formes est égale­ment remise en cause : quelles sont-elles si les inter­nautes ont la respon­s­abil­ité de prou­ver leur âge ? Quels recours seraient donc prévus pour les mineur·es qui ont con­tourné la véri­fi­ca­tion ? À quoi ressem­bleraient des plate­formes, déjà nuis­i­bles, si elles ne sont plus tenues de garan­tir des espaces sûrs pour ses utilisateur·ices les plus jeunes ? La véri­fi­ca­tion est d’ailleurs facile­ment con­tourn­able, tel que con­staté en Aus­tralie, où la loi a été adop­tée l’année dernière [2].

Enfin, com­ment prou­ver son âge ? Quel traite­ment de ces don­nées par­ti­c­ulières : que ce soit via une déc­la­ra­tion de l’âge ou une preuve d’identité ? Quel droit à la vie privée nous reste-t-il alors ? L’instrumentalisation de la lutte con­tre les vio­lences faites aux enfants au prof­it de dérives sécu­ri­taires ou lib­er­ti­cides n’est pas récente, mais entre le pro­jet de loi Chat Con­trol et l’interdiction des médias soci­aux aux moins de 15 ans, on assiste à une escalade.

Or se focalis­er sur la sur­veil­lance ou l’interdiction, c’est autant moins de moyens alloués à la mise en œuvre de solu­tions reposant sur de réelles poli­tiques publiques de préven­tion, d’accès à la jus­tice et de prise en charge des vic­times.

Les chiffres mon­trent que les vio­lences sur les enfants ont lieu, dans la majorité des cas, au sein de la famille. Or, étrange­ment, les pou­voirs publics sem­blent moins prompts à pren­dre des mesures ambitieuses et pro­tec­tri­ces dans ces cas-là. Preuve qu’il s’agit moins de pro­téger que de trou­ver une bonne excuse pour sac­ri­fi­er tou­jours plus de lib­ertés au nom de la sur­veil­lance général­isée.

Un besoin de poli­tiques publiques com­plex­es, holis­tiques et ciblées

L’intersectionnalité de ces vio­lences est un point mort de ces répons­es inadéquates. Pour rap­pel, les cybervi­o­lences visent surtout les per­son­nes les plus vul­nérables ou dis­crim­inées et le phénomène touche en par­ti­c­uli­er les 18–24 ans, qui sont 87% à en avoir subi, les per­son­nes LGBTQI+ (85%), les per­son­nes racisées (71%) et les femmes de moins de 35 ans (65%) [3].

Pire, ces poli­tiques exposeraient davan­tage les groupes les plus vul­nérables. Le chiffre­ment – que Chat Con­trol men­ace de sup­primer pour avoir accès à nos con­ver­sa­tions privées – per­met une com­mu­ni­ca­tion sûre avec des asso­ci­a­tions, l’accès à des ser­vices sen­si­bles, comme l’accès à l’avortement dans des con­textes où cela peut-être crim­i­nal­isé, ou encore l’exposition aux repré­sailles ou à la cen­sure des militant·es, jour­nal­istes et per­son­nes LGBTIQ+. Des femmes ont déjà été traduites en jus­tice aux États-Unis ou en Angleterre, après que leurs don­nées issues de mes­sageries ou d’applications men­stru­elles ont été com­mu­niquées aux autorités.

Seuls les droits et les lib­ertés sont uni­versels, notam­ment la pro­tec­tion des don­nées et le droit au respect de la vie privée. La fin du chiffre­ment et de l’anonymat en ligne expose à de poten­tielles dérives autori­taires et sécu­ri­taires, dont nous ne pou­vons ignor­er la résur­gence, y com­pris en Europe. Pour rap­pel, l’absence de chiffre­ment accroît l’exposition aux repré­sailles, à la cen­sure et à la sur­veil­lance éta­tique, y com­pris pour nous, organ­i­sa­tions de la société civile.

Il est donc par­ti­c­ulière­ment inquié­tant que des militant·es, organ­i­sa­tions et allié·es à l’égalité des gen­res et à la pro­tec­tion de l’enfance sou­ti­en­nent ces réformes sécu­ri­taires et idéologiques. Il nous faut exiger des solu­tions à hau­teur des ambi­tions, qui com­pren­nent une approche inté­grée cen­trée sur les besoins des publics con­cernés, et par­ti­c­ulière­ment les jeunes, asso­ciant la respon­s­abil­i­sa­tion des plate­formes et la mise en œuvre de la régu­la­tion, la sen­si­bil­i­sa­tion et for­ma­tion des publics et des professionnel·les ain­si que la prise en charge holis­tique des vic­times. 

Il nous faut égale­ment pro­mou­voir des plate­formes plus respectueuses des droits humains et de la pro­tec­tion de leurs utilisateur·ices. Nous ne pou­vons pas faire peser sur les inter­nautes le poids de leur pro­tec­tion, qui ne peut dépen­dre de com­pé­tences tech­niques indi­vidu­elles ou de la com­pro­mis­sion de nos lib­ertés. Il est grand temps de lut­ter con­tre la toute-puis­sance de ces cor­po­ra­tions inter­na­tionales étrangères, et de faire val­oir le droit européen pour un espace pub­lic en ligne sûr.

Notes :

[1] Rap­port Into the Light Index 2025 de Child­light, cité par IREDIC
[2] “En Aus­tralie, les débuts bal­bu­tiants de l’interdiction des réseaux soci­aux aux moins de 16 ans”
[3] “Cybervi­o­lence et cyber­har­cèle­ment : le vécu des vic­times”, Fémin­istes con­tre le cyber­har­cèle­ment, Insti­tut IPSOS, 2022

Sig­nataires

Agir ensem­ble pour les droits humains	Aso­ciación cul­tur­al Baizara	Bous­sole Fémin­iste
C.A.L.I Col­lec­tif d’aide et de lutte con­tre l’inces­te et les coerci­tions sex­uelles	La Chaire sur la mod­éra­tion des con­tenus	Col­lec­tif Chang­er de Cap
Col­lec­tif Lut­teHSM	Col­lec­tif Zef	Data for Good
Defend Democ­ra­cy­DigiQ	ECHAP
Euro­pean Net­work Against Racism (ENAR)	Fémin­istes révo­lu­tion­naires Paris	Insti­tut du Genre en Géopoli­tique
Généra­tion Panasi­a­tique	LOVE-Storm.de	New School of the Anthro­pocene
Nous Toutes	Open right group	La Quad­ra­ture du Net
REC (Résis­tons Ensem­ble Con­tre la cyber haine)	Riti­mo	Sky­line Inter­na­tion­al for Human Rights (SIHR)
Social Good Accel­er­a­tor	#Stop­Fisha	Super­rr
Toutes des Femmes	Vox Pub­lic	Wiquaya
Ségolène Amiot, députée de Loire-Atlan­tique	Ray­mond Amumpaire, Inde­pen­dent Dig­i­tal Rights and Pol­i­cy Ana­lyst with Dig­i­tal Rights Alliance Africa (DRAA)	Alice Barbe, entre­pre­neure sociale
Yaël Benay­oun, chercheuse indépen­dante en sci­ences sociales	Fati­ma Beno­mar, mil­i­tante fémin­iste	Adélaïde Bon, autrice
Cécile Cée, autrice et illus­tra­trice de BD	Typhaine D, artiste fémin­iste, vic­time de cyber­har­cèle­ment misog­y­ne	Lyn­da Demat­teo, anthro­po­logue CNRS EHESS
Thomas Dos­sus, séna­teur écol­o­giste du Rhône	Pauline Fer­rari, autrice et jour­nal­iste indépen­dante	Hilde­garde, artiste
Stéphanie Lamy, chercheuse, mil­i­tante fémin­iste, autrice Ago­ra Tox­i­ca, la ter­reur mas­culin­iste	Ophélie Latil, juriste et fon­da­trice du col­lec­tif Geor­gette Sand	Maëlle Le Corre, jour­nal­iste et autrice
Clé­men­tine Lemaire, con­sul­tante fémin­iste et admin­is­tra­trice des fameuses	Grace Ly, autrice	Julie Ozenne, députée écol­o­giste de l’Essonne
Marie Pelti­er, his­to­ri­enne	Soiz­ic Péni­caud, con­sul­tante en poli­tiques publiques du numérique et mil­i­tante fémin­iste	Maud Roy­er, autrice
Muriel Salmona, prési­dente de l’association Mémoire Trau­ma­tique et Vic­ti­molo­gie	Juli­ette Todis­co, @machoboulotdodo, créa­trice de con­tenu	Elodie Vialle, jour­nal­iste et con­sul­tante