Cyberviolences : responsabilité des réseaux sociaux, police et justice défaillantes

Comme le souligne le site Bas­ta!, cyber­har­cèle­ment et vio­lences en lignes visent en majorité les femmes. Mais l’as­sas­si­nat de Samuel Paty mon­tre que les hommes, impliqués dans 74% de ces actes, peu­vent aus­si en être vic­times. Beau­coup d’en­gage­ments des réseaux soci­aux et des autorités poli­tiques, des lois, sont avancés. Avec une effi­cac­ité encore lim­itée et un risque de mesures lib­er­ti­cides.

Ci-dessous extraits d’ar­ti­cles de Bas­ta! et de The Con­ver­sa­tion, ce dernier trai­tant du procès con­cer­nant l’as­sas­i­nat de Samuel Paty.

“Elle est trau­ma­tisée à vie. Elle a vu un déchaîne­ment de haine sans précé­dent, gra­tu­it… Ça a eu un impact sur sa famille, sur ses par­ents.” La boxeuse algéri­enne Imane Khe­lif, a décidé le 9 août 2024 de porter plainte après avoir essuyé une vague de haine sur Inter­net.

Le 1^er août aux JO de Paris, l’Algérienne âgée de 25 ans fait face à l’Italienne Angela Cari­ni en huitième de finale des épreuves de boxe fémi­nine chez les moins de 66 kilos. Après l’a­ban­don d’An­gela, sur les réseaux soci­aux, des poli­tiques (dont la prési­dente du Con­seil ital­ien Gior­gia Mel­oni), des fig­ures publiques (dont l’autrice d’Har­ry Pot­ter J.K. Rowl­ing ou le mil­liar­daire Elon Musk) relaient qu’Imane Khe­lif serait en fait un homme.

“Ça a été repris par tous les réseaux d’extrême droite” avec une grande vio­lence, retrace son avo­cat. “Tous ceux qui voulaient régler leurs comptes avec les femmes, avec les sportives, avec les Arabes, le mou­ve­ment LGBT…”

Ces vagues de violences sur Internet ne touchent pas que les sportives, ni même uniquement les personnalités publiques.

Pour Samuel Paty, dans une vidéo, le père d’une élève avait appelé à écrire à la direc­tion de l’établissement “pour vir­er ce malade” et livrait publique­ment le nom du pro­fesseur, son numéro de télé­phone portable et l’adresse du col­lège. Les insultes, men­aces et com­men­taires haineux con­tre l’enseignant et la direc­trice du col­lège inondèrent les réseaux soci­aux Face­book, What­sApp, Insta­gram, Twit­ter, Snapchat, YouTube, Tik­Tok, Google…

Le pro­fil des vic­times de cybervi­o­lences

Selon une enquête IPSOS de novem­bre 2022 effec­tuée pour l’association Fémin­istes con­tre le cyber­har­cèle­ment auprès de 216 vic­times âgées de 16 à 60 ans, 84 % des vic­times de cybervi­o­lences sont des femmes, dont 43 % des mem­bres de la com­mu­nauté LGBTQIA+. C’est donc un phénomène mas­sif car près de la moitié des Français·es auraient déjà été vic­times de vio­lences en ligne.

Quelle déf­i­ni­tion pour “cybervi­o­lences” ?

Le terme “vio­lences en ligne” regroupe dif­férents dél­its ou crimes punis par la loi française : la diffama­tion, l’injure, le cyber­har­cèle­ment moral ou sex­uel, l’envoi non sol­lic­ité de médias à car­ac­tère sex­uel, les men­aces, la dif­fu­sion puni­tive de médias à car­ac­tère intime (appelée com­muné­ment revenge porn), la demande de médias à car­ac­tère sex­uel à une per­son­ne mineure, ou encore les deep­fake (un mon­tage crédi­ble d’une per­son­ne dans le but de nuire), l’usurpation d’identité, l’incitation au sui­cide en ligne…

Ces faits ne s’arrêtent pas aux portes du numérique. “Mais ce qui est spé­ci­fique aux vio­lences en ligne, c’est l’aspect de l’intemporalité, elles restent dans le temps, et ne sont pas lim­itées à un lieu”, explique Lau­ra Pereira Dio­go, de l’association Stop Fisha. Les comptes “fisha” pub­lient des pho­tos de jeunes femmes, par­fois mineures, dénudées, sans leur con­sen­te­ment.

Les réseaux soci­aux se dédoua­nent de toute respon­s­abil­ité

Le manque de coopéra­tion des entre­pris­es respon­s­ables ajoute à l’“impunité général­isée” des cybervi­o­lences dénon­cée par l’as­so­ci­a­tion Respect zone, de l’av­o­cat Philippe Coen. Lorqu’une enquête mon­tre que des auteurs de cybervi­o­lences agi­raient sous cou­vert d’anonymat, les forces de l’ordre peu­vent envoy­er une réqui­si­tion à un réseau social pour aider à les iden­ti­fi­er. Mais le réseau n’y répond pas tou­jours, et n’en a pas l’obligation lorsque son siège est à l’étranger.

Les vic­times ont tout autant de mal à se tourn­er vers ces entre­pris­es. Mes­sage reçu après un sig­nale­ment, man­i­feste­ment raciste, anti­sémite, etc. : “le con­tenu que vous avez sig­nalé ne con­tre­vient pas aux règles de la com­mu­nauté”.

Le réseau X (ex twit­ter) est bien con­nu pour sa réti­cence à aider la jus­tice. À plusieurs repris­es, la firme améri­caine – dont le siège inter­na­tion­al est basé à Dublin – a été pour­suiv­ie pour “refus de répon­dre à une réqui­si­tion” et “com­plic­ité” de faits pénale­ment répréhen­si­bles, comme l’injure. Il a été, à chaque fois, relaxé.

Une avalanche de lois, par­fois cir­con­stan­cielles

Le Règle­ment Européen sur les ser­vices numériques

Depuis l’été 2023, le Dig­i­tal Ser­vices Act (DSA), Règle­ment européen sur les ser­vices numériques, s’applique aux entre­pris­es de réseaux soci­aux. Il impose la pub­li­ca­tion de rap­ports de trans­parence pour les réseaux soci­aux et plates-formes de partage tels que Face­book, Google Search, Insta­gram, LinkedIn, Pin­ter­est, Snapchat, Tik­Tok, X (anci­en­nement Twit­ter) et YouTube. Ils doivent aus­si don­ner des infor­ma­tions sur leurs équipes de mod­éra­tion de con­tenu, met­tre en place un mécan­isme de sig­nale­ment des con­tenus illicites et fournir des infor­ma­tions sur le fonc­tion­nement de leurs algo­rithmes de recom­man­da­tion.

Ces entre­pris­es doivent aus­si s’assurer du retrait ou du blocage rapi­de du con­tenu illé­gal, tout en facil­i­tant la prise de con­tact avec les autorités. En cas de non-respect de ces oblig­a­tions, les entre­pris­es s’exposent à une amende pou­vant attein­dre jusqu’à 6 % de leur chiffre d’affaires mon­di­al. Un Cen­tre européen pour la trans­parence algo­rith­mique con­trôle l’application du règle­ment. Et un “out­il de dénon­ci­a­tion” per­met aux employés ou autres lanceurs d’alerte de sig­naler les pra­tiques nuis­i­bles des très grandes plates-formes en ligne et des moteurs de recherche.

Des lois français­es

Au niveau français, suite notam­ment à l’af­faire Paty, plusieurs textes ont été adop­tés, notam­ment l’article surnom­mé “Samuel Paty” de la loi sur le respect des principes de la République, qui veut crim­i­nalis­er les actes d’intimidation et d’entrave au tra­vail des enseignants par la dif­fu­sion de mes­sages haineux. Par ailleurs, une loi Schi­ap­pa de 2018 avait intro­duit un délit de “har­cèle­ment en meute” ou raid numérique, visant à pénalis­er les attaques con­certées de mul­ti­ples inter­nautes con­tre une vic­time, même si chaque par­tic­i­pant n’a pas agi de façon répétée.

Mais c’est surtout par la loi “Sécuris­er et Réguler l’Espace Numérique” (SREN, mai 2024) que l’E­tat vise à sanc­tion­ner les plates-formes qui ne retirent pas des con­tenus déclarés illicites dans un délai rapi­de (75 000 € d’amende). Les hébergeurs qui ont con­nais­sance de ce car­ac­tère illicite du con­tenu et qui n’informent pas les autorités com­pé­tentes (pro­cureur de la République), ni ne blo­quent son accès, encourent des sanc­tions jusqu’à 250 000 € et un an d’emprisonnement.

C’est l’ARCOM (Autorité de régu­la­tion de la com­mu­ni­ca­tion audio­vi­suelle et numérique) qui est chargée de veiller au retrait de ces con­tenus et qui con­duit des audits pour véri­fi­er la con­for­mité aux règles. Elle doit aus­si pub­li­er un rap­port annuel sur le nom­bre de sig­nale­ments effec­tués.

Cette loi SREN liste aus­si des mécan­ismes pour mieux sen­si­bilis­er et pro­téger les util­isa­teurs con­tre les dan­gers en ligne. Les plates-formes doivent fournir des out­ils aux util­isa­teurs pour sig­naler facile­ment les con­tenus et com­porte­ments nuis­i­bles. Ce texte prévoit égale­ment que les per­son­nes recon­nues coupables de cyber­har­cèle­ment peu­vent se voir inter­dites de réseaux soci­aux pen­dant six mois ou un an en cas de récidive. Les plates-formes risquent des amendes allant jusqu’à 75 000 € si elles ne ban­nis­sent pas les util­isa­teurs con­damnés pour cyber­har­cèle­ment ou ne blo­quent pas la créa­tion de nou­veaux comptes pour les récidi­vistes.

Cri­tique de la loi SREN

Les peines pour les indi­vidus

Le cyber­har­cèle­ment est un délit sévère­ment puni par des lois visant à lut­ter con­tre le har­cèle­ment moral et les actes répétés de vio­lence en ligne, notam­ment sur les réseaux soci­aux. Une per­son­ne coupable de har­cèle­ment moral encourt jusqu’à deux ans d’emprisonnement et 30 000 € d’amende (trois ans et 45 000 € si la vic­time est mineure). Des peines plus graves peu­vent s’appliquer en cas d’incapacité de tra­vail de la vic­time ou si les actes con­duisent au sui­cide ou à la ten­ta­tive de sui­cide, avec une sanc­tion max­i­male de dix ans d’emprisonnement et 150 000 € d’amende.

Faut-il plus de lois pour lut­ter con­tre ces vio­lences ? “Non”, répon­dent en cœur asso­ci­a­tions et avo­cats. “Faire des lois, ça ne coûte pas cher”, iro­nise Lau­re Salmona, l’une des fon­da­tri­ces de Fémin­istes con­tre le cyber­har­cèle­ment et co-autrice de Poli­tis­er les cybervi­o­lences. Une lec­ture inter­sec­tion­nelle des iné­gal­ités de genre sur Inter­net (Le Cav­a­lier bleu, 2023). Elle déplore entre autres l’absence de “bud­get con­séquent dédié à des cam­pagnes d’information et de sen­si­bil­i­sa­tion”.

Le recours à la jus­tice

La majeure par­tie des per­son­nes qui subis­sent des vio­lences en ligne ne se tour­nent pas vers la jus­tice. “Le par­cours judi­ci­aire des vic­times est semé d’embûches : 61% des répondant·es pensent que porter plainte ne sert à rien et on ne peut pas vrai­ment leur don­ner tort”, con­state Fémin­istes con­tre le cyber­har­cèle­ment après son enquête auprès des vic­times de vio­lences en ligne. Comme pour les plaintes pour des vio­lences sex­istes et sex­uelles, celles-ci font face à des remar­ques déplacées, un mau­vais accueil voire un refus, de la part des policiers, de pren­dre la plainte.

Un dis­posi­tif de sig­nale­ment du cyber­har­cèle­ment a été mis en place par le min­istère de l’Intérieur, mais il ne per­met pas, à l’image du 3018 pour les jeunes, d’être mis en con­tact avec des écoutant.es. La plate­forme Pharos, quant à elle, est lim­itée au sig­nale­ment des con­tenus illicites publics sur Inter­net, et ne dis­pose que de moyens lim­ités. Aujourd’hui, 49 agents de la gen­darmerie et de la police y tra­vail­lent jour et nuit. Ils sont débor­dés : ils doivent gér­er près de 1000 sig­nale­ments quo­ti­di­ens.

Même si la plainte est reçue dans de bonnes con­di­tions, porter les faits à l’attention de la police ne résout pas tou­jours la sit­u­a­tion. Pour Stop Fisha : “Porter plainte pour des cybervi­o­lences a des con­séquences bien moin­dres. La nature virale du cyber­har­cèle­ment fait que, même avec une plainte, les policiers ne savent pas arrêter le cyber­har­cèle­ment.” 

Dans les mains de la jus­tice, les plaintes ont une des­tinée très dif­férente selon leur nature. Pour Nabil Bou­di, l’avocat de la boxeuse Imane Khe­lif, “La jus­tice réflé­chit en ter­mes de pri­or­ités, en ter­mes de grav­ité. Plus c’est grave, plus tôt on s’en saisit. Mais com­ment juger la grav­ité ?”. Le dossier de sa cliente a été pris en charge par un par­quet spé­cial­isé, créé en 2021, le Pôle nation­al de lutte con­tre la haine en ligne. En son sein, des mag­is­trats for­més et spé­cial­istes de ces ques­tions se sai­sis­sent de cer­tains dossiers par­ti­c­ulière­ment graves ou médi­a­tiques.

Mais la plu­part des dossiers de cybervi­o­lence sont pris en charge par des par­quets non spé­cial­isés. Pour Lau­ra Pereira Dio­go, de Stop Fisha, “La jus­tice n’est pas suff­isam­ment armée pour traiter tous les cas. La prise en charge des plaintes doit être améliorée, mais il faut aus­si que, der­rière chaque rouage du sys­tème judi­ci­aire, tous les métiers soient for­més à ces ques­tions”.

Les associations comme recours

Respect zone, qui organ­ise des for­ma­tions, milite pour la mise en place d’une mod­éra­tion inspirée de la jus­tice restau­ra­tive, “une réso­lu­tion de con­flits par la médi­a­tion”. Les auteurs de pro­pos vio­lents pour­raient être prévenus que leur mes­sage a heurté un util­isa­teur ou une util­isatrice, pour leur don­ner la pos­si­bil­ité de mod­i­fi­er ou sup­primer leur mes­sage. 

Stop Fisha pro­pose aux vic­times un sou­tien psy­chologique, juridique et cen­tralise les ressources pour sig­naler et deman­der la sup­pres­sion des con­tenus illé­gaux.

Fémin­istes con­tre le cyber­har­cèle­ment vise à ori­en­ter les vic­times, tout en essayant de sen­si­bilis­er l’opinion publique et les réseaux soci­aux. Pour elle, “Il y a un réel enjeu à occu­per ce ter­ri­toire, à chercher à en faire un espace acces­si­ble pour les femmes, pour les per­son­nes minorées, pour qu’elles puis­sent s’organiser et s’exprimer en dehors des sys­tèmes d’extraction de don­nées et de cap­i­tal­isme de sur­veil­lance.”