Instagram et YouTube condamnés pour mise en danger de mineurs

Sur le site Next

Jusque là, les réseaux soci­aux pou­vaient utilis­er des tech­niques addic­tives sans que l’E­tat – qui a une oblig­a­tion de pro­tec­tion face aux drogues, au tabac, à l’al­cool… – ne s’en sai­sisse ni ne mette en cause la respon­s­abil­ité des plate­formes.

Ain­si, l’inter­dic­tion de leur accès aux mineur.es (de moins de 16 ans comme en Aus­tralie, de moins de 15 en France) revient à ren­dre seul.es respon­s­ables les adolescent.es (qui con­tourn­eraient cette inter­dic­tion) ou leurs par­ents (qui devraient con­trôler). Et ne ferait que décaler dans le temps l’ad­dic­tion et les trou­bles qui en résul­tent, sans plus de pro­tec­tion alors qu’il serait néces­saire de prévoir des dis­posi­tifs édu­cat­ifs et /ou de con­trainte pour les plate­formes, absents du texte.

Rap­pelons que l’oblig­a­tion d’i­den­ti­fi­ca­tion s’im­poserait à toutes et tous (qu’on ait plus ou moins de 15 ans), met­tant fin à l’anony­mat sur Inter­net. Cette mesure est donc une atteinte aux lib­ertés indi­vidu­elles.

Heureuse­ment com­mence à émerg­er une autre approche qui réat­tribue aux dif­fuseurs leur respon­s­abil­ité sur les tech­niques répréhen­si­bles qu’ils emploient ! Débuts en Cal­i­fornie et au Nou­veau Mex­ique, comme présen­tés par Médi­a­part et Next.

Par deux déci­sions dis­tinctes, la jus­tice états-uni­enne a con­damné les géants du numérique Meta (mai­son mère de Face­book, Insta­gram, What­sApp…) et Google (ser­vice de stream­ing vidéo Youtube) à des mil­lions de dol­lars d’amende pour leur influ­ence néfaste sur la san­té men­tale des mineurs. Des ver­dicts qui pour­raient mar­quer un tour­nant dans la lutte con­tre l’influence néfaste des réseaux soci­aux.

En Cal­i­fornie, Meta et Google, ont été con­damnés mer­cre­di 25 mars par la Cour suprême de l’État à vers­er un total de 6 mil­lions de $ de dom­mages-intérêts (4,2 mil­lions de $ par Meta et 1,8 mil­lion par YouTube) à Kaley G. M., 20 ans, qui les avait accusés d’avoir ali­men­té sa dépres­sion et ses idées sui­cidaires à l’adolescence. “Ces entre­pris­es ont priv­ilégié les prof­its au détri­ment des enfants”, a déclaré Joseph Van­Zandt, l’un des avo­cats de la vic­time.

La jeune Cal­i­forni­enne avait porté plainte en 2023 con­tre Meta, Snap, YouTube et Tik­Tok. Elle a déclaré avoir com­mencé à utilis­er les réseaux soci­aux à l’âge de 6 ans et affirme que ces plate­formes lui ont causé notam­ment des trou­bles avancés de dys­mor­pho­pho­bie [préoc­cu­pa­tion con­cer­nant des défauts perçus de l’ap­parence physique qui ne sont pas appar­ents ou appa­rais­sent léger à d’autres per­son­nes].

Snap et Tik­Tok, eux aus­si visés, ont préféré négoci­er un accord con­fi­den­tiel leur évi­tant que soient débal­lées au grand pub­lic des infor­ma­tions internes sur leur poli­tique vis-à-vis des jeunes util­isa­teurs. Les avo­cats de Meta et YouTube ont, eux, main­tenu leur posi­tion, esti­mant dis­pos­er d’une défense solide. Mais inca­pables de con­va­in­cre les jurés, ils ont con­nu une défaite cuisante.

Le jury de la Cour supérieure de jus­tice de Los Ange­les a con­clu que Meta et YouTube ont mis en place des fonc­tion­nal­ités conçues pour créer une dépen­dance à leurs réseaux soci­aux et plate­formes de vidéos, et que celles-ci ont entraîné des trou­bles de san­té men­tale sur leur jeune util­isatrice.

Au Nou­veau-Mex­ique, une autre déci­sion judi­ci­aire impor­tante a eu lieu la veille, le 24 mars. Le jury du tri­bunal civ­il de San­ta Fe y a déclaré le groupe Meta respon­s­able d’avoir sci­em­ment exposé des mineur·es à des pré­da­teurs sex­uels sur ses plate­formes, et aus­si d’avoir men­ti au pub­lic sur ce qu’il savait.

Meta a été con­damné à vers­er 375 mil­lions de $ de pénal­ités civiles, une somme certes con­séquente mais inférieure aux 2 mil­liards env­i­ron que récla­mait le pro­cureur du Nou­veau-Mex­ique, Raúl Tor­rez, à l’origine de la procé­dure. Il avait cal­culé ce mon­tant de 2 mil­liards sur la base du nom­bre d’utilisateurs et util­isatri­ces men­su­els de Face­book et Insta­gram âgé·es de moins de 18 ans, soit un peu plus de 200 000 per­son­nes au Nou­veau-Mex­ique. Les jurés ont finale­ment estimé que 37 500 adolescent·es avaient été lésé·es.

“Le Nou­veau-Mex­ique est fier d’être le pre­mier État à deman­der des comptes [aux opéra­teurs de réseaux soci­aux] pour avoir trompé des par­ents, per­mis l’exploitation de mineurs et mis en dan­ger des enfants”, a mal­gré tout com­men­té Raúl Tor­rez dans un com­mu­niqué.

Il a ajouté que le mon­tant attribué aux vic­times “devrait envoy­er un mes­sage clair aux dirigeants de la tech”, qu’“aucune entre­prise n’est au-dessus des lois” et que “c’est un tour­nant pour tous les par­ents inqui­ets de ce qui pour­rait arriv­er à leurs enfants lorsqu’ils vont sur Inter­net”.

Stratégie systémique 

Dans l’af­faire du Nou­veau-Mex­ique, les argu­ments des par­ties civiles qui ont accusé Meta d’avoir com­mu­niqué de façon trompeuse sur ses mesures de pro­tec­tion des mineur·es, de les avoir encouragé·es à la sur­con­som­ma­tion de ses plate­formes, tout en sachant les dan­gers que cela pou­vait entraîn­er, se rap­prochent sur le fond de ceux visant Meta et Google à Los Ange­les.

En effet, jusqu’ici, la plu­part des ten­ta­tives de régu­la­tion des réseaux soci­aux aux États-Unis avaient échoué car les géants du numérique invo­quaient sys­té­ma­tique­ment une dis­po­si­tion fédérale, l’article 230 du Com­mu­ni­ca­tions Decen­cy Act de 1996, qui pro­tège les opéra­teurs de toute respon­s­abil­ité quant aux con­tenus pub­liés par leurs util­isa­teurs.  

Pour s’extraire de cet étau juridique, pro­cureurs et avo­cats des vic­times ont priv­ilégié dans les deux procès une approche plus sys­témique, accu­sant les géants du numérique d’avoir conçu leurs appli­ca­tions pour que les jeunes util­isa­teurs y passent le plus de temps pos­si­ble, créant addic­tion et expo­si­tion au dan­ger. 

Ils ont surtout mis en cause des fonc­tion­nal­ités telles que les recom­man­da­tions algo­rith­miques, le défile­ment infi­ni ou la lec­ture automa­tique des vidéos [fonc­tion auto­play], conçues pour inciter les jeunes util­isa­teurs à con­som­mer de manière com­pul­sive.

Lors de sa plaidoirie d’ouverture à Los Ange­les, Mark Lanier, l’un des avo­cats de Kaley G. M., a égale­ment présen­té au jury des doc­u­ments internes de Meta et de YouTube démon­trant que les dirigeants de ces entre­pris­es con­nais­saient les effets néfastes de leurs pro­duits sur les enfants et en dis­cu­taient. Il a cité un doc­u­ment interne à l’entreprise datant de 2018 affir­mant que “si nous voulons vrai­ment gag­n­er auprès des ado­les­cents, nous devons les attir­er dès leur préado­les­cence”.

Cette stratégie ciblant la respon­s­abil­ité struc­turelle des sociétés s’inspire ici de celle, déjà gag­nante, util­isée con­tre l’industrie du tabac au siè­cle dernier, où les avo­cats soute­naient que les entre­pris­es créaient des pro­duits addic­tifs nuis­i­bles aux con­som­ma­teurs. Philip Mor­ris et R. J. Reynolds avaient alors été accusés d’avoir dis­simulé des infor­ma­tions sur les dan­gers du tabac. En avaient découlé une régle­men­ta­tion stricte et une baisse du tabag­isme aux États-Unis.

Défense catastrophique

Du reste, ces ver­dicts con­damnant les géants du numérique sont aus­si le fait de leurs axes de défense (trop) cyniques qui n’ont pas con­va­in­cu les jurés. Les avo­cats de Meta ont notam­ment rétorqué de manière bru­tale que les prob­lèmes de san­té men­tale de Kaley étaient dus à des vio­lences et à des con­flits famil­i­aux et non à l’influence néfaste des réseaux soci­aux. 

L’audition de Mark Zucker­berg, le PDG de Meta, et celle du directeur d’Instagram, Adam Mosseri, n’ont pas davan­tage sus­cité l’enthousiasme chez les jurés. Les deux dirigeants ont notam­ment rejeté les allé­ga­tions selon lesquelles Insta­gram, que Kaley G. M. a com­mencé à utilis­er à l’âge de 9 ans, pour­rait être qual­i­fié de “clin­ique­ment” addic­tif. La jeune femme avait expliqué qu’elle était tous les jours sur les réseaux soci­aux. “Je ne peux tout sim­ple­ment pas m’en pass­er”, répondait-elle à la ques­tion “Pourquoi n’arrêtez-vous pas ?”.

“Je pense générale­ment qu’il existe un groupe de per­son­nes, poten­tielle­ment assez impor­tant, qui mentent sur leur âge afin d’utiliser nos ser­vices”, a ain­si affir­mé Mark Zucker­berg alors qu’il était pressé de jus­ti­fi­er la poli­tique de Meta rel­a­tive aux préa­dos au cours du procès.

Plus mielleux, les avo­cats de YouTube ont de leur côté soutenu que la plate­forme de stream­ing n’était pas une entre­prise de réseaux soci­aux, mais plutôt une nou­velle forme de télévi­sion famil­iale qui n’aurait jamais sus­cité d’addiction, ses fonc­tion­nal­ités n’étant pas conçues pour créer une dépen­dance.

Luis Li, l’un des avo­cats de YouTube, a certes présen­té ses excus­es à la jeune femme : “Nous sommes désolés pour ce que vous avez subi”, a‑t-il déclaré. Avant d’oser : “Chez YouTube, nous espérons sincère­ment que cer­taines fonc­tion­nal­ités de YouTube ont enrichi votre vie et vous ont per­mis de vous exprimer.”

Certes, à ce stade, les 6 mil­lions de dol­lars de dom­mages-intérêts pour Kaley G. M. ne sont qu’une goutte d’eau dans l’océan pour Meta et Google, qui engrangent des mil­liards de dol­lars de revenus chaque trimestre. Tout comme les seuls 375 mil­lions de dol­lars de pénal­ités demandés à Meta pour avoir mis en dan­ger 37 500 mineur·es au Nou­veau-Mex­ique.  

Mais ces deux déci­sions pour­raient être une pre­mière référence pour des mil­liers d’autres plaintes sim­i­laires – si bien sûr elles sont con­fir­mées en appel – exposant ain­si les géants de la tech à des dom­mages financiers sup­plé­men­taires, ce qui pour­rait les con­train­dre à mod­i­fi­er leurs pro­duits numériques.

Inter­rogés par le New York Times, les experts juridiques esti­ment toute­fois qu’il est dif­fi­cile de prédire si cette déci­sion mar­quera un tour­nant décisif. “Le chemin est encore long, mais cette déci­sion est très impor­tante”, a déclaré au New York Times Clay Calvert, un expert en droit des médias du think tank Amer­i­can Enter­prise Insti­tute. Et d’ajouter : “Si les ver­dicts se mul­ti­plient en faveur des plaig­nants, les opéra­teurs seront con­traints de revoir la con­cep­tion de leurs plate­formes de réseaux soci­aux, et la manière dont ils dif­fusent du con­tenu aux mineurs.”

Selon le média spé­cial­isé Cour­t­house News, l’une des jurées a affir­mé : “Nous voulions que [Meta et Google] com­pren­nent que cela n’était pas accept­able”. Mais, selon elle, le jury craig­nait de “remet­tre la total­ité de la somme à une seule per­son­ne”, avant d’ajouter : “Nous avons pen­sé que si cette somme pou­vait être ver­sée petit à petit, pour être dépen­sée à bon escient et dur­er longtemps, nous auri­ons prob­a­ble­ment fixé un mon­tant plus élevé.”

En effet, près de 2 500 autres procès atten­dent les qua­tre entre­pris­es de réseaux soci­aux aux États-Unis. Et le ver­dict pour­rait faire jurispru­dence si la déci­sion est con­fir­mée en appel. Les deux géants du numérique vont faire appel de ces déci­sions. “Nous con­te­stons respectueuse­ment le ver­dict et étu­dions nos options juridiques”, a déclaré une porte-parole de Meta. “Cette affaire témoigne d’une mécon­nais­sance de YouTube, qui est une plate­forme de stream­ing respon­s­able, et non un réseau social”, a com­men­té José Cas­tañe­da, porte-parole de Google…