“Kids Act”, projet européen de régulation de l’accès aux réseaux sociaux

Illus­tra­tion Flock

Comme pour la propo­si­tion de loi française (qui a été désavouée par le Con­seil con­sti­tu­tion­nel), la mise en avant du texte par l’au­torité poli­tique supérieure (Macron en France, van der Leyen pour l’UE) augure mal du résul­tat final. Cela veut dire que son élab­o­ra­tion sera soumise à des négo­ci­a­tions géopoli­tiques (face aux injonc­tions des big tech améri­caines et de leur 1^e représen­tant, Trump) là où il serait préférable de lim­iter la négo­ci­a­tion aux seules per­son­nes con­cernées (respon­s­ables de l’é­d­u­ca­tion et de la san­té, par­ents et jeunes).

S’il allait au bout sans renon­ce­ments, ce pro­jet prévoit de mieux con­trôler l’ac­cès aux réseaux soci­aux, mais aus­si aux plate­formes vidéo, aux jeux vidéo en ligne et aux ser­vices d’IA, prin­ci­pale­ment pour les enfants et ado­les­cents. Il pour­rait impos­er aux big tech le principe de “sécu­rité dès la con­cep­tion”, soit une série de règles qui empêcherait d’y inté­gr­er des mécan­ismes d’ad­dic­tion. Il envis­age aus­si un régime d’in­ter­dic­tion d’ac­cès selon l’âge, mais avec une libéral­i­sa­tion pro­gres­sive, plus éduca­tive que le pro­jet français d’in­ter­dic­tion aux moins de 15 ans.

Reste beau­coup d’in­ter­ro­ga­tions…

Le Kids Act (pour “Keep­ing Inter­net Dig­i­tal Spaces Account­able and Trust­wor­thy” pour “Garan­tir la respon­s­abil­ité et la fia­bil­ité des espaces numériques sur Inter­net”) serait un texte (prob­a­ble­ment un règle­ment plutôt qu’une direc­tive) qui s’im­poserait partout en Europe, ce qui veut dire que la nou­velle ver­sion du texte que prévoit Macron ne pour­rait que s’in­scrire dans le cadre de ce texte européen et l’a­mender à la marge. Le pro­jet UE doit faire l’ob­jet de très longues négo­ci­a­tions, être validé par le Par­lement européen et les États mem­bres. Il ne sera donc pas prêt avant plusieurs mois.

Une idée élargie des réseaux soci­aux

Les propo­si­tions de la Com­mis­sion sont bien plus larges que l’interdiction com­plète des réseaux soci­aux aux moins de 16 ans imposée en Aus­tralie en décem­bre 2025 – avec une effi­cac­ité très rel­a­tive – ou que celle aux moins de 15 ans qu’Emmanuel Macron a ten­té d’imposer, avant de se faire reto­quer par le Con­seil con­sti­tu­tion­nel.

La Com­mis­sion vise ce qu’elle appelle les “réseaux soci­aux +”, c’est-à-dire “l’ensemble des ser­vices représen­tant le plus grand risque pour les mineurs” : réseaux soci­aux, mais aus­si mag­a­sins d’applications (Google Play Store, Apple Store…), agents con­ver­sa­tion­nels d’intelligence arti­fi­cielle, plate­formes de partage de vidéos et cer­tains jeux vidéo en ligne. 

Insta­gram, “App stores”, Chat­G­PT, Tik­Tok, YouTube ou Roblox… Aucune des appli­ca­tions ou des logi­ciels qui com­posent le quo­ti­di­en des enfants et adolescent·es ne devrait être oubliée, hormis “les ser­vices conçus et opérés à des fins éduca­tives ou par des autorités publiques”.

Une lim­i­ta­tion d’ac­cès évo­lu­tive en fonc­tion de l’âge

D’après un arti­cle du site Next :

L’ac­cès aux plate­formes serait régle­men­té selon l’âge, avec des droits d’ac­cès crois­sants. Les mineurs entre 3 et 13 ans ne pour­raient pas créer de compte, donc ils seraient dans l’impossibilité d’accéder à un réseau social – à l’exception des plate­formes vidéo dédiées aux jeunes enfants via le compte d’un par­ent. Le tout dans une lim­ite d’une heure par jour, sans flux per­son­nal­isé ni recherche de con­tenus.

Pour les mineurs entre 13 et 15 ans, un sys­tème de “mini compte” adossé au compte d’un par­ent ou d’un tuteur légal leur per­me­t­trait d’accéder aux plate­formes, avec des restric­tions : lim­ite d’une heure par jour et accord parental pour les con­nex­ions avec d’autres util­isa­teurs. Au-delà de 15 ans, les jeunes pour­raient avoir leur pro­pre compte “sur des ser­vices qui, selon la loi, doivent être sûrs pour eux.”

Si l’ado a déjà un compte, il reviendrait aux plate­formes de véri­fi­er si le tit­u­laire a moins de 15 ans et, le cas échéant, dés­ac­tiv­er le compte ain­si que ceux dont l’âge ne peut être établi. Le dan­ger ici est que ces mêmes plate­formes récla­ment une véri­fi­ca­tion de l’âge à l’ensemble des util­isa­teurs.

La vérification de l’âge face au défi de la confidentialité

La procé­dure devra pass­er par des “solu­tions indépen­dantes cer­ti­fiées”, comme par exem­ple la fameuse appli­ca­tion européenne Blue­print, “tech­nique­ment prête”, assur­ait Brux­elles en avril dernier.

Mais pas spé­ciale­ment sécurisée, ont rapi­de­ment relevé des spé­cial­istes. Chaque État mem­bre peut s’emparer du code de l’application pour l’adapter aux spé­ci­ficités nationales. Ce qui, là aus­si, risque de créer des sit­u­a­tions où celle d’un pays serait plus sécurisée que celle d’un autre pays, en fonc­tion des moyens qui seront investis dans le développe­ment.

Les autres solu­tions indépen­dantes ne sont pas néces­saire­ment mieux loties. Il faut d’abord avoir con­fi­ance dans la ges­tion des infor­ma­tions, car leurs sys­tèmes se basent sur des self­ies ou la véri­fi­ca­tion des pièces d’identité. Il ne fait d’ailleurs guère de doute que les enfants, ces petits dia­bles, sauraient trou­ver des moyens de con­tourn­er ces sys­tèmes assez rapi­de­ment.

La per­spec­tive d’une véri­fi­ca­tion général­isée de l’âge pose de sérieux prob­lèmes de con­fi­den­tial­ité. C’est ce qui a motivé une ini­tia­tive citoyenne européenne, “Stop Killing the Inter­net”, créée par le Par­ti pirate fin juil­let. Elle demande que les citoyens ne soient pas con­traints de s’identifier pour accéder à des con­tenus ou à des ser­vices en ligne licites.

La Com­mis­sion UE veut impos­er aux big tech des mod­i­fi­ca­tions dans la con­cep­tion

C’est la par­tie la plus intéres­sante du texte … s’il va au bout de la négo­ci­a­tion. L’UE se don­nerait les moyens d’im­pos­er aux con­cep­teurs des appli­ca­tions une “sécu­rité dès la con­cep­tion”.

Ain­si, les plate­formes devraient sup­primer les dis­posi­tifs encour­ageant une util­i­sa­tion “com­pul­sive ou exces­sive” chez les mineurs. Cela passerait par la fin de la lec­ture automa­tique en con­tinu et le défile­ment infi­ni sans véri­ta­bles paus­es. Exit aus­si les noti­fi­ca­tions inci­tant les jeunes à revenir dans l’application, aux récom­pens­es pour la pub­li­ca­tion ou la dif­fu­sion de con­tenus, aux mécan­ismes qui pénalisent les enfants s’ils ne revi­en­nent pas chaque jour.

Les sys­tèmes de recom­man­da­tion devraient égale­ment chang­er en pro­fondeur pour les jeunes util­isa­teurs. Ain­si, la pri­or­ité serait don­née aux con­tenus que l’enfant a choisi de suiv­re, et la per­son­nal­i­sa­tion basée sur le suivi serait dés­ac­tivée par défaut. Par ailleurs, le texte dis­pose qu’aucune don­née provenant de l’extérieur du ser­vice ne pour­rait être util­isée, et qu’aucun mécan­isme ne devrait entraîn­er l’utilisateur mineur dans une “spi­rale de con­tenus” (“rab­bit hole”), comme celles qui ont pu con­duire vers une anorex­ie sui­cidaire ou des pul­sions meur­trières. Les enfants devraient aus­si dis­pos­er d’au moins une option sans aucun pro­fi­lage.

De plus, sans autori­sa­tion préal­able, per­son­ne ne pour­rait envoy­er de mes­sage à un enfant. Les plate­formes auraient la respon­s­abil­ité d’empêcher que le mineur soit manip­ulé pour don­ner son autori­sa­tion. Il ne devrait pas appa­raitre dans les sug­ges­tions de con­tact et ne pas être ajouté à des groupes sans leur con­sen­te­ment. Per­son­ne ne pour­rait télécharg­er le con­tenu pub­lié par les enfants ni en faire de cap­tures d’écran. Enfin, la dif­fu­sion en direct serait dés­ac­tivée par défaut pour les mineurs.

L’usage de l’IA encadré pour les plus jeunes

Des dis­posi­tifs sont égale­ment envis­agés pour les com­pagnons IA et les chat­bots acces­si­bles aux mineurs. Ils ne pour­raient pas recou­vrir à des mécan­ismes sim­u­lant des rela­tions humaines quand ils risquent de créer une dépen­dance affec­tive. Les bots ne pour­raient pas exploiter leur mémoire des dis­cus­sions passées. Les moins de 13 ans seraient privés de bots, à moins de pass­er par des con­trôles parentaux. Et ces “com­pagnons” devraient être “facile­ment dés­ac­tivables”.

En ce qui con­cerne les bou­tiques de jeux et les jeux en ligne, ils devraient met­tre en place une clas­si­fi­ca­tion par âge pour chaque appli­ca­tion (ce qui est déjà le cas sur l’App Store et le Play Store) et pren­dre en charge l’application européenne de véri­fi­ca­tion de l’âge pour s’assurer que l’utilisateur a bien l’âge req­uis.

L’ar­tic­u­la­tion avec les autres règle­ments européens

L’application des dif­férentes mesures du Kids Act passerait par les struc­tures de con­trôle exis­tantes du règle­ment sur les ser­vices numériques (DSA). Pour les com­pagnons IA, c’est l’AI Act qui prendrait la main. Les très grandes plate­formes (VLOP) régies par le DSA devraient soumet­tre un plan de con­for­mité au Kids Act, et démon­tr­er qu’elles respectent l’ensemble de leurs oblig­a­tions.

Le texte instau­r­erait aus­si des procé­dures accélérées à l’encontre des ser­vices et plate­formes qui ne respecteraient pas ces mesures. Les con­clu­sions prélim­i­naires seraient pub­liées dans un délai de 30 jours, et les enquêtes seraient con­clues sous les 90 jours “car il n’y a pas de temps à per­dre”, pré­cise le com­mu­niqué de la Com­mis­sion. Les amendes pour­raient attein­dre 6 % du chiffre d’affaires annuel mon­di­al du dif­fuseur de l’ap­pli­ca­tion.

Cette affir­ma­tion de la force régle­men­taire de l’UE doit cepen­dant être rel­a­tivisée : deux textes européens (le RGPD, Règle­ment Général sur la Pro­tec­tion des Don­nées per­son­nelles, datant de 2018 ; le RIA, Règle­ment sur l’Intelligence Arti­fi­cielle ou AI Act, applic­a­ble depuis 2024) sont actuelle­ment remis en cause par le Dig­i­tal Omnibus, proces­sus de déré­gle­men­ta­tion engagé à la demande expresse des big tech et de Trump, mais aus­si par l’alliance de fait dans l’UE entre les droites (représen­tées par U. von der Leyen) et extrêmes droites…