L’UNESCO tente de cadrer l’usage des neurotechnologies

Des machines redonnent la parole ou la motric­ité à des per­son­nes souf­frant d’atteintes cérébrales ou hand­i­capées. Pro­grès louables … mais qui posent beau­coup de ques­tions sur les lim­ites de ces tech­nolo­gies. D’au­tant que l’en­tre­prise la plus vis­i­ble dans ce secteur, Neu­ralink, appar­tient à Elon Musk, con­nu pour ses thès­es hygyénistes, tran­shu­man­istes et fas­cisantes.

Audrey Azoulay, direc­trice générale de l’Unesco, évoque des “ques­tions ver­tig­ineuses de sécu­rité, de pro­priété, d’intimité ou encore d’identité, et, finale­ment, de capac­ité d’influence sur une sphère que l’on croy­ait jusqu’à présent invi­o­lable. Les risques de com­mer­cial­i­sa­tion, d’utilisation, voire de manip­u­la­tion de nos don­nées neu­ronales et de nos états men­taux exis­tent à court terme, même si le sujet ne préoc­cupe pas encore l’opinion”. C’est pourquoi ce texte tente de l’an­ticiper … avec des lim­ites.

Présen­ta­tion de la recom­man­da­tion de l’UNESCO par Audrey Azoulay

La recom­man­da­tion de l’Unesco (Organ­i­sa­tion des Nations unies pour l’éducation, la sci­ence et la cul­ture, dont les Etats-Unis se sont retirés) vise à pro­téger les droits de l’homme dans l’usage de procédés qui per­me­t­tent d’interpréter l’activité cérébrale à des fins médi­cales, mais aus­si en vue d’applications com­mer­ciales. Ce texte a été adop­té le 12 novem­bre dernier, à l’unanimité des 194 États mem­bres, et à l’is­sue de dis­cus­sions engagées depuis 2019.

Cette déc­la­ra­tion est le pen­dant, sur le ver­sant des droits humains, de la recom­man­da­tion sur l’in­no­va­tion respon­s­able des entre­pris­es en neu­rotech­nolo­gies, arrêtée par l’Organ­i­sa­tion de coopéra­tion et de développe­ment économiques (OCDE) en 2019 (par 39 pays), et révisée en 2024. D’autres ini­tia­tives régu­la­tri­ces sont en cours en Europe, aux Etats-Unis et en Asie, sans par­ler de la Chine, qui est dev­enue en 2019 la pre­mière puis­sance sci­en­tifique dans ce domaine en nom­bre de pub­li­ca­tions.

Le neu­ro­logue Hervé Chnei­weiss, de l’In­serm (voir inter­view dans The Con­ver­sa­tion), prési­dent du comité à l’origine de ces recom­man­da­tions, estime que “ce texte pour­rait avoir un effet libéra­teur sur les ini­tia­tives indus­trielles, en offrant un cadre fiable et com­mun”. Ce texte dit “de soft law”, non con­traig­nant, doit pour lui être traduit rapi­de­ment par des lois dans cha­cun des pays mem­bres.

Pour la neu­ro­sci­en­tifique française Nataliya Kos­mi­na, mem­bre du groupe d’experts inter­na­tionaux, “c’est un cadre éthique mon­di­al con­sacrant l’inviolabilité de l’esprit humain”. Alors que l’intelligence arti­fi­cielle (IA) se développe sans cadre ni lim­ites, “nous ne pou­vons pas per­me­t­tre que cela se pro­duise aus­si avec la cap­ta­tion de nos neu­rodon­nées [issues de notre activ­ité cérébrale].

Accès à l’intimité du cerveau

Tout un éven­tail de procédés, des plus invasifs, avec les implants intracrâniens, aux plus légers – bracelets, lunettes, ban­deaux frontaux –, sont mis à con­tri­bu­tion pour mesur­er nos états men­taux, les infléchir – par exem­ple en cas de dépres­sion –, voire utilis­er ces stim­uli neu­ronaux pour activ­er une assis­tance robo­t­isée, inter­a­gir avec un ordi­na­teur ou une con­sole de jeux.

Out­re la per­spec­tive de refaire marcher des per­son­nes tétraplégiques, les appli­ca­tions les plus spec­tac­u­laires con­cer­nent les inter­faces cerveau-machine, qui s’appuient sur l’IA pour lit­térale­ment lire dans les pen­sées. Dernier exem­ple en date, une étude chi­noise, impli­quant la société Neu­roX­ess financée par le cou­ple mil­liar­daire Chen et pub­liée le 5 novem­bre dans Sci­ence Advances, décrit le décodage en temps réel de phras­es lues men­tale­ment en man­darin, à par­tir d’un ensem­ble de 394 syl­labes. Le tout grâce à un implant intracrânien com­por­tant 256 élec­trodes, chez un patient atteint d’épilepsie.

Pour l’Unesco, cet accès à l’intimité du cerveau humain doit s’inscrire dans un cadre éthique. En préam­bule, la recom­man­da­tion rap­pelle que “c’est à l’État qu’incombent au pre­mier chef la respon­s­abil­ité et l’obligation de pro­mou­voir et de pro­téger les droits de l’homme et les lib­ertés fon­da­men­tales”. Mais que “les entre­pris­es, y com­pris tech­nologiques”, doivent aus­si les respecter.

Si l’usage des neu­rotech­nolo­gies en médecine s’inscrit dans un relatif con­sen­sus éthique, les appli­ca­tions hors de la san­té, plus prob­lé­ma­tiques, sont pointées par l’Unesco. Ain­si, dans l’éducation, “les neu­rotech­nolo­gies à des fins d’optimisation des per­for­mances non thérapeu­tiques ne devraient pas être util­isées pour les enfants en pleine san­té et dotés de toutes leurs fonc­tions cog­ni­tives”. Pour rap­pel, la Chine avait, après médi­ati­sa­tion, renon­cé à des tests sur des écol­iers.

Dans le monde du tra­vail, où les neu­rotech­nolo­gies pour­raient mesur­er le niveau de vig­i­lance, les risques de burn-out, mais aus­si la pro­duc­tiv­ité, “le déploiement doit se faire sur une base stricte­ment volon­taire, et les tra­vailleurs doivent adhér­er active­ment et en con­nais­sance de cause”.

Le texte pré­conise une pro­tec­tion des don­nées neu­rales, obtenues par enreg­istrement direct (élec­trodes), mais aus­si des don­nées bio­métriques qui per­me­t­tent d’inférer des états men­taux.

Le biol­o­giste Alex­is Génin, directeur depuis 2023 du bio­clus­ter Brain and Mind, pro­jet gou­verne­men­tal  français ral­liant chercheurs, médecins et acteurs privés autour des neu­ro­sciences, se félicite que ce texte n’hésite pas à met­tre les pieds dans le plat en évo­quant la col­lecte du mou­ve­ment des yeux ou de la dynamique de frappe au clavier, l’analyse de la voix et de la démarche ou encore la recon­nais­sance des expres­sions émo­tion­nelles du vis­age.

L’Unesco a décidé que ses recom­man­da­tions s’appliquent à ces don­nées non neu­rales, car celles-ci per­me­t­tent d’inférer des états men­taux. Alex­is Génin estime ce point très impor­tant, car “ces infor­ma­tions peu­vent être analysées par des algo­rithmes, notam­ment ceux con­trôlant les réseaux soci­aux util­isés mas­sive­ment”.

Des lim­ites

Comme tout texte de con­sen­sus, “il ne per­met pas d’être totale­ment tranché” sur des sujets pour­tant essen­tiels tels que l’utilisation des neu­rotech­nolo­gies à des fins mil­i­taires ou non médi­cales, regrette Alex­is Génin.

Lau­re Tabouy déplore elle aus­si “une trop grande ambiguïté de fron­tière entre les appli­ca­tions à des fins thérapeu­tiques et les autres”, alors que nom­bre de ces dernières con­tour­nent la lég­is­la­tion sur les dis­posi­tifs médi­caux en invo­quant la notion de “bien-être”.

Plus large­ment, tous deux s’interrogent sur la per­ti­nence pour l’humanité de dévelop­per des out­ils non thérapeu­tiques, au motif que c’est tech­nologique­ment pos­si­ble.

En France, la prochaine étape est l’inclusion de cette thé­ma­tique au menu des États généraux de la bioéthique en 2026. L’Office par­lemen­taire d’évaluation des choix sci­en­tifiques et tech­nologiques a, de son côté, lancé des audi­tions sur le sujet. Au niveau européen, Hervé Chnei­weiss milite pour que “les don­nées neu­rales soient enfin con­sid­érées comme privées, et, à ce titre, pris­es en compte dans le règle­ment général sur les don­nées per­son­nelles” (RGPD).

Plusieurs grandes ques­tions restent en sus­pens. Un tel texte peut-il être appliqué dans un monde où les pro­grès tech­nologiques dépassent le temps de réac­tion des États, mais aus­si des insti­tu­tions sci­en­tifiques clas­siques ?

Sa portée n’est-elle pas frag­ilisée par le retrait des Etats-Unis de l’Unesco ? Enfin, la notion de bien com­mun, défendue par la recom­man­da­tion pour jus­ti­fi­er ces inno­va­tions, est-elle uni­verselle­ment partagée ? Entre le tran­shu­man­iste Elon Musk et “la Chine qui mise sur les neu­rotech­nolo­gies pour asseoir son lead­er­ship mon­di­al, aug­menter intel­lectuelle­ment ses élites et con­trôler sa pop­u­la­tion, souligne Alex­is Génin, c’est une notion toute rel­a­tive”.