Neurotechnologies : vers l’affirmation de neuro-droits ?

Dessin d’Em­manuel Lafont, BBC News

Les tech­no­fas­cistes sont au pou­voir, aux USA mais aus­si par leur dom­i­na­tion monop­o­lis­tique, au niveau mon­di­al. Gré­go­ry Cha­ton­sky et le vecto­fas­cisme, Thibault Prévost et d’autres, décor­tiquent la génèse et l’am­pleur de cette émer­gence. D’autres per­spec­tives d’im­mix­ion fas­cisante doivent être envis­agées, notam­ment celle qui pour­rait être portée par les neu­rotech­nolo­gies dont l’une des fig­ures de proue est Elon Musk, à tra­vers sa société, Neu­ralink.

Lau­re Tabouy, chercheuse en éthique des neu­ro­sciences et du numérique à Aix-Mar­seille, en détaille les enjeux (extraits de son arti­cle
Neu­rotech­nolo­gies : nos pen­sées seront-elles à ven­dre ? ci-dessous).

Les inter­faces entre cerveaux humains et ordi­na­teurs se dévelop­pent, poussées par les pro­grès tech­nologiques, les avancées de l’intelligence arti­fi­cielle et les promess­es d’utilisations médi­cales. Au point de faire crain­dre une future com­mer­cial­i­sa­tion de nos pen­sées les plus intimes. Mais peut-on réduire nos pen­sées à un ensem­ble de don­nées col­lec­tées par des neu­rotech­nolo­gies ? Est-il souhaitable que l’on puisse un jour ven­dre nos don­nées cérébrales ?

Les neu­rotech­nolo­gies sont des dis­posi­tifs qui font l’interface entre le cerveau et des machines. Ils sont au départ élaborés à des fins médi­cales.

L’utilisation des neu­rotech­nolo­gies dans le secteur médi­cal est aujourd’hui en voie d’être encadrée, par exem­ple en France, en ce qui con­cerne l’imagerie cérébrale, en Europe et, plus large­ment, dans le monde, par une éthique médi­cale com­mune. Si cet encadrement reste à appro­fondir, en par­ti­c­uli­er en rai­son de ses liens avec l’intelligence arti­fi­cielle (IA), il faut soulign­er que les util­isa­teurs et leurs “don­nées cérébrales” ne sont plus juridique­ment et éthique­ment pro­tégés dans le cadre d’utilisations non médi­cales.

Pour­tant, des neu­rotech­nolo­gies sont déjà com­mer­cial­isées auprès du grand pub­lic en bonne san­té, par exem­ple dans l’édu­ca­tion et le bien-être, ou dévelop­pées dans le cadre de pro­jets de jeux vidéo (pour l’instant non com­mer­cial­isé) et dans le domaine du tra­vail.

De plus, ces dis­posi­tifs sont d’ores et déjà conçus pour appren­dre à décrypter nos pen­sées — qui reste aujourd’hui un objec­tif à long terme. Ceci laisse crain­dre que la com­mer­cial­i­sa­tion de don­nées cérébrales per­me­tte d’influencer, de manip­uler ou d’assujettir les humains.

Neurotechnologies : de quoi parle-t-on ?

Le fonc­tion­nement “élec­trique” du cerveau est enreg­is­tra­ble et mod­u­la­ble (en lab­o­ra­toire) par des neu­rotech­nolo­gies. Cer­tains dis­posi­tifs neu­rotech­nologiques sont implan­tés directe­ment dans le cerveau. On par­le de tech­nolo­gies “inva­sives” ou d’implants cérébraux. C’est le cas par exem­ple des dis­posi­tifs à des fins médi­cales des entre­pris­es Syn­chron et Pre­ci­sion Neu­ro­sciences.

Il existe égale­ment des neu­rotech­nolo­gies dites non inva­sives, comme des écou­teurs, des lunettes ou des ban­deaux. Meta, par exem­ple, développe un dis­posi­tif qui ne requiert pas de chirurgie mais qui reste aujourd’hui trop mas­sif pour être déployé. Ces neu­rotech­nolo­gies non inva­sives per­me­t­tent d’enregistrer des élec­troencéphalo­grammes (EEG) — ou, dans le cas de Meta, des mag­né­toencéphalo­grammes — ce qui per­met de capter cer­taines ondes cérébrales qui sont ensuite numérisées, afin d’être traitées par des sys­tèmes d’IA.

Un retour de la machine vers le cerveau de la per­son­ne, dit “neu­ro­feed­back”, est pos­si­ble après traite­ment des infor­ma­tions par ces sys­tèmes d’IA.

Vendre des pensées ? Une idée pas si simple à réaliser

L’étude du cerveau, dans son sens le plus large, génère des vol­umes con­sid­érables de don­nées, com­muné­ment appelées “don­nées cérébrales”. Elles peu­vent être molécu­laires, cel­lu­laires, géné­tiques, anatomiques, fonc­tion­nelles, com­porte­men­tales, com­pu­ta­tion­nelles ou encore venant de l’activité neu­ro-élec­trique du cerveau (appelé aus­si “rythme cérébral”).

Cette diver­sité de don­nées regroupées sous le nom de “don­nées cérébrales” n’est pas mesurable et visu­al­is­able avec les mêmes tech­niques, ce qui donne une diver­sité d’approches, de théories et de con­cep­tions sci­en­tifiques de la pen­sée, qui s’entrechoquent égale­ment avec des con­cep­tions plus philosophiques ou théologiques de la pen­sée, qui, elles, ne se mesurent pas.

Le con­cept de “vie privée men­tale” n’est donc pas facile à définir, tant neu­ro­sci­en­tifique­ment que philosophique­ment. La pen­sée humaine est et restera tou­jours bien plus com­plexe et floue que de sim­ples réseaux de neu­rones visu­al­is­ables, mesurables, cal­cu­la­bles et trans­férables via les neu­rotech­nolo­gies et des sys­tèmes d’IA.

Sommes-nous ce que nous pensons ?

Admet­tre que la pen­sée humaine serait assim­i­l­able au fonc­tion­nement d’un ordi­na­teur et donc poten­tielle­ment vend­able, comme le pro­posent les “vision­naires tran­shu­man­istes”, se pos­er la ques­tion de la pos­si­bil­ité qu’un jour nous puis­sions les télécharg­er sur un sup­port numérique et vivre éter­nelle­ment, c’est sup­pos­er — et impos­er à tous — que ces don­nées cérébrales, qui sont col­lec­tées grâce aux neu­rotech­nolo­gies, traitées par les sys­tèmes d’intelligences arti­fi­cielles et qui sont stock­ées dans des cen­tres de don­nées soient véri­ta­ble­ment et inté­grale­ment nos pen­sées.

Cela appelle à se pos­er la ques­tion de ce que sig­ni­fient réelle­ment ces don­nées cérébrales. Sont-elles suff­isantes pour car­ac­téris­er un être humain ?

Si toutes nos pen­sées, nos sou­venirs, notre imag­i­na­tion, nos émo­tions, notre com­porte­ment et notre sub­con­scient se passent dans le cerveau, si tout ce que nous pen­sons, sen­tons ou désirons ne résulte que de l’activité cérébrale de mil­liards de neu­rones, au sein de dif­férentes aires cérébrales, qu’est-ce qui fait notre sub­jec­tiv­ité, notre unic­ité, notre sin­gu­lar­ité ?

Sommes-nous enfermés dans un paradigme neurobiologique ?

Ne seri­ons-nous pas, ici, devant une con­cep­tion matéri­al­iste de la pen­sée, l’assimilant à un cal­cul et la con­sid­érant comme mécan­is­able, et donc vend­able, qui reposerait sur un “réduc­tion­nisme neu­ro­bi­ologique” ?

C’est en tout cas à par­tir de ces approches neu­ro­bi­ologiques, dev­enues par­a­digme sci­en­tifique (à savoir “nos pen­sées peu­vent être décrites et repro­duites par l’observation de sig­naux neu­ronaux”), que les sci­ences cog­ni­tives, la cyberné­tique, l’IA et les neu­ro­sciences évolu­ent depuis 1943. C’est aus­si selon ce par­a­digme qu’évolue la neu­roéthique.

Aujourd’hui, c’est à cette fron­tière de la con­science et des pen­sées que se cache une porte vers notre intim­ité et notre lib­erté, vers notre human­ité la plus pro­fonde, que ces tech­nolo­gies nous pro­posent d’ouvrir. Le cerveau en est le refuge, c’est la par­tie privée de nous-mêmes, le point ultime de notre vie privée. Il nous faut donc nous assur­er que ces con­nais­sances sur la con­science et sur le cerveau, que ces neu­rotech­nolo­gies et l’IA, soient util­isées pour le bien com­mun, sans com­pro­met­tre notre intégrité psy­chique, notre intim­ité, notre sécu­rité et notre lib­erté de pen­sée.

Il faut protéger les données cérébrales des utilisations abusives

Mal­gré les inter­ro­ga­tions et le flou sur ce qu’est la pen­sée, c’est l’ombre d’une men­ace “pour l’intimité psy­chique et la lib­erté de penser, met­tant ain­si en dan­ger la démoc­ra­tie et la lib­erté poli­tique” qui est pressen­tie, pour repren­dre les ter­mes de l’Unesco.

Les enjeux éthiques, juridiques et socié­taux qui se dessi­nent à tra­vers cette prob­lé­ma­tique sont ver­tig­ineux. À l’heure actuelle, parce que l’on ne con­naît pas bien la sig­ni­fi­ca­tion pré­cise des don­nées cérébrales col­lec­tées, celles-ci ne sont pas encore légale­ment con­sid­érées comme des don­nées bio­métriques et/ou des don­nées sen­si­bles.

Vers un cadre règlementaire fondé sur des “neuro-droits”

De nom­breux défis, prob­lèmes et préoc­cu­pa­tions entourent le développe­ment d’un cadre de gou­ver­nance des don­nées cérébrales. Out­re leur diver­sité tech­nique, elles sont générées dans dif­férentes juri­dic­tions : elles sont donc soumis­es à des principes éthiques et juridiques dis­tincts et sus­ci­tent des préoc­cu­pa­tions éthiques et juridiques var­iées. Néan­moins, vu la vitesse de déploiement de ces neu­rotech­nolo­gies et le car­ac­tère inter­na­tion­al des marchés, il est néces­saire de s’accorder sur plusieurs niveaux géo­graphiques (pays, Europe et inter­na­tion­al) et dans un laps de temps restreint.

Si un con­sen­sus n’est pas encore réelle­ment trou­vé par les chercheurs engagés dans ces réflex­ions, ceux-ci pré­conisent d’ores et déjà un exa­m­en con­textuel de la gou­ver­nance des don­nées cérébrales prenant en compte les spé­ci­ficités des cul­tures, des pays…

Un tra­vail inter­na­tion­al sur les enjeux éthiques des neu­rotech­nolo­gies a été ini­tié par l’Unesco en mai 2024. Il s’achèvera en novem­bre 2025 par la propo­si­tion d’un cadre éthique mon­di­al pour les neu­rotech­nolo­gies.

Cette future recom­man­da­tion doit s’inscrire dans la con­ti­nu­ité des travaux menés en 2021 et en 2023 sur les impli­ca­tions éthiques des neu­rotech­nolo­gies. Ces travaux ont souligné la néces­sité d’une recom­man­da­tion éthique et d’un cadre de gou­ver­nance mon­di­ale solide, flex­i­ble et évo­lu­tif, per­me­t­tant d’assurer la pro­tec­tion des droits humains et des lib­ertés fon­da­men­tales. Le rap­port de 2021 iden­ti­fi­ait les men­aces que les neu­rotech­nolo­gies fai­saient peser sur les droits et les lib­ertés fon­da­men­tales, comme l’intégrité per­son­nelle et psy­chique. Tan­dis que le rap­port de 2023 a mon­tré que le rythme de l’innovation dans ce domaine des neu­rotech­nolo­gies s’était accéléré avec l’utilisation et la con­ver­gence avec l’IA et l’IA généra­tive.

Ce tra­vail de l’Unesco est com­plété par ceux de l’OCDE et du Con­seil de l’Eu­rope. En par­al­lèle des travaux de ces instances inter­na­tionales, de récentes études de chercheurs met­tent en lumière plusieurs con­sid­éra­tions essen­tielles qui néces­si­tent un exa­m­en appro­fon­di pour faire pro­gress­er les réflex­ions, dont une éval­u­a­tion des risques, néces­saire et indis­pens­able, car les don­nées col­lec­tées au moyen des neu­rotech­nolo­gies peu­vent être des don­nées qui, d’une manière ou d’une autre, seraient liées à la con­science, aux pen­sées et aux sou­venirs.

Un nou­veau cadre régle­men­taire émerge pro­gres­sive­ment, fondé sur des “neu­ro-droits”, défi­nis comme les droits fon­da­men­taux de tout indi­vidu à l’intégrité physique et men­tale, au car­ac­tère privé de la vie men­tale, à la lib­erté de penser.

En France, le comité d’éthique de l’Inserm reprend à son compte ces recom­man­da­tions et appelle à éla­bor­er un code de con­duite à des­ti­na­tion des per­son­nels de l’éducation pour anticiper l’usage des neu­rotech­nolo­gies dans le cadre sco­laire. Un tel code devra pos­er comme principe le fait que ces tech­nolo­gies ne doivent pas se sub­stituer à l’intervention humaine, ni porter atteinte aux droits et lib­ertés des enfants et ado­les­cents dont l’autonomie et les “neu­ro-droits” doivent être pro­tégés.

Autres sources

De la télé­pathie à la sci­ence mod­erne : est-on capa­ble de lire dans les pen­sées ?

Neu­rotech­nolo­gies : nos pen­sées seront-elles à ven­dre ?

Neu­rotech­nolo­gies : les cerveaux de nos enfants sont-ils sous sur­veil­lance ?