Samah Karaki (chercheuse en neuroscience et auteure de Le talent est une fiction, 2023 et L’empathie est politique, 2024) estime que quantifier l’humain est impossible, ce qui rend vain les prétentions actuelles d’une intelligence artificielle présumée apte à suppléer au raisonnement humain.
Extraits de son interview par Hubert Guillaud, auteur du livre Les algorithmes contre la société et l’un des animateurs du site Dans les algorithmes.
Les neurosciences conduisent d’autres auteurs à une vision mécaniste de l’humain, voire à la justification d’un humain “augmenté”, vision fascisante. L’un des leurs – François Gonon – déplore que beaucoup occultent les déterminants sociaux et économiques, ce que justement Samah Karaki essaie d’intégrer.
Dans vos deux derniers essais, vous ne faites pas qu’une lecture neuroscientifique de nos comportements, mais vous immergez les apports de la recherche en neuroscience et en psychologie de perspectives sociales et politiques. Vous nous invitez à prendre du recul sur nos émotions et nos comportements, pour mieux les politiser. Est-ce à dire que vous ne trouvez pas les apports des neurosciences suffisamment politiques ?
Effectivement, je trouve que les neurosciences s’intéressent peu aux facteurs sociaux. La lecture des comportements y est souvent faite d’une façon réductionniste, depuis des études en laboratoire, où les comportements ne ressemblent pas à ce qui se produit dans la vie réelle. C’est souvent la vulgarisation scientifique qui fait des généralisations, qui souvent passe, un peu facilement, de la cellule au comportement.
L’impérialisme biologique qui a régné au XIXe siècle a parfois tendance à revenir, avec des propos de généticiens du comportement qui donnent une primauté sur l’explication des comportements par le biologique.
La difficulté des neurosciences, c’est qu’on ne peut pas reproduire les facteurs sociologiques au sein d’un laboratoire. D’où l’importance de s’ouvrir aux lectures d’autres disciplines, d’éclairer les neurosciences d’autres disciplines.
Vos deux essais nous montrent que les comportements des autres influencent profondément les nôtres. Dans Le talent est un fiction, vous nous dites que les comportements des éducateurs ont le plus d’effet sur nos capacités à croire en nos chances de réussite. Dans L’empathie est politique, vous nous dites que celle-ci est très dépendante de nos représentations, de nos ancrages sociologiques, et que pour faire advenir des comportements pro-sociaux et dépasser nos réponses émotionnelles, nous devons dépasser les influences qui nous façonnent et les déconstruire. Les deux essais donnent l’impression que nos croyances et nos représentations nous façonnent bien plus qu’on le pense. En être conscient suffit-il à dépasser nos biais ?
Absolument pas, hélas. Aujourd’hui, on parle de cognition incarnée, qui est un paradigme qui règne de plus en plus sur la lecture que nous faisons de notre manière de penser. Cela signifie que la cognition n’existe pas que dans nos cerveaux mais aussi dans nos corps et que nos corps existent aussi dans notre rapport aux autres. C’est bien sûr ce qui a facilité la survie de notre espèce. En tant qu’êtres physiquement vulnérables, nous avons besoin de récupérer des informations pour explorer un danger ou des opportunités. Et ces informations ne proviennent pas uniquement de notre traitement sensoriel, mais passent aussi par ce qu’on observe chez les autres. En fait, les autres aussi nous permettent de traiter l’information. Cela ne concerne pas que l’espèce humaine d’ailleurs, les plantes aussi construisent un traitement informationnel collectif pour pouvoir avoir des réactions au monde.
Reste à savoir si l’on peut transcender cette intersubjectivité. En fait, une fois que nous avons automatisé un apprentissage, on l’opère comme on respire, il devient de l’ordre de l’intuition. On a attribué une grande puissance à notre capacité à nous regarder penser, plus que ce qu’elle est vraiment. Détecter en nous une influence, ne signifie pas qu’on soit en capacité de la changer.
Reste que cette prise de conscience nous permet de nous organiser pour pouvoir, peut-être ou parfois, changer l’influence à sa racine. On peut s’organiser pour influer sur les systèmes qui nous déterminent. Il y a donc des brèches que nous pouvons opérer dans un déterminisme. Le libre-arbitre, dans l’état actuel des connaissances en neurosciences, n’existe pas vraiment. Nos automatismes sont beaucoup plus écrasants que notre force à les observer ou à y résister.
Vos deux essais questionnent profondément notre rapport à la domination. Notre désir de domination est-il impossible à rassasier ? D’où vient un tel besoin de domination ?
Il ne faut pas croire que cela relèverait d’une forme de nature humaine. L’homme n’est ni bon à l’état de nature, ni égoïste et tourné vers la domination à l’état de nature. Par contre, la domination est une façon de diviser et simplifier le réel. Comme on a besoin de catégoriser les phénomènes, les personnes et les sujets autour de nous, la catégorisation, au niveau de la proximité de l’autre, se fait naturellement. Elle se fait déjà chez le bébé par exemple, qui va montrer une préférence pour les visages familiers et une anxiété et une méfiance vis-à-vis de ce qui lui est inconnu et étrange.
Reste que la catégorisation hiérarchique, verticale, est quelque chose qui s’impose surtout socialement… C’est là où l’on peut rejoindre un peu plus Jean-Jacques Rousseau, dans le sens où l’instinct de conservation nous pousse à entretenir nos hiérarchies. La société peut nous pousser à catégoriser dans les statuts sociaux une valeur sociale, qui dépend de nos intérêts économiques. Pour moi, il n’y a besoin ni de pessimisme ni d’optimisme anthropologique. Mais d’observations de nos systèmes complexes, riches, différents, historiquement comme géographiquement, qui nous imposent des formes de domination. Sans compter toutes les récompenses qu’on peut obtenir en se positionnant dans les échelles de la hiérarchie de domination.
Dans Le talent est une fiction, vous expliquez que le mérite est une justification a posteriori. “Dans une société inégalitaire, ceux qui arrivent au sommet veulent ou ont besoin de croire que leur succès est moralement justifié”. Nos propres progrès dépendent bien plus des autres, du contexte, et de notre rapport aux autres, que simplement de nous-mêmes, de notre talent ou de notre travail, qui sont en fait bien plus hérités qu’acquis. “Croire que notre mérite découle de nos talents et de notre travail personnel encourage l’égoïsme, la discrimination et l’indifférence face au sort des autres”. A quoi sert alors cette fiction du mérite, qui est partout autour de nous ?
La fiction du mérite, que beaucoup de sociologues décrivent comme nécessaire car elle vient remplacer l’héritocratie de l’ancien régime, stipule que toute personne a un potentiel qu’elle nourrit par ses efforts et ses liens, dispose d’un principe d’émancipation, à l’image de la déclaration des Droits de l’Homme qui l’a érigée en principe. Chacun à le droit de tenter sa chance. En cela, cette fiction est rassurante, car elle paraît comme un ordre plus juste. C’est aussi une fiction sécurisante, car elle dit que les hommes de pouvoir ont les compétences pour occuper ces positions de pouvoir. La fiction de la méritocratie est finalement apaisante pour la société, car elle ne pousse pas à analyser les raisons des inégalités et donc à éventuellement les subvertir. La fiction du mérite, nous donne l’illusion que si on n’y arrive pas, c’est parce qu’on n’a pas le talent ou qu’on n’a pas assez travaillé.
Dans Le Talent est une fiction, j’énonce que la société repose toujours sur une héritocratie qui finit par se valider par elle-même. Certes, ce n’est pas parce qu’on a hérité qu’on n’a pas mérité. Mais l’héritage permet plus que le travail de faire fructifier son potentiel. Mais en fait, les personnes qui héritent finissent bien plus que d’autres par hériter d’une position de pouvoir parce qu’ils intègrent les bonnes formations et les opportunités qui leurs permettent de légitimer leur position d’arrivée.
Nous devrions remettre en question notre croyance que les qualifications académiques ou autres identifiants prestigieux sont la meilleure mesure de l’intelligence ou de la capacité. Comment pourrions-nous réinventer nos croyances pour qu’elles accordent une place à d’autres formes de mérite que la seule réussite sociale ?
La méritocratie ne peut pas reposer que sur des critères de réussite, car on a aussi le droit de s’émanciper “sur place”, sans élévation économique. Nous n’avons pas tous le culte de l’ambition. Et nous avons tous le droit à la dignité, au-delà de ce qu’on réalise ou pas. La concentration de certains types d’aptitudes qui seules mèneraient à la réussite a peut-être fonctionné à une époque où on avait besoin d’aptitudes liées au raisonnement abstrait, comme le proposaient les tests QI ou comme le valorise le système académique. L’aptitude de raisonnement abstrait – qui signifie principalement une rapidité et une aisance de processus mentaux logico-mathématiques – est en opposition avec d’autres types d’aptitudes comme celle de la résistance cognitive. Penser vite est l’opposé de penser lentement, car penser lentement consiste comme on l’a dit à résister et remettre en question. Cela nous dit que si nous n’avons pas assez développé cette réflexivité mentale et le doute de sa pensée, on peut avoir du mal face à l’incertitude. On peut être à l’aise dans le raisonnement abstrait et mal à l’aise dans d’autres aptitudes. Cela nous rappelle d’ailleurs que le génie solitaire n’existe pas. C’est bien souvent les discordes dans nos façons de penser qui permettent de parvenir à des pensées complexes, notamment dans les situations incertaines. Même notre définition de l’intelligence artificielle s’appelle intelligence parce qu’on la compare à la nôtre dans un anthropomorphisme qui nous rappelle qu’on n’arrive pas à concevoir d’autres façons d’appréhender le monde. Or, aujourd’hui, on devrait définir l’intelligence autrement. En neuroscience, on parle d’ailleurs plutôt d’aptitudes que d’intelligence.
Vous concluez Le Talent est une fiction par la nécessité de plus d’empathie et de diversité pour élargir la mesure de la réussite. Au regard de votre second livre, plus critique sur les limites de l’empathie, votre constat est-il toujours d’actualité ?
Oui, parce que si on ne se projette pas dans d’autres façons de vivre le monde et dans d’autres conditions pour le vivre, on risque de rester camper sur une seule façon de lire les trajectoires. C’est pour cela que les procédures de sélection dans les formations se basent sur des critères éprouvés, celles des personnes qui sélectionnent et donc des personnes qui ont elles-mêmes réussi dans ces mêmes formations. Par cette empathie, je suggérais qu’on puisse s’ouvrir à d’autres trajectoires et inclure ces trajectoires dans les processus de sélection pour ne pas qu’ils ne se ferment, qu’ils favorisent l’entre-soi. Notre façon de vivre dans le monde n’est pas universelle. Il n’y a pas une recette et une seule de ce qu’est d’avoir une vie réussie. Nous devons arrêter de déconsidérer les perdants de nos systèmes sociaux. Nos sociétés nous invitent trop souvent à réussir à un seul jeu selon une seule règle, alors que nous avons tous des habilités différentes au départ. C’est comme si nous étions invités à un concours de natation, jugés par des poissons.
Parler de personnes atypiques me semble être une forme d’essentialisation. En psychiatrie, on parle plutôt de “spectre” et de différences d’appréhension de l’apprentissage. C’est là un vrai progrès. Mais les systèmes scolaires et professionnels, eux, sont toujours dans une approche déficitaire. Nous avons encore besoin d’y diversifier la norme, totalitaire, trop rigide.
L’empathie est politique est incontestablement une suite et une réponse de votre précédent livre, puisqu’il interroge ce qui le concluait, l’empathie. Notre capacité d’empathie est très plastique, modulable, sélective. Le film de Jonathan Glazer, La Zone d’intérêt, le montre très bien, en soulignant la grande normalité d’une famille nazie qui parvient très bien à faire abstraction de l’horreur qui se déroule à côté d’eux, en étant compatissante pour les siens et indifférente aux hurlements et aux coups de feux qui leur parvient de l’autre côté des murs de leur maison. L’empathie est biaisée par la proximité sociale : on se sent plus proche de ceux qui nous sont proches, socialement ou culturellement. Nous la convoquons pour nous donner l’illusion de compréhension des autres, mais “nous nous projetons bien plus dans l’autre que nous ne le comprenons”, dites-vous. Aurions-nous une forme d’illusion à comprendre l’autre ?
Vous avez cité les trois limites que je pose à l’empathie. D’abord, qu’elle est mécaniquement sélective, car on n’a pas assez d’attention disponible pour se projeter dans les expériences de tout le monde. On réserve donc cette habilité à ceux qui nous sont proches, à ceux qui appartiennent à notre cercle. Et en plus, elle est influencée par les cadrages culturels, politiques, médiatiques qui viennent positionner les groupes humains selon une hiérarchie de valeur. L’empathie est une aptitude qui cherche une similitude – “l’impérialisme du même”, disait Lévinas -, c’est-à-dire qu’elle cherche en l’autre mon semblable – ce qui est sa force et sa limite. Cela nous montre qu’elle n’est pas très fiable. On peut décider que l’autre n’est pas notre semblable, comme nous le rappelle le film de Glazer justement.
Enfin, on est attaché à ce qui nous ressemble, ce qui est une forme de narcissisme de l’espèce. Mais, cette impression de similitude est bien souvent factice. L’expérience de l’autre n’est bien souvent pas celle qu’on imagine qu’elle est. C’est la troisième limite à l’empathie. Même quand on arrive à s’identifier à l’autre, après plein d’examens de similitude morale et de traits de comportements ou de sensibilité intellectuelle… à la fin, on est dans l’illusion de la compréhension de l’autre, car on ne le voit que là où on s’y retrouve ! Si on est exclu d’une expérience par exemple, on l’analyse mal avec nos outils limités et tronqués car nous n’avons pas nécessairement les vies riches que nous imaginerions avoir. Avoir connu la souffrance par exemple ne signifie pas qu’on soit capable de comprendre celle des autres. Les expériences restent toujours singulières.
Vous dites que l’appartenance est une perception. Nous autoproduisons nos propres stéréotypes sociaux. Les étudiants blancs sont plus susceptibles d’interpréter une bousculade comme violente lorsqu’elle est causée par une personne noire que par une personne blanche. Notre interprétation semble toujours confirmer nos stéréotypes plutôt qu’elle ne les remet en cause. Comment peut-on lutter contre nos représentations et nos stéréotypes, dans lesquels nous sommes englués ?
Les biais de confirmation nous simplifient notre lecture du monde. Par recherche de cohérence, et d’efficience, on a tendance à préserver l’image de groupe qui miroite sur notre image de soi, et donc c’est pour cela qu’on a tendance à favoriser notre groupe. On a plus de facilités à juger les groupes externes avec des caractéristiques très réductrices. Cela nous rassure sur notre position morale et notre image de nous-mêmes. Si on reprend l’exemple du film de Glazer, l’indifférence de cette famille s’explique aussi parce que ces personnes pensent qu’elles sont dans le camp du bien et que l’effacement du groupe humain qui est de l’autre côté des murs est une nécessité. Ces personnes ne sont pas que indifférentes. Elles sont persuadées que cet effacement est nécessaire pour la survie de leur propre groupe. Cette victimisation inversée sert le groupe, comme l’instrumentalisation des animaux nous sert à légitimer notre nourriture, notre agriculture. Il y a quelques siècles en arrière, l’instrumentalisation du corps des esclaves pour l’économie européenne était considérée comme une nécessité. L’effacement de l’autre devient une forme de légitime défense.
Ce sont là des mécanismes qui nous simplifient le monde. On peut ramener ces mécanismes à leur biologie. On a besoin de simplifier le monde car on n’a pas assez d’énergie. Mais on a aussi besoin d’être en cohérence avec sa propre image. C’est là où s’intègrent les cadrages politiques et sociaux qui donnent à chaque groupe l’impression d’être dominé ou menacé par l’autre. C’est en cela que ces affects nous éloignent d’une lecture objective des situations. Et c’est pour cela que nous avons besoin de quelque chose que nous avons produit, suite à la Shoah d’ailleurs, qui est le droit humanitaire international. C’est un moyen de nous protéger de notre propre raison et de notre propre définition de ce qui est moral.
Développer des règles qui s’appliquent à tous ?
Oui. Ce sont des règles que nous avons construites avec notre organisation sociale. Ce sont des règles auxquelles on se conforme pour naviguer dans les interactions sociales qui nous lient. Des règles qui nous permettent de conserver nos droits, de ne pas céder à des affects et donc, ce sont des règles où tout le monde n’est pas gagnant de la même façon mais qui peuvent régir des biens collectifs supérieurs aux intérêts d’un groupe par rapport à d’autres.
Vous êtes très critique sur la manière dont nous pouvons réparer l’empathie.
Les formations à l’empathie qui parlent de l’histoire des oppressions, de ce qu’ont vécu les groupes humains opprimés, permettent de modifier notre appréhension du monde. Éviter ces sujets ne donne pas des outils pour comprendre, pour questionner les raisons qui font que nous avons des biais racistes.
En fait, je voudrais qu’on sorte un peu de notre fainéantise intellectuelle. Aujourd’hui, par exemple, trop souvent, quand on fait des films sur des populations opprimées, on ne prend pas le temps d’analyser, d’amener les personnes concernées, de modifier les conditions de production pour sortir du regard que l’on porte sur elles pour donner la voix à leurs propres regards. Et on justifie cette fainéantise intellectuelle par l’affect, l’intuition ou la création spontanée. C’est comme quand on dit que les enfants sont bons par nature. Ce n’est pas le cas pourtant. Le racisme est présent chez les enfants à partir de 3 ans si on ne leur explique pas les structures de suprématie qui structurent nos sociétés. La journaliste Douce Dibondo appelle “l’épistémologie de la connaissance contre celle de l’ignorance”. Nous devons parler des sujets qui fâchent plutôt que de demander aux gens de travailler leur capacité d’identification. Nous ne nous identifions pas assez aux personnes qui ne nous ressemblent pas.
Ce que vous dites, c’est que nous avons besoin d’une lecture plus politique de nos rapports sociaux ?
Oui. On a besoin d’une lecture historique en tout cas. Et nous devrions d’ailleurs beaucoup valoriser la lecture historique à l’heure où les tentatives d’effacement de certaines histoires se multiplient tout autour de nous. Nous devons défendre ce patrimoine. Cet attachement aux faits, au réel, doit nous permettre de nous éloigner des attitudes complotistes au monde.
Dans votre second livre, vous nous dites qu’on est confronté, sur les réseaux sociaux, à une empathie un peu factice. Que les algorithmes basés sur la viralité cherchent d’abord et avant tout à produire de l’émotion, de l’exacerbation de nos sensations, de nos sentiments. En analysant 430 milliards de vidéos, le facteur le plus puissant du succès viral est la réponse émotionnelle (“Plus l’intensité de l’émotion suscitée par le contenu sera grande, plus les gens auront tendance à le partager”). Vous dites même que le numérique favorise une forme de “tourisme affectif”…
Si on prend la question en la ramenant à l’attention avant même de parler de réseaux sociaux, il nous faut observer ce que la prédiction des calculs produit. Que ce soit des sons ou des images, l’attention passe d’un niveau phasique à un niveau tonique, avec des changements de circulation électro-chimique dans le cerveau quand je suis dans ce que l’on appelle un écart de prédiction. Cet écart de prédiction, c’est ce qu’on appelle l’émotion. C’est ce qui nous surprend, nous émeut. Et nous avons besoin de réduire cet écart de prédiction en analysant cette information. Et ce travail d’analyse me fait dépenser de l’énergie. C’est un peu comme cela qu’on apprend aussi. Face à une information nouvelle, on a un écart de prédiction : soit on rejette cette nouvelle information, soit on l’intègre dans nos prédictions, ce qui nous permet ensuite de revenir à ce que l’on appelle un monde émotionnellement neutre ou stable.
Un contenu viral est donc un contenu qui va produire un écart de prédiction. C’est pourquoi ils sont souvent émotionnels. Ils captent notre attention et créent un attachement par rapport à ces contenus. Dans la vie intime, c’est le même processus qui nous fait nous attacher à certaines personnes plutôt qu’à d’autres, parce que ces personnes produisent en nous des déplacements. La viralité repose sur des objets qui attirent l’attention, qui produisent un travail émotionnel et ce travail nous fait créer un lien avec ces contenus. Faire reposer l’intérêt sur un travail émotionnel peut vite être pernicieux, car il nous empêche par exemple de saisir le contexte de ce que l’on regarde, car notre cognition est déjà sollicitée pour rétablir l’équilibre émotionnel qui nous atteint.
La seconde chose qui peut se produire, c’est que l’exposition à un même écart de répétition, finit par l’aplatir. Face à des contenus émotionnels répétitifs, nous finissons par nous engourdir. Face au flux d’affect, les contenus viraux finissent par ne plus provoquer de réaction en nous. Beaucoup d’études montrent que l’exposition répétée à des contenus violents abaisse notre capacité à être ému par ces contenus. De même quand nous sommes exposés à des contenus de personnes en souffrance. Le risque, c’est que par leur répétition, nous normalisions des contenus qui devraient nous heurter, nous faire réagir. Les études montrent que cette exposition répétée peut conduire à la violence de certains et surtout à l’inertie.
Le tourisme affectif est un troisième niveau. Quand on scroll ces contenus affectifs, nous faisons un travail, comme si nous les vivions à notre tour. Ces contenus nouveaux nous dépaysent, nous surprennent. Le tourisme, dans la vie réelle, consiste à chercher quelque chose qui nous déplace, qui ne corresponde pas à nos prédictions. Le problème, c’est que quand ce tourisme se fait sur la souffrance des autres, ce déplacement devient indécent, car alors, on instrumentalise ce que vivent les autres pour notre propre déplacement et notre propre émancipation. L’émotion ou l’empathie ne permettent pas de faire quelque chose pour l’autre : ils permettent de faire quelque chose pour soi, au risque d’avoir l’illusion d’avoir fait le nécessaire.
Le numérique était censé nous ouvrir à la diversité du monde, à nous rendre plus conscient des différences. Danah Boyd, disait “La technologie ne bouleverse pas les clivages sociaux. Au contraire, elle les renforce”. Partagez-vous ce constat ? Pourquoi sa promesse de diversité n’est-elle pas réalisée selon vous ?
Cette amplification n’est pas dans la nature des technologies. C’est lié à leur usage surtout et le fait que nos technologies suivent nos biais, nos biais de confirmation, produisent des effets bulles… Mais la technologie peut aussi aider à faire circuler la connaissance nécessaire pour comprendre les oppressions. Elle peut nous permettre de nous organiser, pour refuser ou questionner un système. Mais effectivement, elle peut aussi servir à confirmer nos stéréotypes et représentations : nous conforter dans notre façon de voir le monde.
Les dernières élections américaines se sont beaucoup faites sur les réseaux sociaux. Il n’y a eu qu’un débat télévisé entre les deux candidats. Pourtant, plus que de s’en méfier, nous devrions chercher à les comprendre pour les mettre au service d’une autre façon d’appréhender la connaissance. Le débat sur l’utilisation des technologies a toujours accompagné ses avancées. Souvent on est un peu naïf avec elles. On crée des outils qui nous ressemblent. Mais on peut toujours les transcender. Il y a aussi sur les réseaux sociaux des voies alternatives, subversives, subalternes qui existent. Nous devons questionner et nous méfier des algorithmes. Aujourd’hui, trop peu de gens comprennent comment fonctionnent les algorithmes. Sur TikTok, la majorité des jeunes qui l’utilisent ne comprennent pas son fonctionnement, alors que c’est essentiel. La formation aux médias, cela devrait être une formation obligatoire pour s’en protéger et les utiliser pour la découverte intellectuelle nous permettant d’accéder à des personnes auxquelles nous n’aurions pas accès autrement.
Quel regard portez-vous sur l’Intelligence artificielle ? D’autant que celle-ci semble avoir un rôle important sur nos représentations culturelles et nos stéréotypes. Le risque n’est-il pas que nos stéréotypes sociaux et comportementaux, demain, soient encore plus marqués qu’ils ne sont, plus indépétrables – alors que vous nous dites dans vos livres que nous devons les questionner, les déconstruire ?
Pour moi, l’IA nous confronte à ce qui ne va pas chez nous. Elle n’invente pas nos stéréotypes. Elle nous montre au contraire à quel point nous sommes réducteurs, à quels points nous sommes eurocentrés, hétérocentrés, validistes… Mais je trouve très intéressant que nous soyons confrontés au ridicule de nos représentations. Cela devrait nous inviter à comprendre avec quoi nous nourrissons ces machines, nous analysons ces représentations avec les mêmes cerveaux qui l’ont produit. Sans compter qu’avec l’IA, nous en restons à une définition de l’intelligence qui colle aux intérêts de l’homme. Quand nous attribuons à l’IA des intentions, nous le faisons parce que nous n’arrivons pas, dans les limites de notre intelligence, à nous imaginer autre chose que des intentions humaines. Elle nous permet de nous rappeler que notre espèce n’est peut-être pas centrale dans l’appréhension du monde, comme nous le rappelle aussi le reste du vivant. La puissance de l’IA nous permet de douter de soi, en tant qu’individu, mais aussi de notre espèce.
Nous n’avons pas à fermer les yeux parce que l’IA nous renvoie des mexicains stéréotypés ou des médecins qui sont toujours des hommes blancs. C’est l’occasion plutôt de poser des questions. Pourquoi avons-nous ces représentations ? Qui nourrit ces systèmes ? Quelle partie du monde les nourrit ? Comme dans les études en psychologie et neurosciences d’ailleurs, il y a un eurocentrisme et une lecture de la psychologie humaine à travers 25% de ceux qui la constituent.
Pour une spécialiste des neurosciences, qu’est-ce qui est incalculable ?
Pour moi, l’incalculabe, ce sont les interactions qui se sont produites dans notre cognition depuis notre vie intra-utérine en interaction avec notre patrimoine génétique, qui ne sont pas ni une addition ni une compétition, mais une interaction qui font de nous ce que nous sommes d’une manière incalculable et qui ridiculisent nos tentatives à quantifier l’humain. Que ce soit au niveau de nos compétences, de nos prises de décisions ou de nos jugements, on les pense rationnels et calculables, alors qu’ils reposent sur des écarts de prédiction extrêmement précis, mais sans avoir d’outils pour les démêler. C’est ce que je défends dans Le mérite est une fiction. Quand je vois un résultat, je ne peux pas remonter aux raisons qui l’expliquent. Le social est incalculable en fait. Les influences de ce qui font de nous ce que nous sommes sont incalculables. Cela nous dit de nous méfier de tout ce qu’on appelle talent, personnalité… Et cela nous invite enfin à admettre une forme d’incertitude constitutive de l’homme.