Manifeste pour l’objection de conscience face à l’IA dans l’éducation et la recherche

Le man­i­feste “Face à l’IA généra­tive, l’objection de con­science” sou­tient que les dégâts écologiques, soci­aux, et démoc­ra­tiques de l’IAg la ren­dent incom­pat­i­ble avec la mis­sion human­iste des enseignant-es et des chercheur-es. Ces dernier-es sont invité-es à le sign­er et à le dif­fuser afin de vis­i­bilis­er les résis­tances et d’engager des débats de fond dans nos insti­tu­tions.

Nous, mem­bres de l’enseignement supérieur et de la recherche (ESR) et de l’éducation nationale (EN), déclarons adopter une pos­ture d’objection de con­science face au déploiement des tech­nolo­gies d’IA généra­tive [1] (IAg) dans nos insti­tu­tions.

L’objection de con­science désigne le refus indi­vidu­el, mais aus­si col­lec­tif en tant qu’il est publique­ment partagé, de pren­dre part à une activ­ité que l’on perçoit comme incom­pat­i­ble avec des valeurs fon­da­men­tales.

Dans le cas présent, nous con­sid­érons que le déploiement de l’IAg dans les insti­tu­tions de l’ESR et de l’EN est incom­pat­i­ble avec les valeurs de ratio­nal­ité et d’humanisme que nous sommes censé·es représen­ter et dif­fuser.

Trois con­sid­éra­tions majeures jus­ti­fient cette posi­tion. Pour des raisons de con­ci­sion, ce man­i­feste ne les développe pas mais on trou­ve dans la lit­téra­ture sci­en­tifique de quoi les étay­er solide­ment [2].

Con­sid­éra­tion 1

L’IAg est un gouf­fre énergé­tique et matériel tel que per­son­ne ne peut pré­ten­dre qu’elle soit com­pat­i­ble avec les grands engage­ments inter­na­tionaux tels que l’Accord de Paris sur le cli­mat, et plus générale­ment avec la pro­tec­tion du vivant.

Accepter le déploiement de l’IAg, c’est ampli­fi­er le dépasse­ment des lim­ites plané­taires. Ceci est une atti­tude résol­u­ment anti-human­iste eu égard à la grav­ité de la sit­u­a­tion. Le car­ac­tère éco­cidaire de l’IAg est en soi une rai­son suff­isante pour en refuser le déploiement au sein de nos insti­tu­tions.

Con­sid­éra­tion 2

L’IAg représente un choix tech­nologique qui agit comme un accéléra­teur des infra­struc­tures indus­trielles sur lesquelles repose le secteur du numérique : mines, dat­a­cen­ters, cen­trales élec­triques, usines de matériel élec­tron­ique, etc.

Ain­si, out­re les prob­lèmes de pol­lu­tion mas­sive déjà évo­qués, ce sont les lourds dégâts soci­aux asso­ciés à ce sys­tème qui se voient ren­for­cés : tra­vail pro­lé­tarisé dans les usines de fab­ri­ca­tion et ultra­pro­lé­tarisé dans le “tra­vail du clic”, non-respect des droits humains, con­flits d’usage (eau, métaux, énergie), rap­ports extrac­tivistes et néo-colo­ni­aux entre pays du Nord et du Sud, désta­bil­i­sa­tion géopoli­tique des régions minières, etc.

Dans tous ces domaines, la com­péti­tion effrénée à laque­lle se livrent les acteurs de l’IAg mèn­era aux méth­odes les plus sauvages et pré­da­tri­ces. Il nous sem­ble inac­cept­able de con­tribuer à une telle dynamique par nos pra­tiques péd­a­gogiques et sci­en­tifiques.

Con­sid­éra­tion 3

La banal­i­sa­tion des IAg dans le grand pub­lic ali­mente des usages qui ouvrent la voie à un futur dystopique – qui est, pour par­tie, déjà là : mul­ti­pli­ca­tion des vidéos deep­fake, dés­in­for­ma­tion à grande échelle par des “usines à trolls”, dépen­dance affec­tive aux com­pag­nies virtuelles, inten­si­fi­ca­tion du mar­ket­ing dig­i­tal et des escro­queries, etc.

Plus générale­ment, il per­met à des mégafirmes d’accumuler un pou­voir démi­urgique, mégafirmes dont les dirigeants ne font pas mys­tère de leurs pro­jets méga­lo­ma­ni­aques,  eugénistes et de leur détes­ta­tion de la démoc­ra­tie. Nos insti­tu­tions ne peu­vent soutenir de telles tech­no-oli­garchies, y com­pris de manière indi­recte.

Le sup­port prin­ci­pal de l’objection de con­science est le refus de par­ticiper à une activ­ité qui con­tre­vient à des valeurs fon­da­men­tales. Dans le cas de l’IAg, les trois con­sid­éra­tions ci-dessus per­me­t­tent d’assurer cette pos­ture au regard de nos mis­sions d’éducation et de dif­fu­sion des savoirs.

Face à ces analy­ses glob­ales, les argu­ments les plus fréquents de légiti­ma­tion de l’introduction de l’IAg dans nos insti­tu­tions appa­rais­sent immé­di­ate­ment irrecev­ables [3]. Notam­ment, l’idée com­mune selon laque­lle la dif­fu­sion de l’IAg dans nos sociétés serait “inéluctable” ne remet aucune­ment en cause la per­ti­nence de l’objection de con­science.

En effet, le principe de l’objection de con­science, voire de toutes les formes de résis­tance, con­siste à s’opposer à ce qui con­tre­vient à nos valeurs fon­da­men­tales non pas parce que l’on pense que l’on va “gag­n­er”, mais parce que l’on a la cer­ti­tude que c’est ce qui est juste et digne, ici et main­tenant.

Par ailleurs, con­traire­ment à d’autres tech­nolo­gies délétères déjà pro­fondé­ment implan­tées dans nos sociétés, l’apparition des IAg est récente et par con­séquent ses usages ne sont pas pro­fondé­ment inté­grés dans nos pra­tiques pro­fes­sion­nelles. Ain­si, l’effet de “ver­rouil­lage sociotech­nique” empêchant tout retour en arrière n’est pas encore pleine­ment là avec les IAg et il est encore effec­tive­ment pos­si­ble d’exercer un refus.

Engage­ments

Nous, mem­bres de l’ESR et de l’EN sig­nataires de ce man­i­feste nous enga­geons à :

• adopter face au déploiement des IAg dans nos insti­tu­tions une pos­ture d’objection de con­science. Face à un phénomène qui nous dépasse mais dont nous savons qu’il est mor­tifère, nous choi­sis­sons d’opposer un refus net, indis­cutable, et poli­tique parce qu’il est partagé : nous ne les utilis­erons pas, à moins d’y être expressé­ment contraint·es, dans nos cours, dans nos com­mu­ni­ca­tions, dans nos recherch­es, dans nos activ­ités admin­is­tra­tives. Nous refuserons, autant que nos sit­u­a­tions indi­vidu­elles nous le per­me­t­tent, de par­ticiper à des pro­jets ou à des activ­ités qui les mobilisent (enreg­istrement et compte-ren­du automa­tique de réu­nion ; activ­ité péd­a­gogique ; for­ma­tion à l’usage, fût-il qual­i­fié de raison­né ou éthique, etc.). À tout le moins, nous exprimerons publique­ment notre malaise pro­fond face à ces pra­tiques. Nous sommes par ailleurs conscient·es que le terme “IAg” recou­vre des appli­ca­tions très divers­es, dont cer­taines sont déjà large­ment inté­grées à nos pra­tiques, telles que la tra­duc­tion ou la tran­scrip­tion automa­tique. S’il n’est pas réal­iste de tout remet­tre en cause, il s’agit au moins de stop­per ce qui peut encore l’être.

• affich­er dans nos activ­ités, nos sig­na­tures mails, nos pub­li­ca­tions, nos dia­po­ra­mas, etc. notre ral­liement à ce man­i­feste via un logo et/ou le lien vers le présent texte. L’enjeu est de ne jamais laiss­er l’IAg appa­raître dans nos milieux pro­fes­sion­nels “comme si de rien n’était” et d’afficher partout dans nos sphères d’activité que “cela ne va pas de soi”. Par­venir à ouvrir des dis­cus­sions sur le sujet par cet affichage per­me­t­trait déjà d’éviter une banal­i­sa­tion qui, dans des insti­tu­tions pre­scrip­tri­ces comme les nôtres, se con­fond avec de la pro­mo­tion.

• pro­mou­voir autant que pos­si­ble une réflex­ion col­lec­tive sur la place du numérique dans nos insti­tu­tions. Si les argu­ments que nous opposons au déploiement de l’IAg nous per­me­t­tent en effet de refuser une nou­velle “escalade numérique”, nous savons égale­ment que le sys­tème sociotech­nique du numérique dans son ensem­ble est sujet aux mêmes ques­tion­nements. Le “stop” opposé à l’IAg pour­rait ain­si être l’ouverture d’une séquence d’évaluation de nos dépen­dances plus générales à un sys­tème prob­lé­ma­tique, qui per­me­tte de s’engager vers la “sobriété numérique” [4] en vue d’aboutir à un numérique effec­tive­ment souten­able.

Deux logos (ci-dessous) per­me­t­tent aux sig­nataires d’afficher leur adhé­sion à cette posi­tion. Chacun·e est invité·e à choisir le logo qui lui con­vient en fonc­tion du con­texte et/ou de ses préférences.

Notes

[1] Les IA généra­tives con­stituent un type par­ti­c­uli­er de sys­tème d’Intelligence Arti­fi­cielle, des­tiné à génér­er du texte, des images, des sons, des vidéos, sur la base de mod­èles de lan­gage (LLM pour Large Lan­guage Mod­el) entraînés sur de vastes cor­pus de don­nées.

[2] Une bib­li­ogra­phie indica­tive est pro­posée en fin de doc­u­ment.

[3] Celles et ceux qui souhait­ent des élé­ments de dis­cus­sions plus pré­cis sur ce type d’arguments (l’IA « sou­veraine », l’IA « sobre », la « pratic­ité », l’IAg “inéluctable”, etc.) pour­ront par exem­ple con­sul­ter le texte “Oui mais l’IAg…” pub­lié sur le site web de l’Atécopol de Toulouse.

[4] Pour aller plus loin sur ce sujet voir : affiche 10 de l’exposition “Pour la sobriété numérique dans l’ESR”