Pho­to Karl Mon­don / AFP

Beau­coup dénon­cent actuelle­ment la fail­lite de l’ONU, tech­nos­truc­ture décriée pour son coût, inca­pable d’in­ter­venir dans les con­flits les plus meur­tri­ers… Cette cri­tique très ori­en­tée, notam­ment par les Etats-Unis trumpi­ens qui lui ont coupé les vivres, veut ignor­er le fait que la qua­si total­ité des nations du monde en sont tou­jours mem­bres, et que cette instance inter­na­tionale reste le plus impor­tant forum mon­di­al où les pays faibles et divers­es com­mu­nautés minori­taires peu­vent encore se faire enten­dre.

Ain­si, le Con­seil de la paix créé par Trump en jan­vi­er (Trump him­self y est nom­mé à vie…) et qui regrouperait 60 états sig­nataires d’une charte moyen­nant finances (les mem­bres per­ma­nents doivent vers­er 1 mil­liard de $) n’est qu’un lieu où s’ex­prime la suzeraineté trumpi­enne…

Pour autant, y‑a-t’il une chance pour que l’ONU puisse impos­er une régu­la­tion de l’IA ? L’ex­em­ple de l’AI act (ten­ta­tive de régu­la­tion au niveau européen) incite à la pru­dence : dans un 1^e temps un accord poli­tique avait pu être établi entre divers­es ONG (dont l’EDRi, Amnesty…) et le par­lement européen qui visait à inter­dire l’usage bio­métrique, pré­dic­tif de l’IA. Mais l’in­ter­ven­tion des États (dont Macron pour la France) a abouti à un texte bien moins pro­tecteur, notam­ment en mul­ti­pli­ant les excep­tions. Mais ce texte existe et pour­rait per­me­t­tre une con­quête pro­gres­sive de droits car il garde la même struc­ture. Un “risque” qui incite la Com­mis­sion européenne à envis­ager actuelle­ment sa remise en cause par le Dig­i­tal Omnibus !

Le débat actuel à l’ONU porté par les big tech améri­caines autour des dan­gers de l’IA et de sa néces­saire “régu­la­tion” a des visées mer­can­tiles (de con­trôle de la con­cur­rence et de pub­lic­ité pour leur finance­ment). Les pistes de l’in­sti­tu­tion onusi­enne por­tent plus con­crète­ment sur l’inter­dic­tion des robots tueurs, sur la pro­tec­tion des enfants… deux sujets qui, déjà, valent le coup ! Reste que nous refu­sons, avec beau­coup d’autres, l’IA généra­tive, source de pol­lu­tions, cap­ta­tion d’eau, d’én­ergie, et pou­vant tuer le désir et la capac­ité de réflex­ion…

Vingt six pays appellent à une supervision humaine renforcée sur l’IA

Afrique du Sud, Alle­magne, Aus­tralie, Autriche, Bahreïn, Cana­da, Dane­mark, Émi­rats Arabes Unis, Espagne, Estonie, Fin­lande, France, Irlande, Islande, Kaza­khstan, Kenya, Let­tonie, Liecht­en­stein, Lux­em­bourg, Mol­davie, Norvège, Pays-Bas, Roumanie, Sier­ra Leone, Sin­gapour, Turquie ain­si que la Com­mis­sion européenne, sont sig­nataires de la déc­la­ra­tion com­mune pub­liée le 21 sep­tem­bre (ci-dessous). A not­er que la France (Macron) ne l’a signée que le 23…

“L’Intelligence arti­fi­cielle doit rester sous la direc­tion, la super­vi­sion et le con­trôle de l’homme”. Pour eux, les mod­èles d’IA présen­tent “de graves risques pour la sûreté et la sécu­rité” et pour­raient dépass­er notre capac­ité à les con­trôler (ils citent le cas des agents d’IA qui ont con­tourné les mesures de sécu­rité et ont pénétré sur des plate­formes dont l’accès leur était inter­dit [Hug­ging Face]. Ils appel­lent à l’adoption de pro­to­coles de sécu­rité trans­par­ents, com­prenant notam­ment des tests oblig­a­toires et des exa­m­ens indépen­dants.

Trump s’est, lui, fer­me­ment opposé à l’encadrement de l’IA et a au con­traire priv­ilégié un dia­logue direct avec la Chine pour la mise en place d’un “mécan­isme” de dia­logue cen­sé dis­siper les ten­sions com­mer­ciales, tech­nologiques et stratégiques entre les deux pays.

Lors du débat à l’Assem­blée Générale de l’ONU, quelques patrons des big tech ont cru devoir porter un dis­cours apoc­a­lyp­tique sur le devenir de l’IA et de ses con­séquences sur la civil­i­sa­tion. Ain­si du patron d’Anthrop­ic : selon lui il serait plau­si­ble que “d’ici six à douze mois”, “un essaim” d’agents IA prenne “le con­trôle de tout inter­net”. Il pré­conise de “ralen­tir le rythme auquel nous améliorons les capac­ités des mod­èles d’IA” et que soit mis en place des régu­la­tions.

Cette stratégie de la peur est dénon­cée par le cana­di­en Paris Marx : “[Les entre­pris­es d’IA] veu­lent que vous croyiez qu’elles peu­vent détru­ire le monde, pour se rem­plir les poches”, c’est-à-dire pour créer des repris­es médi­a­tiques et impres­sion­ner des investis­seurs poten­tiels. [Il faut rap­pel­er qu’au­cune n’est rentable actuelle­ment, et qu’au con­traire toutes engloutis­sent des investisse­ment sans fond…]. Pour les chercheuses Timnit Gebru et Emi­ly Ben­der, “qual­i­fi­er [les mod­èles d’IA] de ‘super­in­tel­li­gence’ ou de ‘mod­èles rebelles’ revient à attribuer une capac­ité d’action aux pro­duits plutôt qu’aux entre­pris­es qui les dévelop­pent”.

Pour Vir­ginia Dignum, mem­bre du comité con­sul­tatif de l’ONU sur l’IA et uni­ver­si­taire sué­doise : “Dire que ‘l’IA prend le con­trôle’ […], c’est prêter une volon­té et une inten­tion à un logi­ciel qui n’en a aucune. Cela efface les humains qui ont pris les déci­sions.”

Le français Yann Le Cun, l’un des “pères” de l’apprentissage pro­fond, dénonce “un débat insen­sé”, un dis­cours apoc­a­lyp­tique : “cette réflex­ion per­met de cul­tiv­er le secret […] et aus­si d’aller voir les gou­verne­ments pour leur dire que l’IA étant extrême­ment dan­gereuse, il faut absol­u­ment la réguler et ren­dre illé­gale la dis­tri­b­u­tion de moteurs d’IA open source qui, aux mains de la plèbe, pour­raient créer des désas­tres”.

Mise en place de l’Inde­pen­dent Inter­na­tion­al Sci­en­tif­ic Pan­el on AI

Le comité sci­en­tifique inter­na­tion­al indépen­dant sur l’IA a été créé en 2025 et ses 40 mem­bres (indépen­dants des États) sélec­tion­nés en févri­er 2026. Il a pour mis­sion de “faire pro­gress­er la com­préhen­sion sci­en­tifique (de l’IA)” et de nour­rir les délibéra­tions de l’ONU.

Plusieurs experts mem­bres de ce comité ont mis en garde con­tre le dis­cours apoc­a­lyp­tique tenu par des pro­fes­sion­nels du secteur quant aux risques de l’IA. “Inve­stir dans la peur n’est pas vrai­ment effi­cace”, suite aux déc­la­ra­tions de Jacob Cox­on, employé démis­sion­naire d’Anthropic, passé aupar­a­vant par Ope­nAI. Celui-ci a affir­mé début sep­tem­bre que les développeurs de l’IA croy­aient que cette tech­nolo­gie “pour­rait tous nous tuer d’ici la fin de la décen­nie”.

Ci-dessous syn­thèse du pre­mier rap­port de ce comité sci­en­tifique auprès de l’ONU :

Le haut-com­mis­saire de l’ONU aux droits de l’homme appelle à l’ac­tion

“J’appelle les États et les entre­pris­es à se mobilis­er de toute urgence dans le cadre d’instances mul­ti­latérales pour définir une voie d’action visant à encadr­er les mod­èles d’IA de pointe”, aver­tis­sant que “tous les droits humains sont men­acés” par cette tech­nolo­gie, y com­pris les droits à la vie et à l’alimentation, à la vie privée, à la san­té et à la sécu­rité.

Il déplore qu’actuellement “nous dépen­dons presque entière­ment d’un petit nom­bre d’entreprises puis­santes pour opér­er les bons choix en matière de développe­ment de l’IA pour l’ensemble de l’humanité”.

Il s’inquiète de l’émergence d’une intel­li­gence arti­fi­cielle dite “agen­tique” – capa­ble d’agir de manière autonome pour accom­plir des tâch­es et attein­dre des objec­tifs. “Des défail­lances impli­quant ces sys­tèmes pour­raient paral­yser des ser­vices essen­tiels, inter­rompre les com­mu­ni­ca­tions, désta­bilis­er des infra­struc­tures cri­tiques et porter atteinte au cœur même des insti­tu­tions démoc­ra­tiques”. “Des pop­u­la­tions entières pour­raient se retrou­ver privées d’eau potable, de chauffage et de ser­vices financiers”.

Les enfants en première ligne

Pour António Guter­res, Secré­taire général de l’ONU, la pri­or­ité absolue d’un futur accord inter­na­tion­al doit être la pro­tec­tion des enfants. Il appelle les États à adopter un “engage­ment mon­di­al pour la sécu­rité des enfants face à l’intelligence arti­fi­cielle”. Il prévoit notam­ment d’interdire la mise à dis­po­si­tion d’outils acces­si­bles aux mineurs sans éval­u­a­tion indépen­dante de leur sécu­rité, d’imposer une tolérance zéro envers les con­tenus pédocrim­inels générés par l’IA et d’obliger les sys­tèmes à ori­en­ter vers une assis­tance humaine lorsqu’un enfant man­i­feste des signes de détresse.

“Aucun enfant ne devrait servir de cobaye pour une intel­li­gence arti­fi­cielle non régle­men­tée”. “Nous n’autorisons pas un médica­ment à être admin­istré à un enfant tant que sa sécu­rité n’a pas été démon­trée. Nous testons chaque jou­et. Pour­tant, l’IA est déjà entrée dans la vie de nos enfants – dans leur appren­tis­sage, leurs ami­tiés, leurs inter­ro­ga­tions les plus intimes – avant même que quiconque ne se demande quels effets elle pour­rait avoir sur eux”.

La prési­dente de l’Assemblée générale des Nations Unies, Annale­na Baer­bock, a égale­ment mis en garde con­tre les dérives déjà observées. Citant des études récentes, elle a rap­pelé que 99 % des “deep­fakes” ou hyper­trucages dif­fusés sur Inter­net sont de nature sex­uelle et que 96 % visent des femmes ou des filles.