Appel mondial à établir des lignes rouges pour l’IA

Texte de l’ap­pel

L’in­tel­li­gence arti­fi­cielle (IA) recèle un poten­tiel immense pour le pro­grès humain, mais sa tra­jec­toire actuelle présente des dan­gers sans précé­dent. L’IA pour­rait bien­tôt dépass­er de loin les capac­ités humaines et exac­er­ber les risques tels que le développe­ment de pandémies arti­fi­cielles, la manip­u­la­tion des indi­vidus, y com­pris des enfants, la dés­in­for­ma­tion à grande échelle, les men­aces pour la sécu­rité nationale et inter­na­tionale, le chô­mage de masse et les vio­la­tions sys­té­ma­tiques des droits humains.

Cer­tains sys­tèmes d’IA avancés ont déjà man­i­festé des com­porte­ments trompeurs et nuis­i­bles. Or, ces sys­tèmes se voient accorder une autonomie crois­sante pour agir et pren­dre des déci­sions dans le monde réel. De nom­breux experts, y com­pris ceux à la pointe du domaine, prévi­en­nent que si rien n’est fait, il devien­dra de plus en plus dif­fi­cile d’ex­ercer un con­trôle humain sig­ni­fi­catif dans les années à venir.

Les gou­verne­ments doivent agir avec déter­mi­na­tion avant qu’il ne soit trop tard pour toute inter­ven­tion sig­ni­fica­tive. Un accord inter­na­tion­al définis­sant des lignes rouges claires et véri­fi­ables est indis­pens­able pour par­er à des risques jugés uni­verselle­ment inac­cept­a­bles. Ces lignes rouges devront s’ap­puy­er sur les cadres juridiques mon­di­aux exis­tants et sur les engage­ments volon­taires des entre­pris­es, tout en les ren­forçant, afin de garan­tir que tous les développeurs d’IA avancée soient soumis aux règles com­munes.

Nous exhor­tons les gou­verne­ments à par­venir à un accord poli­tique inter­na­tion­al sur des lignes rouges pour l’IA — en veil­lant à ce qu’elles soient opéra­tionnelles, avec des mécan­ismes d’ap­pli­ca­tion robustes — d’i­ci la fin de l’an­née 2026.