Amnesty déclare l’IA générative illégale

Dans une étude très argu­men­tée, Amnesty Inter­na­tion­al (en fait sa struc­ture spé­cial­isée, Amnesty Tech, basée à Lon­dres) démon­tre en quoi l’IA généra­tive (IAg) est illé­gale, et pourquoi il faut l’in­ter­dire.

Cette étude n’est pour le moment qu’en anglais, il serait souhaitable qu’elle soit traduite et que ses argu­ments nour­ris­sent, avec d’autres, le débat sur la ques­tion. Rap­pelons qu’un mou­ve­ment en France prône un refus de l’usage de l’I­Ag dans l’enseignement, la cul­ture, la recherche, le jour­nal­isme et les entre­pris­es (nous y adhérons).

Au delà, cette étude d’Amnesty promet une autre vision du monde face à l’idéolo­gie tech­no­fas­ciste prônée par le man­i­feste de Palan­tir et les trump­istes. Elle se cen­tre sur les droits humains (la voca­tion d’Amnesty) mais peut recou­vrir d’autres angles (par exem­ple sur l’ex­trac­tion de min­erais).

Quelques extraits de l’é­tude d’Amnesty (ver­sion anglaise ci-dessous)

Illé­gale par nature : met­tre en lumière le coût de l’IA généra­tive en matière de droits de l’homme

Présen­ta­tion

Cette note d’information exam­ine en quoi les sys­tèmes d’IA généra­tive autonomes, fondés sur le “web scrap­ing” [NDLR : extrac­tion de don­nées sur le Web] illé­gal, sont en con­tra­dic­tion avec le droit inter­na­tion­al des droits de l’homme (DIDH) et ses normes, tant au niveau de leur con­cep­tion que de leur développe­ment et de leur déploiement. Si ces tech­nolo­gies promet­tent une automa­ti­sa­tion sophis­tiquée et une grande effi­cac­ité, elles reposent sur des pra­tiques de col­lecte de don­nées et d’entraînement des mod­èles qui por­tent atteinte au droit à la vie privée, favorisent la dis­crim­i­na­tion et men­a­cent la lib­erté d’expression et de pen­sée.

Amnesty Inter­na­tion­al con­state que les sys­tèmes d’IA généra­tive autonomes, fondés sur un “web scrap­ing” illé­gal, reposent intrin­sèque­ment sur des atteintes mas­sives à la vie privée et sont fon­da­men­tale­ment incom­pat­i­bles avec le droit inter­na­tion­al relatif aux droits de l’homme. À ce titre, Amnesty Inter­na­tion­al appelle à l’interdiction de ces sys­tèmes.

Con­clu­sion et recom­man­da­tions

La présente note d’information démon­tre que bon nom­bre des car­ac­téris­tiques de con­cep­tion fon­da­men­tales des sys­tèmes d’IA généra­tive autonomes courants sem­blent incom­pat­i­bles avec cer­tains aspects du droit et des normes inter­na­tionaux relat­ifs aux droits de l’homme, notam­ment en rai­son du “web scrap­ing” illé­gal inté­gré au pipeline de don­nées ali­men­tant ces out­ils. Cette sit­u­a­tion est encore aggravée par les risques crois­sants pour les droits de l’homme liés à la manière dont ces sys­tèmes sont déployés et util­isés. Lorsque la con­cep­tion de leurs pro­duits repose sur des pra­tiques de col­lecte mas­sive de don­nées qui vio­lent le droit à la vie privée, et lorsque ces pro­duits génèrent des résul­tats qui dis­crim­i­nent sys­té­ma­tique­ment les groupes mar­gin­al­isés, ils présen­tent une incom­pat­i­bil­ité sig­ni­fica­tive avec le droit à la vie privée ain­si qu’avec le droit à l’égalité et à la non-dis­crim­i­na­tion.

Sans change­ments sig­ni­fi­cat­ifs dans la manière dont ces sys­tèmes sont dévelop­pés et déployés, ils con­tin­ueront à porter atteinte au droit inter­na­tion­al relatif aux droits de l’homme et aux normes en la matière. Qu’ils soient pro­prié­taires ou open source, ces sys­tèmes néces­si­tent une atten­tion urgente afin d’établir des cadres clairs en matière de respon­s­abil­ité et de pro­tec­tion des droits de l’homme avant que leurs effets ne s’ancrent plus pro­fondé­ment dans la société. Amnesty Inter­na­tion­al appelle donc à l’interdiction des sys­tèmes d’IA généra­tive autonomes dont il a été établi qu’ils ont été con­stru­its à par­tir d’un “web scrap­ing” illé­gal, ain­si que de ceux qui ont démon­tré des sché­mas de dis­crim­i­na­tion.

RECOMMANDATIONS

À L’ATTENTION DES ÉTATS

- Met­tre en place une inter­dic­tion des sys­tèmes d’IA généra­tive autonomes qui ont été dévelop­pés à l’aide d’un “web scrap­ing” illé­gal, défi­ni comme la col­lecte mas­sive et en vrac de don­nées d’entraînement sur le World Wide Web, sans pro­tec­tion con­tre la col­lecte non con­sen­tie de don­nées à car­ac­tère per­son­nel.

- Adopter une lég­is­la­tion exigeant la trans­parence des pra­tiques de col­lecte de don­nées d’entraînement et la respon­s­abil­ité tout au long des chaînes d’approvisionnement de l’IA, et en out­re :

• Exiger par la loi que les entre­pris­es tech­nologiques, y com­pris celles qui dévelop­pent et déploient des sys­tèmes d’IA généra­tive, mènent une dili­gence raisonnable con­tin­ue et proac­tive en matière de droits de l’homme afin d’identifier et de traiter les risques et les impacts liés à leurs activ­ités mon­di­ales en matière de droits de l’homme. Cela doit inclure des cadres régle­men­taires clairs imposant des éval­u­a­tions oblig­a­toires de l’impact sur les droits de l’homme avant le déploiement de sys­tèmes d’IA généra­tive.
• Met­tre en place des éval­u­a­tions d’impact envi­ron­nemen­tal oblig­a­toires pour les cen­tres de don­nées et les infra­struc­tures infor­ma­tiques sou­tenant les sys­tèmes d’IA généra­tive, assor­ties d’exigences claires en matière de rap­ports.
• Veiller à ce que des éval­u­a­tions d’impact sur les droits de l’homme soient exigées pour l’ensemble de la chaîne d’approvisionnement liée au déploiement d’un pro­duit d’IA, y com­pris en ce qui con­cerne la pro­duc­tion des GPU des puces et des min­erais néces­saires à leur fab­ri­ca­tion, qui peu­vent se trou­ver dans des con­textes défa­vor­ables en matière de droits de l’homme.

- Veiller à ce que des organ­ismes indépen­dants mènent une con­sul­ta­tion sig­ni­fica­tive auprès des com­mu­nautés con­cernées, en par­ti­c­uli­er celles qui ont été his­torique­ment mar­gin­al­isées ou vic­times de dis­crim­i­na­tion, tout au long du cycle de vie du pro­duit.

- Lorsque les déploiements d’IA sont iden­ti­fiés comme exac­er­bant les iné­gal­ités exis­tantes ou créant de nou­velles formes de dis­crim­i­na­tion, met­tre fin à leur util­i­sa­tion.

- Dans le cadre de tout développe­ment, déploiement et util­i­sa­tion d’un sys­tème d’IA, garan­tir l’accès à des recours effec­tifs en cas de vio­la­tions des droits de l’homme liées aux impacts des entre­pris­es tech­nologiques, quel que soit le lieu où les préju­dices se pro­duisent, y com­pris ceux résul­tant des activ­ités de leurs fil­iales, qu’elles soient étrangères ou nationales. Les mécan­ismes de recours doivent être ren­dus facile­ment acces­si­bles et com­préhen­si­bles afin de per­me­t­tre aux per­son­nes de dépos­er plainte lorsque leurs droits ont été bafoués.

- Inve­stir dans la mise en œuvre de pro­grammes édu­cat­ifs numériques effi­caces, les encour­ager et les pro­mou­voir afin de garan­tir que les indi­vidus com­pren­nent leurs droits, y com­pris leur droit de deman­der un recours effec­tif con­tre toute vio­la­tion de la pro­tec­tion des don­nées, de la vie privée ou d’autres droits de l’homme, lorsqu’ils accè­dent à des ser­vices numériques.

À L’ATTENTION DES ENTREPRISES

- Met­tre fin à la pra­tique illé­gale con­sis­tant à extraire sans con­sen­te­ment des don­nées à car­ac­tère per­son­nel sur Inter­net à des fins d’entraînement de l’IA.

- Men­er une dili­gence raisonnable exhaus­tive en matière de droits de l’homme tout au long du cycle de développe­ment et de déploiement des sys­tèmes d’IA généra­tive, notam­ment en ren­dant publics les risques iden­ti­fiés et les mesures d’atténuation pris­es pour y remédi­er.

- Dans le cadre de cette dili­gence raisonnable, garan­tir une trans­parence totale (ou divulguer publique­ment) les risques et les abus iden­ti­fiés en lien avec les pra­tiques de col­lecte et de traite­ment des don­nées, les impacts sur la chaîne d’approvisionnement, y com­pris l’empreinte envi­ron­nemen­tale des opéra­tions, ain­si que les mesures d’atténuation pris­es pour remédi­er à ces risques et abus.

- Met­tre en place des mécan­ismes de respon­s­abil­ité et des procé­dures de récla­ma­tion clairs pour les per­son­nes et les com­mu­nautés con­cernées par leurs sys­tèmes, qui soient acces­si­bles à tous, suff­isam­ment clairs, réac­t­ifs et rapi­des.

- Pren­dre des mesures immé­di­ates pour met­tre les pro­duits d’IA généra­tive en con­for­mité avec le droit à l’égalité et à la non dis­crim­i­na­tion en iden­ti­fi­ant et en élim­i­nant de manière proac­tive les biais dis­crim­i­na­toires présents dans leurs sys­tèmes. Lorsque cela n’est pas pos­si­ble, les mod­èles doivent être retirés de l’usage com­mer­cial et pub­lic.

- Garan­tir une con­sul­ta­tion sig­ni­fica­tive et effi­cace avec les com­mu­nautés con­cernées con­cer­nant la con­cep­tion et le développe­ment de mod­èles d’IA con­formes à la loi et leurs impacts, en par­ti­c­uli­er les com­mu­nautés qui ont été his­torique­ment mar­gin­al­isées ou vic­times de dis­crim­i­na­tion.

- Veiller à ce que les lignes direc­tri­ces, les règles et les pra­tiques en matière de mod­éra­tion des con­tenus soient fondées sur le droit inter­na­tion­al des droits de l’homme et les normes inter­na­tionales en la matière, qu’elles soient con­formes à ceux-ci et qu’elles soient mis­es en œuvre dans le respect des principes d’égalité et de non-dis­crim­i­na­tion.

- Veiller à ce que des investisse­ments appro­priés soient con­sacrés aux ressources en langues locales pour la mod­éra­tion des con­tenus à tra­vers le monde, en met­tant par­ti­c­ulière­ment l’accent sur la réso­lu­tion des iné­gal­ités exis­tantes qui touchent de manière dis­pro­por­tion­née les pays de la “majorité mon­di­ale”.

- Les éval­u­a­tions d’impact sur les droits de l’homme devraient être pub­liées régulière­ment et inclure des infor­ma­tions détail­lées sur les risques et les mesures d’atténuation pris­es con­cer­nant des pays spé­ci­fiques (en par­ti­c­uli­er lorsque les sys­tèmes peu­vent avoir un impact plus impor­tant en rai­son de con­flits poli­tiques ou de sit­u­a­tions d’urgence human­i­taire), des caté­gories spé­ci­fiques d’utilisateurs telles que les enfants et les jeunes, ain­si que des mod­i­fi­ca­tions spé­ci­fiques apportées aux pro­duits.

À L’ATTENTION DES ORGANES DES NATIONS UNIES ET DES ACTEURS RÉGIONAUX

- Éla­bor­er des normes inter­na­tionales visant à empêch­er le développe­ment et le déploiement de sys­tèmes d’IA généra­tive qui sont, de par leur con­cep­tion, incom­pat­i­bles avec le droit inter­na­tion­al des droits de l’homme, con­for­mé­ment à la réso­lu­tion A/78/L.49 de l’Assemblée générale des Nations unies inti­t­ulée “Tir­er par­ti des oppor­tu­nités offertes par des sys­tèmes d’intelligence arti­fi­cielle sûrs, sécurisés et fiables au ser­vice du développe­ment durable” et de la clause 20(b) de la réso­lu­tion A/RES/78/213 de l’Assemblée générale des Nations unies inti­t­ulée “Pro­mo­tion et pro­tec­tion des droits de l’homme dans le con­texte des tech­nolo­gies numériques”.

- Met­tre en place des cadres clairs en matière de respon­s­abil­ité et de recours en cas de vio­la­tion des droits.

- Soutenir la recherche et le suivi indépen­dants des impacts des sys­tèmes d’IA généra­tive sur les droits de l’homme, y com­pris dans le cadre des man­dats des procé­dures spé­ciales.