Partout en Europe les Etats utilisent des algorithmes en interdisant l'accès à leur code source. Ce qui revient à être soumis à une loi sans pouvoir la connaître, à l'inverse du principe juridique "Nemo jus ignorare censetur" ("nul n'est censé ignorer la loi").
Ainsi, en France, dans leur combat contre Parcoursup, des syndicats n'ont obtenu qu'une version édulcorée (en tribunal administratif), et La Quadrature du Net n'a pu contester l'algorithme déployé dans les CAF qu'à partir de l'analyse d'une ancienne version.
C'est pourquoi la victoire espagnole, obtenue au plus haut niveau (Cour Suprême), peut constituer le début d'une vraie transparence des algorithmes publics partout en Europe, et donc ouvrir la possibilité de les contester à armes égales !
En France, l'ODAP (observatoire des algorithmes publics, auquel deux d'entre nous ont contribué cet été) mène un travail d'inventaire et de décryptage sans, pour le moment, pouvoir accéder aux codes. Cette victoire lui offre des perspectives !
Article sur le site de Civio qui présente cette victoire espagnole et ses retombées possibles
La Cour suprême espagnole ordonne au gouvernement de divulguer le code source de BOSCO
Cet arrêt, qui fait jurisprudence, stipule que les algorithmes de prise de décision publique requièrent transparence et surveillance. La Cour rejette les arguments selon lesquels la sécurité nationale ou la propriété intellectuelle pourraient limiter de manière absolue ce qu'elle appelle un droit constitutionnel à l'information publique.
Aujourd'hui, nous faisons un grand pas vers la transparence algorithmique. Ce n'est ni une exagération ni une hyperbole. La Cour suprême a donné raison à Civio et a contraint le gouvernement à nous donner accès au code source de BOSCO, le logiciel qui détermine qui reçoit et qui ne reçoit pas de chèque social. Civio avait réclamé le code pour la première fois en 2018 et avait essuyé de nombreux revers judiciaires. La décision de la Cour suprême fait droit à notre appel, crée une jurisprudence et établit que connaître le fonctionnement des programmes et des algorithmes utilisés par les administrations publiques est un droit démocratique.
L'arrêt, que vous pouvez lire intégralement ici , exclut la possibilité d'imposer une opacité totale pour des raisons de sécurité nationale ou de propriété intellectuelle, arguments invoqués par le gouvernement espagnol contre le partage du code. Autrement dit, il ne peut pas outrepasser, de manière générale et absolue, le droit d'accès à l'information, un droit que la Cour suprême déclare constitutionnel.
Le tribunal a tenu compte du fait que le programme détermine l'attribution d'un bon social, qu'il n'en motive pas la décision, qu'il prend une décision automatiquement plutôt que de servir de système de consultation ou de soutien, et que, s'il contient des erreurs, l'algorithme aura un "effet multiplicateur", privant des milliers de personnes d'un droit, contrairement à l'erreur occasionnelle qu'une personne peut commettre en remplissant un formulaire. C'est pourquoi, selon le tribunal, il est particulièrement important que le public connaisse le fonctionnement de l'algorithme.
Ni la propriété intellectuelle ni la sécurité
Bien que la décision admette que l’octroi de l’accès au code source puisse comporter des risques, elle précise que les risques spécifiques doivent être évalués dans chaque cas et que les juges doivent toujours prendre en compte la pertinence particulière du code pour l’intérêt public.
L'un des principaux arguments du gouvernement était la défense de sa propriété intellectuelle. La Cour suprême a indiqué que cet argument était soulevé comme un "simple risque de préjudice potentiel", mais que le gouvernement n'expliquait pas en quoi le partage de sa propriété intellectuelle porterait préjudice à l'administration publique. La Cour établit en outre que la protection de la propriété intellectuelle est réduite lorsque l'administration publique est propriétaire et que le programme n'appartient pas à une entreprise, d'autant plus qu'il ne s'agit pas d'un bien marchand avec des droits d'exploitation, mais d'un outil devant servir l'intérêt public.
Quant au deuxième argument, celui de l’atteinte éventuelle à la sécurité nationale, la Cour souligne que l’ouverture du code source peut certes comporter des risques de sécurité, mais que ceux-ci "peuvent généralement être anticipés, ce qui permet de concevoir l’application ou le logiciel de manière à renforcer la sécurité du système".
Lors des deux procès précédents, le gouvernement a invoqué deux expertises techniques pour justifier son refus d'accès au code. D'une part, le directeur général adjoint des technologies de l'information du ministère de la Transition écologique a soutenu que quiconque pourrait miner des cryptomonnaies à son siège ou accéder aux données personnelles des personnes sollicitant de l'aide. D'autre part, un expert du Centre national de cryptologie a affirmé que l'ouverture de tout code source entraînerait des vulnérabilités du système. Ces deux arguments insolites ont motivé le rejet de nos demandes par le tribunal de première instance et l'Audience nationale. La Cour suprême répond à ces deux arguments : elle estime que ces juridictions n'ont pas pesé les intérêts en jeu ni apprécié le cas d'espèce, se contentant de prendre ces affirmations au pied de la lettre. De plus, la Cour suprême affirme que prétendre que l'ouverture de code constitue une violation signifierait, de facto, que personne ne pourrait jamais demander l'accès au code source d'un programme informatique et que la sécurité publique constituerait un veto absolu et automatique dans tous les cas de ce type.
L'arrêt va plus loin : bien qu'il affirme qu'il puisse y avoir des risques hypothétiques à peser dans chaque cas, "on peut affirmer, au contraire, que la transparence peut contribuer, en termes tout aussi hypothétiques, à améliorer le code et à renforcer sa sécurité puisque, d'une part, elle encourage l'Administration à exiger des précautions de sécurité dans la conception et la supervision du logiciel et, d'autre part, l'examen par différents acteurs indépendants peut aider à révéler des vulnérabilités inaperçues et permettre leur correction rapide". C'est ce qui s'est passé avec l'application de traçage des contacts pandémiques Radar Covid, comme cité dans l'arrêt et comme nous l'avons dit tant dans nos appels qu'à l'audience, avec l'aide de notre avocat, Javier de la Cueva.
Lors de l'audience, nous avons également affirmé que l'accès au code source ne nécessitait pas l'accès aux données personnelles des demandeurs. En réalité, le programme et les règles qu'il contient sont une chose ; les données qu'il traite en sont une autre. La Cour suprême nous a également donné raison sur ce point. Elle a d'ailleurs indiqué que la législation européenne "exclut par principe la dissimulation du code source".
La transparence algorithmique comme valeur clé d'une "démocratie numérique"
Il ne s'agit pas seulement de BOSCO. C'est pourquoi cet arrêt est si important. Il s'applique désormais à tout algorithme ou programme utilisé par les administrations publiques et affectant les citoyens. Dans ce que la Cour suprême appelle une nouvelle "démocratie numérique", les pouvoirs publics ont l'obligation d'"expliquer de manière compréhensible le fonctionnement des algorithmes utilisés dans la prise de décision affectant les citoyens, afin de leur permettre de connaître, de surveiller et de participer à la gestion publique".
L’utilisation accrue de ces technologies doit s’accompagner de "demandes de transparence des processus informatiques", qui peuvent nécessiter, poursuit l’arrêt, "l’accès à leur code source", comme dans le cas de BOSCO.
En bref, comme l'indique l'arrêt : "Le développement et la mise en œuvre progressifs de l'administration électronique et l'utilisation croissante des applications informatiques pour la gestion des services publics, avec des implications évidentes pour les droits des citoyens, dans la mesure où elles déterminent ou conditionnent la reconnaissance ou le refus des droits et des prestations publiques, c'est-à-dire qu'elles fonctionnent comme une source de décisions automatisées, signifient que la configuration et l'utilisation d'algorithmes dans ces applications acquièrent une pertinence décisive et nécessitent de la transparence."
De plus, cette affaire est particulièrement pertinente, étant donné que, selon la législation actuelle, explique la Cour, "il n’existe pas d’autorités de contrôle indépendantes pour garantir le bon fonctionnement de ces applications".
L’arrêt reconnaît le fait que l’explicabilité des algorithmes est une "demande publique croissante" qui, comme l’écrivent les juges dans notre cas, est requise "comme garantie efficace contre l’arbitraire ou les préjugés discriminatoires dans la prise de décision entièrement ou partiellement automatisée… éviter l’opacité de l’algorithme ou du code source est consubstantiel à l’État de droit démocratique."
Le droit d'accès comme droit constitutionnel
La décision fait référence à la Charte des droits fondamentaux de l'Union européenne, à la Constitution espagnole, à la loi sur la transparence de 2013 et aux décisions antérieures de la Cour suprême elle-même, que Civio cite toujours dans ses plaintes, qui établissent que des limites ne peuvent être imposées au droit d'accès de manière générique et absolue, sans peser le bien-fondé de chaque cas.
En réalité, le gouvernement, outre ses arguments vagues sur les atteintes potentielles à sa propriété intellectuelle et à la sécurité nationale, a invoqué "généralement" dans ses arguments une autre série de limites au droit d'accès : les fonctions administratives de surveillance, d'inspection et de contrôle ; la politique économique et monétaire ; et la garantie de confidentialité ou le secret requis dans les processus décisionnels. La décision est catégorique : cette liste, sans aucune justification, "est incohérente et sans fondement".
La Cour suprême ne se concentre pas uniquement sur la transparence algorithmique, mais promeut également la transparence en général et le droit d'accès à l'information . Ainsi, bien qu'officiellement, en droit, la transparence ne soit pas reconnue comme un droit fondamental, malgré les revendications d'organisations de la société civile telles que Civio, la Cour suprême affirme dans cet arrêt que la transparence est étroitement liée à d'autres droits tels que la liberté d'information, le contrôle des tribunaux, l'accès aux documents publics, la participation, la critique du pouvoir ou le contrôle des administrations publiques, et qualifie la transparence de "droit constitutionnel". Un droit qui, selon la Cour, est "indissociable" de la démocratie elle-même . La transparence est un devoir inclus dans le principe de bonne administration, écrit la Cour, et non un vain mot.
En outre, la Cour s'appuie sur la jurisprudence de la Cour européenne des droits de l'homme (CEDH) pour établir qu'outre l'intérêt public de cette affaire, Civio "exerce des fonctions de surveillance sociale liées à la tutelle et à la protection de l'État de droit et, par conséquent, de la démocratie, dans la mesure où elle cherche à assurer le bon fonctionnement des institutions publiques et à promouvoir l'information des citoyens sur leurs institutions publiques et la gestion des ressources publiques."
La transparence n’est pas seulement un point de loi mais, selon l’arrêt, "un droit constitutionnel qui peut être exercé, en tant que droit subjectif, contre les administrations publiques, découlant des exigences de la démocratie et de la transparence, et indissociablement lié à l’État démocratique et à l’État de droit".
Douce victoire après sept ans de lutte
Ce litige a débuté en 2018, lorsque Civio a demandé l'accès au code source de l'application BOSCO au ministère de la Transition écologique. Après un premier rejet pour silence administratif, Civio a déposé une plainte auprès du Conseil pour la transparence et la bonne gouvernance (CTBG). En février 2019, le CTBG a partiellement fait droit à la demande : il a accordé l'accès à la documentation technique et aux résultats des tests, mais a refusé l'accès au code source, arguant que celui-ci était protégé par les règles de propriété intellectuelle.
Insatisfait, Civio a porté l'affaire devant les tribunaux. En décembre 2021, le Tribunal central contentieux-administratif n° 8 a rejeté l'appel , validant non seulement l'argument de la propriété intellectuelle, mais ajoutant également l'argument du danger pour la sécurité publique. Civio a fait appel de cette décision, mais l'Audiencia Nacional, dans son arrêt d'avril 2024, a de nouveau statué contre lui , confirmant intégralement le jugement précédent et renforçant l'idée que l'opacité du code était une mesure nécessaire pour protéger à la fois la propriété intellectuelle de l'État et la sécurité du système et des données des citoyens.
L'affaire est finalement parvenue à la Cour suprême, qui a admis le pourvoi en cassation de Civio. L'audience a eu lieu le 8 juillet 2025. Le 9 septembre, la Cour suprême a rendu son arrêt et, au final, s'est prononcée en notre faveur.