La nouvelle typologie des instruments algorithmiques de transparence est l'axe central du dernier rapport publié par le Partenariat mondial sur l'intelligence artificielle (GPAI) sur l’utilisation des algorithmes dans le secteur public. Sous le titre « Transparence algorithmique dans le secteur public : rapport sur l’état de l’art des instruments de transparence algorithmique », le document analyse comment les gouvernements tentent de se conformer aux principes de transparence dans l’utilisation des systèmes automatisés et quels sont les principaux obstacles auxquels ils sont confrontés dans ce processus.
Le rapport repose sur le postulat selon lequel la transparence algorithmique n’est ni un concept unique ni un instrument isolé, mais plutôt un ensemble de mécanismes divers qui peuvent et doivent être analysés systématiquement. Dans ce contexte, l'apport le plus pertinent du document est la proposition d'une nouvelle typologie d'instruments algorithmiques de transparence, qui permet d'organiser les pratiques existantes et d'évaluer leur portée réelle en termes de démocratie et de responsabilité.
Transparence algorithmique
Avant de développer cette typologie, le rapport établit un large cadre conceptuel sur ce qu’il faut entendre par transparence algorithmique. Loin d’une définition simpliste, le document la présente comme un concept aux multiples facettes qui peut être interprété simultanément comme capacité, principe, norme, droit et instrument.
Premièrement, elle se définit comme la capacité, comme la possibilité d’auditer, de superviser et d’évaluer des systèmes algorithmiques. Il s’agit également d’un principe qui guide éthiquement la divulgation d’informations pertinentes. En tant que norme ou règle, exprimée dans des normes spécifiques d'accessibilité et d'explicabilité. Comme un droit, compris comme la prérogative du citoyen de savoir comment fonctionnent les algorithmes qui affectent sa vie ; et en tant qu'instrument, matérialisé par des mécanismes spécifiques qui rendent cette transparence effective.
Le rapport relie cette notion à d’autres principes fondamentaux de la gouvernance publique numérique, tels que l’explicabilité, la responsabilité et le droit d’accès à l’information. En termes opérationnels, elle définit la transparence algorithmique comme « la capacité des acteurs internes ou externes au développement d’un algorithme à obtenir des informations, à surveiller, tester, critiquer ou évaluer la logique, les procédures et les performances d’un système algorithmique afin d’instaurer la confiance et d’accroître la responsabilité des développeurs ou des contrôleurs du système ».
La typologie, fil conducteur du rapport
Sur cette base conceptuelle, le rapport présente sa principale contribution : une typologie qui distingue les instruments algorithmiques de transparence pilotés par l'offre et les instruments pilotés par la demande. Cette distinction structure toute l’analyse ultérieure et fonctionne comme le fil conducteur du document.
Alfredo Collosa publie un livre sur l'IA dans le secteur public
Les instruments axés sur l’offre se caractérisent par la divulgation proactive d’informations par l’État, sans qu’une demande préalable soit nécessaire. Il s'agit notamment des référentiels publics d'algorithmes, des publications périodiques d'informations sur les systèmes automatisés, des réponses automatisées intégrées aux procédures administratives et de la diffusion d'audits algorithmiques.
Au contraire, les instruments axés sur la demande sont activés en réaction aux demandes des citoyens, aux enquêtes journalistiques ou aux exigences administratives et judiciaires. Ce groupe comprend les demandes d’accès aux informations publiques et les divulgations ordonnées par les autorités compétentes.
Selon le rapport, cette typologie permet non seulement de classer les instruments existants, mais aussi d'évaluer le degré de maturité des politiques publiques en matière de transparence algorithmique et de détecter les déséquilibres entre approches réactives et proactives.
Dépôts d'algorithmes publics
Parmi les instruments axés sur l'offre, le rapport accorde une attention particulière aux référentiels publics d'algorithmes, considérés comme l'un des mécanismes les plus prometteurs pour garantir l'accès des citoyens aux informations pertinentes sur les décisions automatisées dans le secteur public.
L'une des principales contributions empiriques du document est la cartographie de 83 référentiels publics d'algorithmes, actifs ou en construction, répartis à différents niveaux de gouvernement et régions du monde. Parmi eux, 90 % sont actifs. Les États-Unis arrivent clairement en tête avec 37 référentiels, suivis par les Pays-Bas, la France et la Colombie.
Cependant, le rapport souligne que l'adoption de ce type d'instruments est inégale. Seuls 11 des 29 pays membres du GPAI disposent d’au moins un référentiel actif, ce qui met en évidence des lacunes importantes dans la mise en œuvre des politiques de transparence algorithmique.
La plupart des référentiels ont été développés par des organisations nationales, bien que des initiatives infranationales, universitaires et de la société civile soient également identifiées. Concernant leur contenu, ils comprennent généralement des informations de base telles que le nom du système, ses objectifs, l'unité responsable, l'architecture technique, les sources de données utilisées et le traitement des données personnelles.
Cependant, le rapport détecte des lacunes importantes : la divulgation des indicateurs de performance, des impacts sociaux, des mécanismes de contrôle ou des risques de discrimination est limitée, voire inexistante, dans de nombreux cas.
Instruments auxiliaires et compréhension citoyenne
Certains référentiels plus avancés intègrent des instruments auxiliaires visant à améliorer la compréhension des citoyens et à faciliter l'interaction avec les systèmes algorithmiques. Ces éléments comprennent des glossaires, des manuels explicatifs, des formulaires de feedback, des alertes personnalisées, des simulateurs interactifs et des stratégies de diffusion sur les réseaux sociaux.
Selon le rapport, ces éléments supplémentaires sont essentiels pour éviter que la transparence algorithmique ne se limite à une simple accumulation d’informations techniques difficiles à interpréter et pour évoluer vers des modèles plus accessibles et participatifs.
Limites actuelles
D'un point de vue démocratique, le rapport identifie huit raisons fondamentales justifiant la nécessité de développer des instruments algorithmiques de transparence robustes. Il s'agit notamment du renforcement du droit d'accès à l'information, de la protection des droits fondamentaux, de la promotion d'un État ouvert, de l'application de principes éthiques en matière d'intelligence artificielle, du contrôle public des décisions automatisées, de l'amélioration de l'efficacité institutionnelle, de l'apprentissage organisationnel et de la génération d'informations utiles pour l'écosystème technologique.
Cependant, le document prévient que bon nombre des instruments actuels, y compris les référentiels, présentent d'importantes limites. Dans de nombreux cas, les informations publiées sont superficielles, fragmentaires ou difficiles à interpréter, ce qui peut conduire à une « transparence performative » sans réels effets sur la responsabilité.
Parmi les principaux défis figurent le manque de capacités institutionnelles, les coûts techniques et financiers de maintenance, les restrictions dérivées de la propriété intellectuelle ou de la cybersécurité et l'absence de normes communes. À cela s’ajoute le fait que les informations sont généralement disponibles dans une seule langue, ce qui limite leur accessibilité dans des contextes multilingues.
Conclusions
Le rapport conclut que la transparence algorithmique ne doit pas se réduire à la simple publication de données, mais doit permettre d'évaluer, de remettre en question et d'améliorer les systèmes automatisés utilisés par le secteur public. En ce sens, il propose d'évoluer vers des normes minimales de divulgation, la création de référentiels centralisés et multilingues, l'intégration de mécanismes de participation citoyenne et l'incorporation de technologies d'intelligence artificielle explicables en complément des instruments de transparence existants.
De même, il recommande le développement de portails uniques par pays ou région, avec des critères de publication homogènes, qui facilitent l'accès, la comparaison et la supervision des systèmes algorithmiques publics.
Même si l’on suppose que ces instruments peuvent accroître la confiance du public, améliorer l’efficacité administrative et réduire les demandes d’informations, le rapport reconnaît qu’il n’existe toujours pas suffisamment de preuves empiriques pour le confirmer. Par conséquent, il propose comme axe de recherche prioritaire d’évaluer si les instruments algorithmiques de transparence, tels qu’ils sont actuellement conçus, génèrent réellement de la valeur publique.
Voir l’article original en espagnol
