La Colombie a publié le « Guide éthique pour la mise en œuvre, le développement et l'utilisation de systèmes d'intelligence artificielle dans les entités publiques ». Il s'agit d'un document qui pose les bases des futures réglementations juridiques contraignantes et fixe comme priorité la protection des droits de l'homme, de la dignité des personnes et des valeurs démocratiques dans l'utilisation de ces technologies par l'État.
Guider tout au long du cycle de vie des systèmes d'IA
Le guide, destiné aux entités publiques nationales, vise à guider l’ensemble du cycle de vie des systèmes d’IA. Depuis sa conception et son développement jusqu'à sa mise en œuvre et son utilisation, pour garantir que son adoption contribue au bien commun, renforce la confiance institutionnelle et évite les pratiques de contrôle invasives ou l'automatisation sans supervision humaine. Le document est présenté comme un instrument stratégique pour faire de l’IA un moteur de valeur publique pour le pays, conformément aux recommandations de l’OCDE (2025).
Le texte adopte une vision éthique globale basée sur des principes globaux et des bonnes pratiques internationales, adaptée au contexte colombien et à ses besoins institutionnels, sociaux et juridiques. Dans ce cadre, il identifie les principes éthiques fondamentaux qui devraient guider l’utilisation de l’IA dans le secteur public, les principaux facteurs d’une mise en œuvre réussie et les garanties nécessaires pour identifier, prévenir et atténuer les risques associés à ces technologies.
L’IA comme outil stratégique pour l’État
Parmi ses conclusions générales, le guide souligne que l'IA représente un outil stratégique clé pour moderniser et renforcer le secteur public colombien, avec le potentiel d'améliorer la productivité, l'attention aux citoyens et la confiance dans les institutions. Cependant, il prévient que sa mise en œuvre doit être abordée à partir d'une vision globale combinant des principes éthiques, des cadres de gouvernance adaptés au contexte national et des investissements soutenus dans des capacités critiques telles que les données, les infrastructures technologiques, les talents humains et le financement.
Alfredo Collosa publie un livre sur l'IA dans le secteur public
Le document insiste sur le fait que, dans cette vision, la protection des droits de l'homme et de la dignité des personnes doit toujours prévaloir sur les critères d'efficacité ou de croissance économique. L’un des objectifs centraux est que les entités publiques conçoivent des systèmes d’IA visant à renforcer les capacités humaines et à optimiser les processus, en évitant leur utilisation comme instruments d’instrumentalisation, de surveillance excessive ou de contrôle invasif.
De même, il est souligné que le succès de l’IA responsable dans la sphère gouvernementale dépendra en grande partie de la collaboration multisectorielle entre l’État, le secteur privé, le monde universitaire et la société civile, ainsi que de la promotion des initiatives GovTech et des partenariats public-privé. À cela s’ajoute la nécessité de consolider une culture d’apprentissage continu, soutenue par de solides mécanismes de suivi et d’évaluation qui permettent d’ajuster les stratégies à mesure que la technologie et l’environnement évoluent.
Recommandations
Le guide comprend un ensemble détaillé de recommandations visant à garantir que l'adoption de l'intelligence artificielle dans le secteur public colombien soit éthique, équitable et génère la confiance des citoyens. Parmi eux, se distinguent les investissements stratégiques dans les principaux catalyseurs, à commencer par les données, à travers la création et le maintien d'une infrastructure de données publiques de haute qualité, représentative et accessible, avec des garanties de confidentialité et de sécurité.
En termes de talents, le document propose de mettre en œuvre des programmes massifs de formation en intelligence artificielle et en culture numérique pour tous les niveaux de l'administration publique, depuis les utilisateurs généraux jusqu'aux profils hautement spécialisés. Concernant les infrastructures, il recommande d'évaluer et d'adopter des solutions de puissance de calcul, y compris des architectures cloud ou hybrides, qui répondent aux besoins de l'IA, en intégrant des critères d'efficacité et de durabilité environnementale.
Vérifier l'intégrité des informations
Une autre recommandation centrale est la mise en œuvre de systèmes complets d’audit et d’évaluation, à travers le développement de capacités internes et externes pour réaliser des évaluations d’impact algorithmique (AIA) et des audits sociotechniques de manière régulière et obligatoire, en particulier dans les systèmes considérés à haut risque. Ces évaluations doivent inclure des mécanismes robustes pour vérifier l’intégrité des informations et atténuer de manière proactive les risques découlant de l’utilisation de contenu synthétique ou de deepfakes. Le guide souligne également la nécessité de garantir la responsabilité, d’identifier les risques dès le début et d’établir des mécanismes de recours et d’appel clairs contre les décisions assistées par l’IA.
En termes de transparence et d'explicabilité, le document propose la création d'un registre public et accessible de tous les systèmes d'intelligence artificielle utilisés par les entités nationales, détaillant leur finalité, les données utilisées, les mécanismes de fonctionnement et les évaluations d'impact réalisées. De même, la priorité est donnée à la conception de systèmes interprétables, capables d'expliquer leurs décisions dans un langage clair et compréhensible pour les citoyens, notamment dans des domaines sensibles comme la justice.
Anonymisation des données
Dans le cas colombien, le guide indique que cet enregistrement doit être obligatoire et que, conformément à l'arrêté T-067 de 2025, les lignes directrices en matière de transparence algorithmique doivent envisager l'évaluation proactive de la publication du code source, en tout ou en partie, dans des systèmes à haut risque, garantissant l'anonymisation des données et la séparation des identifiants d'accès aux bases de données sensibles.
Enfin, le guide recommande de tirer parti et de généraliser les expériences réussies grâce à une documentation systématique des enseignements tirés des initiatives nationales et territoriales. Ces expériences devraient servir de base pour reproduire et adapter les solutions d’IA dans d’autres contextes et fonctions gouvernementales, en favorisant l’échange de connaissances et de bonnes pratiques entre entités, avec des structures de collaboration permanentes permettant de maximiser l’impact des investissements publics dans l’intelligence artificielle.
Avec cette publication, la Colombie avance dans la construction d'un cadre éthique et opérationnel qui jette les bases d'une future réglementation juridique contraignante sur l'intelligence artificielle responsable, dans le but d'évoluer vers un gouvernement plus efficace, transparent et centré sur les personnes.
Voir l’article original en espagnol
