Une enquête récente menée par l’UNESCO auprès des acteurs judiciaires du monde entier met en évidence un manque important d’encadrement et de formation institutionnels sur l’utilisation des systèmes d’IA. En réponse, l’UNESCO, en collaboration avec des experts internationaux, a élaboré un projet de lignes directrices pour l’utilisation de l’IA dans les cours et tribunaux.
Les Lignes directrices de l’UNESCO sur l’éthique de l’IA visent à garantir que les technologies d’IA soient intégrées dans les systèmes judiciaires d’une manière qui respecte la justice, les droits de l’homme et l’état de droit.
Ces lignes directrices ont été élaborées dans le cadre de la boîte à outils mondiale de l'UNESCO sur l'IA et l'État de droit, financée par le projet de la Commission européenne « Aider les États membres à mettre en œuvre la Recommandation de l'UNESCO sur l'éthique de l'IA au moyen d'outils innovants ». L'organisation internationale note également l'intérêt croissant pour l'adoption d'outils d'IA par les cours et tribunaux.
L'Unesco et l'IA
Récemment, les juges, le personnel de soutien judiciaire, les procureurs et les avocats du monde entier ont commencé à utiliser des chatbots fonctionnant avec de grands modèles linguistiques (LLM) pour rédiger des documents juridiques, des décisions judiciaires et élaborer des arguments lors des audiences. Cependant, les directives formelles sur l'utilisation appropriée de ces outils pour les individus ou les organisations du secteur judiciaire sont limitées.
Story Protocol, la blockchain de protection de la propriété intellectuelle de l'IA, lève 80 millions de dollars
Il existe des principes, règles ou lignes directrices officiels publiés sur la manière dont les outils d’IA peuvent être utilisés de manière éthique et responsable pour l’administration de la justice. Il s’agit notamment des orientations publiées par l’Australie (2024), le Brésil (2020), le Canada (2023, 2024), la Nouvelle-Zélande (2023) et le Royaume-Uni (2023).
Effets en cascade
Le besoin de lignes directrices est renforcé par les nouvelles lois sur l’IA qui incluent des règles spécifiques sur l’utilisation de ces outils dans les contextes judiciaires. Par exemple, la loi européenne sur l’IA. À cet égard, la plupart des principes et recommandations proposés dans les lignes directrices classent comme « à haut risque » les systèmes d’IA « destinés à être utilisés par une autorité judiciaire ». Tels que les procureurs, les arbitres, les avocats, les barreaux et les associations d’avocats, les fonctionnaires ou en leur nom pour aider une autorité judiciaire dans l’enquête et l’interprétation des faits.
Pourquoi Grok 2, la nouvelle version de l'IA d'Elon Musk, surpasse ChatGPT
L’étude souligne que les systèmes d’IA intégrés aux processus décisionnels peuvent avoir des effets en cascade dans l’ensemble du système judiciaire. D’une part, l’adoption de systèmes d’IA peut bénéficier aux utilisateurs des tribunaux. Par exemple, l’utilisation d’outils d’IA pour la gestion des tribunaux qui font partie de ces organisations judiciaires.
Activités préalables au procès
Les systèmes d’IA peuvent soutenir les activités préalables au procès. Par exemple, ils peuvent automatiser le système de dépôt des dossiers judiciaires, les audiences (traduction automatique) et les procédures post-condamnation (anonymisation du tribunal). En revanche, ces effets peuvent être préjudiciables lorsque les décisions contribuent à une discrimination systématique à l’encontre d’individus ou de groupes d’individus vulnérables et dans les situations où ces outils sont défectueux ou mal utilisés.
La responsabilité irresponsable de l’IA
Si ces lignes directrices ont été spécifiquement conçues pour guider l’adoption et l’utilisation des systèmes d’IA par le système judiciaire, elles s’appliquent également à la profession juridique de manière plus générale. Les normes fournissent des orientations pour l’adoption et l’utilisation des outils d’IA et incluent des recommandations spécifiques pour les systèmes d’IA génératifs.
Ces outils peuvent contribuer à améliorer la qualité du travail judiciaire en facilitant la gestion des tribunaux, la rédaction des documents, l'exploration de sujets spécifiques, l'automatisation des tâches et l'aide aux processus décisionnels. En outre, l'une des caractéristiques clés des LLM est qu'ils facilitent l'interaction entre les ordinateurs et les serveurs de l'administration juridique et les chercheurs.
Jugement humain
Les outils d'IA ne peuvent remplacer le raisonnement juridique, le jugement humain ou les adaptations personnalisées, car ils ne disposent pas d'une compréhension rationnelle ou contextuelle d'un problème juridique. En outre, l'utilisation de LLM à des fins juridiques par des non-juristes exige de la prudence, car les résultats des systèmes peuvent sembler fiables et cohérents tout en présentant des faits qui peuvent être inexacts et des réponses qui ne sont pas cohérentes avec les faits juridiques.
Les tokens d'intelligence artificielle (IA) les plus capitalisés
En résumé, les Lignes directrices proposent des principes et des orientations spécifiques à l’intention du système judiciaire pour éviter l’adoption d’outils d’IA qui ne respectent pas les droits de l’homme, prévenir l’utilisation abusive des systèmes d’IA et renforcer les avantages que ces outils peuvent offrir.
Consultation publique
À la suite de vastes consultations avec des experts, les lignes directrices sont désormais ouvertes à la consultation publique jusqu'au 5 septembre 2024. L'UNESCO encourage les parties prenantes, notamment les praticiens du droit, les experts juridiques et le grand public, à examiner et à fournir des commentaires sur le projet de lignes directrices.
Recommandations sur l’éthique de l’IA
Les avancées technologiques rapides dans le domaine de l’IA ont créé de nombreuses opportunités à l’échelle mondiale. Cependant, ces changements soudains suscitent également de profondes préoccupations éthiques. Celles-ci découlent du risque que les systèmes d’IA intègrent des biais, contribuent à la dégradation du climat, menacent les droits de l’homme, et bien d’autres choses encore.
Les risques associés à l’IA ont déjà commencé à aggraver les inégalités existantes, nuisant encore davantage à des groupes déjà marginalisés. Pour remédier à cette situation, 193 États membres ont adopté par acclamation la Recommandation sur l’éthique de l’IA en 2021. En novembre 2021, l’UNESCO a élaboré la première norme mondiale sur l’éthique de l’IA : la « Recommandation sur l’éthique de l’intelligence artificielle ». Ce cadre a été adopté par l’ensemble des 193 États membres.
La protection des droits de l’homme et de la dignité humaine est la pierre angulaire de la Recommandation, fondée sur la promotion de principes fondamentaux tels que la transparence et l’équité, en gardant toujours à l’esprit l’importance de la supervision humaine des systèmes d’IA.
Principes fondamentaux
Toutefois, ce qui rend la Recommandation particulièrement applicable est son large champ d’action politique, qui permet de traduire les valeurs et principes fondamentaux en actions liées à la gouvernance des données, à l’environnement, au genre, à l’éducation, à la recherche, à la santé et au bien-être social, entre autres.
Alfredo Collosa est fiscaliste. Il est expert-comptable. Il est titulaire d'un diplôme en administration des affaires. Il est titulaire d'un master officiel en finances publiques et administration fiscale de l'UNED/IEF en Espagne. Il est titulaire d'un certificat AMLCA en lutte contre le blanchiment d'argent (Université de Floride, États-Unis) et est membre de MetaLaw.
Voir l’article original en espagnol
