L'UNESCO a établi que l'intelligence artificielle (IA) ne doit pas remplacer le raisonnement judiciaire humain, mais doit uniquement être utilisée comme outil d'assistance sous stricte supervision.
L'organisation a publié le document « Lignes directrices pour l'utilisation des systèmes d'IA dans les cours et tribunaux », préparé à partir de consultations mondiales avec de multiples acteurs du domaine judiciaire. Plus de 36 000 professionnels de plus de 160 pays ont participé à son élaboration, ce qui a permis l'intégration de différentes traditions juridiques, niveaux technologiques et besoins sociaux, ainsi qu'une sensibilisation accrue aux avantages et aux risques de ces technologies.
Défis éthiques et juridiques
À l’heure où l’IA acquiert un rôle de plus en plus important au sein des tribunaux, l’UNESCO prévient que les décisions actuelles concernant sa mise en œuvre conditionneront l’administration de la justice dans les décennies à venir. Par conséquent, les Lignes directrices sont présentées comme un cadre clé pour guider leur intégration responsable dans les systèmes judiciaires du monde entier.
Votre salaire est l'objectif : les algorithmes attendent que vous gagniez de l'argent pour vous faire des « offres »
Le document reconnaît que l’intelligence artificielle peut améliorer l’accès à la justice, rationaliser la gestion des dossiers et soutenir la prise de décision judiciaire. Cependant, il souligne également que son utilisation soulève d’importants défis éthiques, juridiques et en matière de droits de l’homme. Pour y répondre, il établit quinze principes fondamentaux qui guident son adoption et son contrôle, parmi lesquels se distinguent la protection des droits de l'homme, la transparence, la responsabilité, le contrôle humain et la fiabilité des systèmes.
Les lignes directrices insistent sur le fait que l’IA doit être un outil complémentaire et jamais un substitut. Sa fonction est de faciliter l'accès à l'information et d'améliorer l'efficacité du système judiciaire, mais toujours sous contrôle humain et avec un contrôle éthique constant. De cette manière, il cherche à garantir que la technologie contribue à une justice plus équitable sans compromettre les principes fondamentaux du droit.
Risques d'une mauvaise utilisation
De même, le document met en garde contre les risques d’une utilisation inappropriée. Des systèmes défectueux ou mal utilisés peuvent violer des droits tels que le procès équitable, la procédure régulière, la vie privée ou l'égalité devant la loi, en plus d'affecter des valeurs essentielles telles que l'impartialité et l'indépendance judiciaire. C’est pourquoi on insiste sur la nécessité de prévenir les dommages et d’éviter d’éventuelles violations des droits de l’homme.
L'UNESCO souligne également que la mise en œuvre efficace de l'IA dans le domaine judiciaire nécessite une formation adéquate du personnel et des outils fiables, accessibles et respectueux des droits fondamentaux. Il ne suffit pas d’adopter des normes, mais il est essentiel de préparer les professionnels à une utilisation éthique et responsable de ces technologies.
Enfin, le document prévient que des outils tels que les modèles linguistiques peuvent générer des réponses apparemment cohérentes mais incorrectes, car ils fonctionnent sur des bases probabilistes et n'en comprennent pas le véritable sens juridique. Cela nécessite une utilisation prudente, notamment par des personnes sans formation juridique. L'UNESCO conclut que l'intelligence artificielle devrait servir à améliorer la justice, mais jamais à remplacer le jugement humain, qui reste essentiel pour garantir l'État de droit.
Voir l’article original en espagnol
