En résumé
- Le juge en chef de la Cour suprême des États-Unis, John Roberts, a mis en garde contre le risque de déshumanisation de la loi en raison de l’essor significatif de l’intelligence artificielle (IA) en 2023, citant l’invasion de la vie privée et les biais potentiels dans les modèles d’IA.
- Malgré le potentiel de l’IA pour accroître l’accès à la justice, Roberts a souligné ses inquiétudes concernant les hallucinations de l’IA, telles que la citation de cas inexistants, et les préjugés programmés dans les modèles d’IA qui pourraient conduire à des décisions judiciaires injustes.
- Roberts s’est dit optimiste quant au fait que l’IA ne remplacera pas les juges humains de si tôt, mais a noté que le travail judiciaire, en particulier au niveau des procès, sera considérablement affecté par l’IA.
Le juge en chef de la Cour suprême des États-Unis, John Roberts, a évoqué l’essor significatif de l’intelligence artificielle en 2023, avertissant dans un rapport de fin d’année que cette technologie pourrait « déshumaniser » la loi.
« Les partisans de l’IA soulignent son potentiel pour accroître l’accès à la justice, en particulier pour les justiciables disposant de ressources limitées », a-t-il écrit. « L’IA a évidemment un grand potentiel pour améliorer considérablement l’accès aux informations clés, tant pour les avocats que pour les non-avocats.
« Mais évidemment, cela risque aussi de porter atteinte aux intérêts de la vie privée et de déshumaniser la loi », a-t-il poursuivi.
Roberts a souligné l’utilisation croissante de l’IA dans les smartphones, les logiciels de reconnaissance vocale et les téléviseurs intelligents, mais a également noté à quel point les professeurs de droit sont étonnés et méfiants face à la technologie émergente.
Une grande partie de son analyse s’est concentrée sur le potentiel de l’IA à rendre le système juridique plus accessible.
« Pour ceux qui n’ont pas les moyens de payer les services d’un avocat, AI peut les aider », a déclaré Roberts. « Il alimente de nouveaux outils hautement accessibles qui fournissent des réponses à des questions de base, notamment où trouver des modèles et des formulaires judiciaires, comment les remplir et où les déposer auprès du juge, le tout sans quitter la maison. »
Les propos du juge interviennent à un moment où l’intelligence artificielle, en particulier l’intelligence artificielle générative, est entrée dans le courant dominant dans de nombreux secteurs et cas d’utilisation, notamment l’éducation, la défense, la santé et le système juridique.
« Ces outils ont le potentiel d’être très utiles pour remédier à toute inadéquation entre les ressources disponibles et les besoins urgents de notre système judiciaire », a poursuivi Roberts. « Mais toute utilisation de l’IA requiert prudence et humilité. »
Le juge Roberts a souligné les limites de l’IA, notamment les hallucinations, qui ont conduit les avocats à citer des cas inexistants.
En octobre, le nouvel avocat de l’ancien membre des Fugees, Pras Michel, a demandé un nouveau procès, alléguant que l’utilisation de l’intelligence artificielle générative par l’équipe juridique précédente et la tendance de la technologie à fabriquer des faits avaient conduit son client à perdre le procès. cas.
En décembre, un juge fédéral a demandé à l’équipe juridique de l’ancien avocat de l’ancien président Donald Trump, Michael Cohen, de produire des preuves imprimées des affaires juridiques présentées dans des documents judiciaires, car le tribunal n’était pas en mesure de vérifier leur existence.
Les développeurs d’IA générative ont investi massivement dans la lutte contre les hallucinations de l’IA. En mai, OpenAI a annoncé qu’elle améliorait les capacités de résolution de problèmes mathématiques de ChatGPT afin de réduire les hallucinations. En décembre, Fetch AI et SingularityNET ont annoncé un partenariat visant à lutter contre les hallucinations de l’IA à l’aide d’une technologie décentralisée.
« SingularityNET a travaillé sur plusieurs méthodes pour traiter les hallucinations dans les LLM », a déclaré Alexey Potapov, directeur général de l’AGI de SingularityNET. « Nous nous concentrons sur ce point depuis la création de SingularityNET en 2017. »
« Notre point de vue est que les LLM ne peuvent aller plus loin dans leur forme actuelle et ne suffisent pas à nous amener vers l’intelligence artificielle générale, mais constituent plutôt une distraction potentielle de l’objectif ultime », a ajouté Potapov.
Pour sa part, Roberts a également souligné les biais potentiels programmés dans les modèles d’IA qui pourraient conduire à des décisions injustes dans les affaires judiciaires.
« Dans les affaires pénales, l’utilisation de l’IA pour évaluer le risque de fuite, la récidive et d’autres décisions largement discrétionnaires impliquant des prédictions a soulevé des inquiétudes quant à la régularité de la procédure, à la fiabilité et aux biais potentiels », a déclaré Roberts. « Au moins aujourd’hui, des études montrent une perception publique persistante d’un ‘écart d’équité entre l’homme et l’IA’, reflétant l’opinion selon laquelle les décisions humaines, malgré leurs défauts, sont plus justes que ce que produit la machine. » .
Malgré cet avertissement, Roberts était optimiste quant au fait que l’intelligence artificielle ne remplacerait pas de si tôt les juges humains.
« Mais avec la même confiance, je prédis que le travail judiciaire, en particulier au niveau des procès, sera considérablement affecté par l’IA », a déclaré Roberts. « Ces changements concerneront non seulement la manière dont les juges effectuent leur travail, mais également la manière dont ils comprennent le rôle que joue l’IA dans les affaires dont ils sont saisis. »
Edité par Ryan Ozawa.