En résumé
- Un avocat a admis avoir soumis de fausses citations générées par Claude Console d'Anthropic dans une affaire fédérale contre les licenciements de Trump.
- Greaves a expliqué qu'elle avait utilisé l'IA en raison de contraintes de temps et qu'elle avait demandé à un associé de vérifier les devis, mais deux se sont avérés incorrects.
- Cette affaire s’ajoute à une tendance croissante de sanctions contre des avocats qui présentent au tribunal des citations fabriquées par l’intelligence artificielle.
Une lutte fédérale contre les licenciements de l'administration de Donald Trump est devenue le dernier exemple d'hallucinations de l'IA entrant dans les tribunaux, après que des avocats ont admis avoir soumis de fausses citations générées par l'intelligence artificielle.
Dans une déposition déposée vendredi, l'avocat Jason Greaves a admis que le document contenait de fausses citations générées après avoir utilisé la console Claude d'Anthropic pour l'aider à préparer la requête.
« Etant donné des contraintes de temps strictes, j'ai utilisé une plateforme d'IA de niveau entreprise avec isolation des données, Claude Console, pour créer une première ébauche de la motion. C'était une erreur », a écrit Greaves. « Le matin du 6 mai, j'ai envoyé le projet à un avocat associé, accompagné d'instructions orales explicites indiquant que le projet provenait d'IA et que j'avais besoin que les citations soient soigneusement vérifiées. Cet après-midi-là, l'associée m'a informé qu'elle avait examiné et vérifié chaque citation. «
Selon Greaves, l'associée a noté que deux des cas cités étaient incorrects, mais qu'elle avait trouvé un cas différent à citer.
« En tant qu'associé superviseur et signataire de la plaidoirie, la responsabilité des citations exactes m'incombe entièrement », a ajouté Greaves. « J'en assume l'entière responsabilité et je m'excuse pleinement auprès du tribunal et de tous les avocats impliqués dans cette affaire pour les citations fantômes apparues dans la requête. J'ai également personnellement présenté mes excuses auprès des avocats des plaignants. »
Lancée en mars 2023 sous le nom d'Anthropic Developer Console, Claude Console est la plateforme d'entreprise d'Anthropic pour interagir avec ses modèles Claude AI, que les entreprises et les professionnels utilisent pour l'écriture, la synthèse de documents, la programmation et la recherche.
Cette affaire s’ajoute à une liste croissante de litiges judiciaires liés à l’IA. En avril, des avocats du cabinet Sullivan & Cromwell ont été sanctionnés après avoir soumis de fausses citations juridiques générées par l'intelligence artificielle.
Cette dernière controverse sur les hallucinations de l’IA découle des poursuites intentées contre l’administration Trump au sujet de licenciements massifs au niveau fédéral et de propositions de modifications des protections de la fonction publique. Le litige comprend des différends liés aux réductions de personnel de la FEMA et le témoignage de l'ancien responsable du ministère de la Sécurité intérieure, Joseph Guy, dont les avocats ont déposé la requête.
« Bien que les cas cités aient généralement soutenu notre position, je reconnais l'erreur inexcusable d'autoriser l'inclusion de citations fantômes », a écrit Greaves.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.
Voir l’article original en espagnol
