L’animateur de radio géorgien Mark Walters poursuit OpenAI après que son chatbot ChatGPT l’ait accusé de détournement de fonds dans l’affaire historique The Second Amendment Foundation v. Robert Ferguson. Le piège? Walters n’était pas partie à cette affaire et n’a jamais travaillé pour la Second Amendement Foundation.
« OpenAI a sali mon client et fabriqué des mensonges scandaleux à son sujet », a déclaré l’avocat de Mark Walters, John Monroe. Décrypter, ajoutant qu’il n’y avait pas d’autre choix que de porter plainte contre le développeur d’IA. « [ChatGPT] a dit [Walters] J’étais la personne dans le procès et je ne l’étais pas. »
Des documents déposés dans le comté de Gwinnett, en Géorgie, à la Cour supérieure, affirment que ChatGPT a répondu à une requête du journaliste Fred Riehl, donnant au chatbot une URL pointant vers SAF v. Ferguson et demandant un résumé. Selon la plainte, le chatbot a nommé à tort Mark Walters comme défendeur.
ChatGPT aurait généré un texte disant que l’affaire « [e]sa poursuite judiciaire intentée par Alan Gottlieb, fondateur et vice-président exécutif de la Second Amendment Foundation (SAF), contre Mark Walters, qui est accusé de fraude et de détournement de fonds SAF, « Le texte affirmait également que Walters aurait détourné des fonds pour des dépenses personnelles .
Riehl a contacté Gottlieb au sujet de la réponse, qui a déclaré que la déclaration faite par ChatGPT était fausse, selon le document judiciaire.
Walters demande un procès devant jury, des dommages-intérêts généraux et punitifs non spécifiés et des honoraires d’avocat.
Alors que les poursuites contre les développeurs d’IA restent un nouveau territoire juridique, Monroe est convaincu que son client gagnera.
« Nous n’aurions pas porté l’affaire si nous n’avions pas pensé que nous allions réussir », a-t-il déclaré.
Mais d’autres n’en sont pas si sûrs.
« Pour la plupart des réclamations en diffamation aux États-Unis, vous devez prouver les dommages », a déclaré Cal Evans, avocat interne de Stonehouse Technology Group. Décrypter.
« Bien que le procès fasse référence à des » hallucinations « , ce n’est pas un individu qui rapporte les faits; c’est un logiciel qui corrèle et communique des informations sur Internet », a déclaré Evans.
Les hallucinations de l’IA font référence à des cas où une IA génère de faux résultats qui ne sont pas pris en charge par des données du monde réel. Les hallucinations de l’IA peuvent être de faux contenus, des nouvelles ou des informations sur des personnes, des événements ou des faits.
Dans son interface ChatGPT, OpenAI ajoute une clause de non-responsabilité au chatbot qui dit : « ChatGPT peut produire des informations inexactes sur des personnes, des lieux ou des événements ».
« Il est possible que [OpenAI] Vous pouvez affirmer qu’ils ne sont pas responsables du contenu de leur site », a déclaré Evans. « Les informations proviennent du domaine public, elles sont donc déjà dans le domaine public. »
En avril, Jonathan Turley, un avocat américain de la défense pénale et professeur de droit, a affirmé que ChatGPT l’avait accusé d’avoir commis une agression sexuelle. Pire encore, l’IA a inventé et cité un article du Poste de Washington pour appuyer la réclamation.
Cet épisode « d’hallucination » a été suivi en mai lorsque Steven A. Schwartz, avocat dans Mata c. Avianca Airlines, a reconnu avoir « consulté » le chatbot comme source lors de la conduite d’enquêtes. Le problème? Les résultats que ChatGPT a fournis à Schwartz ont tous été fabriqués.
« C’est la faute du déposant, pour ne pas avoir confirmé les sources fournies par ChatGPT pour les avis juridiques qu’il a fournis », a écrit Schwartz dans l’affidavit déposé auprès du tribunal.
En mai, OpenAI a annoncé une nouvelle formation qui, espère-t-elle, remédiera à l’habitude du chatbot d’halluciner les réponses.
« L’atténuation des hallucinations est une étape critique vers la construction d’une AGI alignée », a déclaré OpenAI dans un message.
OpenAI n’a pas encore répondu à une demande de commentaire de Décrypter.