Un procès lie ChatGPT au meurtre-suicide dans le Connecticut pour renforcer les délires

Dans le dernier procès visant le développeur d'IA OpenAI, la succession d'une femme du Connecticut âgée de 83 ans a poursuivi le développeur de ChatGPT et Microsoft, alléguant que le chatbot avait validé des croyances délirantes qui ont précédé un meurtre-suicide, marquant le premier cas reliant un système d'IA à un homicide.

Le procès, déposé la semaine dernière devant la Cour supérieure de Californie à San Francisco, accuse OpenAI d'avoir « conçu et distribué un produit défectueux » sous la forme de GPT-4o, ce qui a renforcé les croyances paranoïaques de Stein-Erik Soelberg, qui a ensuite dirigé ces croyances vers sa mère, Suzanne Adams, avant de la tuer puis de se suicider chez lui à Greenwich, dans le Connecticut.

« C'est la première affaire qui cherche à tenir OpenAI pour responsable d'avoir causé des violences à un tiers », a-t-il déclaré. Décrypter J. Eli Wade-Scott, associé directeur d'Edelson PC, qui représente le domaine Adams. « Nous représentons également la famille d'Adam Raine, qui a tragiquement mis fin à ses jours cette année, mais c'est la première affaire qui tiendra OpenAI pour responsable d'avoir poussé quelqu'un à nuire à une autre personne. »

La police a déclaré que Soelberg avait mortellement battu et étranglé Adams en août avant de se suicider. Avant l'incident, selon le procès, ChatGPT avait intensifié la paranoïa de Soelberg et favorisé une dépendance émotionnelle à l'égard du chatbot.

Selon la plainte, le chatbot a renforcé sa conviction qu'il ne pouvait faire confiance à personne sauf ChatGPT, décrivant les gens autour de lui comme des ennemis, notamment sa mère, les policiers et les chauffeurs-livreurs. Le procès affirme également que ChatGPT n'a pas contesté les affirmations délirantes ni suggéré à Soelberg de demander l'aide d'un professionnel de la santé mentale.

« Nous exhortons les forces de l'ordre à commencer à réfléchir aux cas où des tragédies comme celle-ci se produisent, à ce que cet utilisateur disait à ChatGPT et à ce que ChatGPT lui disait de faire », a déclaré Wade-Scott.

OpenAI a déclaré dans un communiqué qu'il examinait le procès et continuait d'améliorer la capacité de ChatGPT à reconnaître la détresse émotionnelle, à désamorcer les conversations et à guider les utilisateurs vers une assistance dans le monde réel.

« C'est une situation incroyablement déchirante, et nous examinons les soumissions pour en comprendre les détails », a déclaré un porte-parole d'OpenAI dans un communiqué.

Le procès désigne également le PDG d'OpenAI, Sam Altman, comme défendeur et accuse Microsoft d'avoir approuvé la version 2024 de GPT-4o, qu'il a qualifié de « version la plus dangereuse de ChatGPT ».

OpenAI a reconnu l'ampleur des problèmes de santé mentale présentés par les utilisateurs sur sa propre plateforme. En octobre, la société a révélé qu'environ 1,2 million de ses quelque 800 millions d'utilisateurs hebdomadaires de ChatGPT discutaient du suicide chaque semaine, avec des centaines de milliers d'utilisateurs montrant des signes d'intention suicidaire ou de psychose, selon les données de la société. Malgré cela, a noté Wade-Scott, OpenAI n'a pas encore publié les journaux de discussion de Soelberg.

Le procès intervient dans le cadre d’un examen plus approfondi des chatbots IA et de leurs interactions avec les utilisateurs vulnérables. En octobre, Character.AI a annoncé qu'elle supprimerait les fonctionnalités de chat ouvert pour les utilisateurs de moins de 18 ans, à la suite de poursuites judiciaires et de pressions réglementaires liées aux suicides d'adolescents et aux préjudices émotionnels liés à sa plateforme.

Character.AI a également fait face à des réticences de la part des utilisateurs adultes, y compris une vague de suppressions de comptes après qu'une invite virale ait averti les utilisateurs qu'ils perdraient « l'amour que nous partageons » s'ils quittaient l'application, suscitant des critiques sur les pratiques de conception chargées d'émotion.

Le procès contre OpenAI et Microsoft a marqué le premier cas de mort injustifiée impliquant un chatbot IA à désigner Microsoft comme défendeur, et le premier à lier un chatbot à un homicide plutôt qu'à un suicide. La succession demande des dommages pécuniaires non précisés, un procès devant jury et une ordonnance du tribunal obligeant OpenAI à installer des garanties supplémentaires.

« Il s'agit d'une technologie incroyablement puissante développée par une entreprise qui est en train de devenir rapidement l'une des plus puissantes au monde, et elle a la responsabilité de développer et de déployer des produits qui sont sûrs, et non ceux qui, comme cela s'est produit ici, créent des mondes délirants pour les utilisateurs qui mettent en danger tout le monde autour d'eux », a déclaré Wade-Scott. « OpenAI et Microsoft ont la responsabilité de tester leurs produits avant leur commercialisation dans le monde. »

Microsoft n'a pas immédiatement répondu à une demande de commentaire de Décrypter.