En résumé
- La famille de Samuel Nelson, un étudiant de 19 ans décédé en mai 2025, a poursuivi OpenAI, alléguant que ChatGPT l'avait conseillé sur le mélange de drogues.
- La plainte affirme qu'OpenAI a assoupli les garanties du GPT-4o pour éviter de paraître « moraliste », autorisant des conseils sur la consommation d'alcool à risque.
- Le procès vise à modifier la conception de ChatGPT et rejoint d'autres affaires juridiques auxquelles OpenAI est confronté concernant des dommages liés à son chatbot.
La famille d'un étudiant californien décédé de 19 ans poursuit OpenAI et son PDG Sam Altman, alléguant que ChatGPT encourageait la consommation de drogues dangereuses et recommandait des combinaisons de substances qui ont contribué à l'overdose mortelle du jeune homme.
Le procès, déposé mardi devant la Cour supérieure de Californie dans le comté de San Francisco, affirme que ChatGPT a fourni à Samuel Nelson des conseils sur le mélange de substances, telles que le kratom et le Xanax, lui a recommandé des dosages et l'a calmé lors de conversations sur la consommation de drogues. Selon la plainte, le chatbot est passé du refus de parler de consommation de drogues récréatives à l'offre de conseils personnalisés suite au lancement du modèle GPT-4o par OpenAI.
Leila Turner-Scott, la mère de Nelson, pensait que son fils utilisait ChatGPT principalement pour ses devoirs et sa productivité avant que le chatbot ne commence à le conseiller sur la consommation de drogues.
« Le chatbot est capable d'arrêter une conversation lorsqu'on lui demande ou est programmé pour l'arrêter », a déclaré Turner-Scott. Actualités CBS. « Et ils ont supprimé la programmation qui faisait cela, et lui ont permis de continuer à se faire du mal. »
Nelson, étudiant en psychologie à l'Université de Californie à Merced, est décédé d'une surdose accidentelle en mai 2025. Le procès allègue qu'OpenAI a conçu ChatGPT pour maximiser l'engagement grâce à des fonctionnalités telles que la mémoire persistante et les réponses de validation émotionnelle, tandis que le chatbot a rassuré Nelson sur le mélange de dépresseurs et a suggéré des moyens d'intensifier la consommation de drogues tout en minimisant les risques.
Le procès allègue qu'OpenAI a assoupli les garanties de GPT-4o pour éviter de paraître « condescendant » ou « bien-pensant » lorsque les utilisateurs discutaient de comportements à risque. Il remet également en question les fonctionnalités de l’IA conversationnelle, notamment les réponses personnalisées, la mémoire persistante et les interactions de type humain.
Selon le Tech Justice Law Project, qui représente la famille avec le Social Media Victims Law Center et le Tech Accountability and Competition Project, OpenAI a été informé du procès et attendait l'affaire.
« Les plaignants demandent une restitution et une injonction incluant des modifications des composants clés de la conception qui ont entraîné la mort de Sam », a déclaré un porte-parole du Tech Justice Law Project. Décrypter.
Le procès intervient à un moment où OpenAI fait face à plusieurs poursuites et enquêtes liées à ChatGPT. L'entreprise lutte déjà contre des poursuites pour droits d'auteur Le New York Timesauteurs et éditeurs suite à des allégations selon lesquelles il aurait utilisé du matériel protégé pour entraîner des modèles d'IA sans autorisation.
Plus tôt ce mois-ci, la famille d'une victime de la fusillade de masse de l'Université d'État de Floride en 2025 a déposé une plainte fédérale alléguant que ChatGPT avait fourni au tireur des conseils sur les armes à feu et des conseils tactiques avant l'attaque. Le procureur général de Floride, James Uthmeier, avait précédemment lancé une enquête sur OpenAI, citant des préoccupations liées à la sécurité des enfants, à l'utilisation criminelle, à l'automutilation et à la sécurité nationale.
OpenAI n'a pas immédiatement répondu à une demande de commentaires de Décrypter.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.