En résumé
- La Floride a intenté la première action en justice contre OpenAI et Sam Altman pour avoir exposé des mineurs à des préjudices via ChatGPT.
- Le procureur Uthmeier a cité les cas du tireur du FSU et d'un suspect de l'USF utilisant ChatGPT avant leurs crimes.
- OpenAI, évalué à 852 milliards de dollars, a mis à jour ChatGPT en mai pour détecter les risques de suicide à la suite de plusieurs poursuites similaires.
Le procureur général de Floride, James Uthmeier, a déposé lundi ce que l'État décrit comme « le premier procès de ce type dans le pays » contre OpenAI et son PDG Sam Altman, accusant l'entreprise d'avoir induit les consommateurs en erreur sur la sécurité de ChatGPT tout en exposant les enfants à des dangers.
Le procès représente l'une des actions les plus agressives contre une grande entreprise d'IA et intervient après que le bureau du procureur général de Floride a ouvert une enquête sur le développeur de ChatGPT en avril.
« Nous avons récemment intenté une action civile monumentale contre Sam Altman et ChatGPT pour avoir mis nos enfants en danger et avoir induit les parents en erreur en leur faisant croire que cette application était sûre pour eux », a déclaré Uthmeier lors d'une conférence de presse lundi. « Ce n'est clairement pas le cas. »
Le procès, déposé lundi devant le tribunal de l'État de Floride, allègue qu'OpenAI a faussement présenté ChatGPT comme sûr tout en exposant les utilisateurs à des risques tels que l'automutilation, la violence, la dépendance, les troubles cognitifs et la désinformation. La Floride demande des dommages-intérêts, une injonction et une responsabilité personnelle contre Altman.
« Sam Altman et ChatGPT ont choisi la carrière de l'IA plutôt que la sûreté et la sécurité de nos enfants », a déclaré Uthmeier. « Ils ont choisi les profits plutôt que la sécurité publique, et nous n'allons pas tolérer cela ici en Floride. »
Le procès intervient au milieu d’enquêtes et de poursuites en cours liées à ChatGPT. Le mois dernier, OpenAI et son PDG Sam Altman ont été poursuivis devant un tribunal de l'État de Californie par la famille d'un étudiant de 19 ans décédé d'une surdose accidentelle, alléguant que ChatGPT encourageait la consommation de drogues dangereuses et conseillait de mélanger des substances.
Uthmeier a déclaré que les enquêteurs ont découvert que le tireur de l'Université d'État de Floride avait consulté le chatbot au sujet des armes à feu, des munitions, des horaires et des lieux sur le campus avant l'attaque. Il a également mentionné une affaire distincte d'enlèvement et de meurtre à l'USF dans laquelle un suspect aurait demandé à ChatGPT comment se débarrasser des corps, ainsi que d'autres incidents impliquant des actes d'automutilation, des tentatives de suicide, de la pédopornographie et d'autres crimes.
En mai, OpenAI a annoncé avoir mis à jour ChatGPT pour mieux détecter les signes de suicide, d'automutilation et d'éventuelles violences en analysant les conversations au fil du temps plutôt que les messages individuels. La mise à jour fait suite à un procès contre OpenAI lié à une fusillade de masse en février en Colombie-Britannique.
La plainte du procureur général de Floride met également en évidence la croissance d'OpenAI, qui est passée d'une organisation à but non lucratif fondée en 2015 à une entreprise évaluée à plus de 850 milliards de dollars. OpenAI a récemment annoncé une valorisation de 852 milliards de dollars après avoir levé 122 milliards de dollars, citant la demande croissante pour les services ChatGPT et d'IA, avec l'intention de devenir publique plus tard cette année.
« Ce succès n'est pas mérité ; l'essor d'OpenAI est attribuable à un réseau de tromperie et d'exploitation d'utilisateurs (y compris des Floridiens), tirant parti de leurs données et de leur sécurité pour accroître la valeur marchande d'OpenAI à des coûts inacceptables », indique le procès.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.
