L'État de Floride, aux États-Unis, a accusé la startup OpenAI et son PDG Sam Altman de promouvoir de manière agressive le chatbot ChatGPT auprès des adolescents et a exigé l'interdiction des pratiques controversées avec une amende. CNN écrit à ce sujet en faisant référence à des documents judiciaires.
Dans le procès, le procureur général James Utmyer allègue que la société a sciemment et activement promu ChatGPT tout en cachant les risques du service, depuis les « instructions » pour les mineurs ayant des pensées suicidaires jusqu'à l'aide aux suspects à planifier des crimes.
Les réclamations concernent des lois sur les pratiques commerciales déloyales et trompeuses, ainsi que des défauts de logiciels, l'incapacité de fournir des avertissements appropriés et un danger public.
La Floride demande une injonction contre les pratiques contestées, des sanctions civiles pouvant aller jusqu'à 10 000 dollars pour chaque violation délibérée et des dommages-intérêts pour les victimes.
Les autorités de l’État insistent sur le fait que ChatGPT nuit aux enfants et aux adolescents : il favorise l’automutilation, crée des dépendances comportementales et entraîne une diminution des capacités de pensée critique. De plus, la version gratuite ne dispose pas de mécanisme de vérification de l'âge, et dans un abonnement payant, il peut être spécifié sans vérification.
Un ensemble distinct de revendications concerne les données. Selon le document, OpenAI était au courant de l'utilisation du service par des enfants de moins de 13 ans, collectait leurs informations personnelles et n'avait pas obtenu le consentement des parents.
Le procès cite plusieurs épisodes de violations. Par exemple, l'enquête sur le rôle de ChatGPT dans la fusillade de l'Université d'État de Floride. Est également évoqué le cas du meurtre de deux étudiants diplômés : les accusés, peu avant leur disparition, ont demandé conseil au chatbot pour éliminer des preuves.
Un autre cas est la tragédie d'Adam Rein, 16 ans, qui, selon les autorités, s'est suicidé après de longues conversations avec ChatGPT.
« Sam Altman et ChatGPT ont choisi la course à l'intelligence artificielle plutôt que la sécurité de nos enfants. Ils ont choisi le profit plutôt que la sécurité publique, et nous n'allons pas tolérer cela ici en Floride », a déclaré le procureur.
Utmyer a déclaré qu'il s'attend à ce que d'autres États soutiennent l'initiative du tribunal.
Rappelons qu'en mai, le tribunal a rejeté le procès d'Elon Musk contre Altman, Greg Brockman, OpenAI et Microsoft en raison d'un dépôt tardif.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !