En résumé
- Devin Kim, un ancien ingénieur de xAI, a poursuivi l'entreprise en justice, affirmant qu'il avait été licencié après avoir mis en garde contre les risques de sécurité chez Grok.
- Kim a noté que le chatbot manquait de garanties contre la désinformation, les préjugés raciaux et les contenus susceptibles de faciliter le bioterrorisme.
- Le procès cite également l'épisode « MechaHitler » et des cas liés à des deepfakes sexuels de mineurs générés par Grok.
Un ancien ingénieur de xAI a intenté une action en justice cette semaine contre xAI et SpaceX, alléguant qu'il avait été licencié après avoir averti à plusieurs reprises les dirigeants de l'entreprise des risques de sécurité associés à Grok, le chatbot phare de la société d'IA.
Selon une plainte déposée devant la Cour supérieure du comté de Santa Clara en Californie, Devin Kim, ancien membre du personnel technique de xAI, a affirmé avoir été licencié après avoir averti à plusieurs reprises que Grok avait besoin de mesures de protection plus solides contre la désinformation, les préjugés et les conséquences dangereuses – y compris les contenus susceptibles de faciliter le bioterrorisme – et que des tests insuffisants rendaient le modèle vulnérable aux préjugés raciaux et politiques.
« Entamer une action en justice à ce stade est une décision réfléchie que M. Kim a prise. Les problèmes de sécurité de l'IA dont il s'est plaint à plusieurs reprises pendant son séjour chez xAI ont un impact profond sur l'avenir de la technologie de l'IA et l'avenir de l'humanité », a déclaré Qiaojing Ella Zheng, associée au cabinet d'avocats Sanford Heisler Sharp McKnight et avocat principal de Kim. Décrypter.
« Les utilisateurs et le public ont le droit de connaître les risques et dangers potentiels posés par Grok, et les lanceurs d'alerte comme M. Kim jouent un rôle essentiel dans la divulgation de ces informations », a-t-il ajouté. « Nous espérons que cette affaire encouragera xAI, SpaceX et d'autres sociétés d'IA à mettre en œuvre des mesures de sécurité appropriées pour protéger les utilisateurs et le public. »
Le procès affirme que Kim était l'un des premiers employés de xAI et « un éminent défenseur » de la sécurité de l'IA au sein de l'entreprise, qui a rejoint l'entreprise en partie à cause des avertissements d'Elon Musk sur les dangers posés par l'IA avancée.
« M. Kim a transformé son intérêt de toujours pour la science et la programmation informatique en une carrière dans le domaine émergent de l'IA », indique le procès. « En cours de route, il a été témoin des dommages que l'IA peut causer lorsqu'elle est développée sans garanties appropriées, et il s'est engagé à protéger les utilisateurs et le public de ces dommages. »
La plainte fait également état de controverses impliquant Grok qui, selon les avocats de Kim, reflètent les risques qu'il représente en interne. Parmi eux, l’effondrement du chatbot « MechaHitler » l’été dernier, au cours duquel Grok a généré une vague de réponses antisémites, déclenchant une réaction publique et incitant xAI à publier une correction.
Les avocats de Kim citent également des enquêtes et des poursuites plus récentes liées à la prétendue génération de deepfakes sexuels non consensuels par Grok, y compris des cas à Baltimore et en Californie qui allèguent que l'outil a été utilisé pour créer des images sexualisées de mineurs.
Selon les avocats de Kim, en « exerçant des représailles et en licenciant injustement » M. Kim, xAI a violé le Code du travail de Californie, l'ordre public et la common law de Californie, ainsi que la loi californienne sur la concurrence déloyale.
Le procès fait également suite à d’autres différends très médiatisés sur la sécurité et la responsabilité de l’IA, notamment les allégations soulevées par l’ancien chercheur d’OpenAI Suchir Balaji, qui a publiquement accusé OpenAI d’utiliser de manière inappropriée des données protégées par le droit d’auteur pour entraîner ses modèles, avant sa mort en 2024.
Bien que la plainte de Kim se concentre sur les pratiques de sécurité de Grok et de xAI, SpaceX est également répertorié comme défendeur et intervient alors que SpaceX se prépare à une introduction en bourse très attendue, suite à la décision de Musk de fusionner xAI et X dans l'entreprise.
« Cette affaire ne vise pas à s'opposer à l'innovation », a déclaré David Sanford, président et co-fondateur de Sanford Heisler Sharp McKnight, dans un communiqué. « Devin Kim et Elon Musk ont publiquement partagé une préoccupation fondamentale : l'intelligence artificielle avancée doit être développée de manière sûre et responsable en raison de ses profondes implications pour l'humanité. »
Kim allègue que son licenciement lui a coûté une indemnisation substantielle en actions et demande la restitution des actions confisquées, des dommages-intérêts compensatoires, des dommages-intérêts punitifs, des honoraires d'avocat et d'autres recours. Plus tôt ce mois-ci, Kim a été nommée nouvelle présidente du Center for AI Safety, une organisation à but non lucratif.
« Les lanceurs d'alerte comme Devin Kim jouent un rôle essentiel en révélant les actes répréhensibles des entreprises, et la loi protège les employés qui soulèvent de telles inquiétudes », a ajouté Sanford.
Note de l'éditeur : cet article a été mis à jour lors de sa publication pour inclure de nouveaux commentaires du cabinet d'avocats.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.
Voir l’article original en espagnol
