La startup xAI d'Elon Musk a limité les capacités du réseau neuronal Grok dans le réseau social X. Après un récent scandale, les développeurs ont désactivé la fonction de génération d'images explicites de personnes réelles.
https://t.co/awlfMjX6FS
—Sécurité (@Sécurité) 14 janvier 2026
L'entreprise prend des mesures pour supprimer le contenu CSAM et la nudité, ainsi que contre les utilisateurs qui enfreignent les règles X. Elle informera les forces de l'ordre de ceux qui tentent de trouver de tels documents.
« Nous avons mis en œuvre des mesures technologiques pour empêcher que des images de personnes réelles portant des vêtements révélateurs, tels que des bikinis, soient modifiées dans les comptes Grok. La restriction s'applique à tous les utilisateurs, y compris les titulaires d'abonnements payants », indique l'avis.
La création et l'édition d'images via votre compte Grok sur Platform X sont désormais uniquement disponibles pour les utilisateurs premium. Grâce à cela, xAI espère traduire en justice ceux qui abusent des capacités du chatbot.
Les développeurs ont qualifié cette restriction d'ajout aux protocoles de sécurité actuels et ont annoncé l'introduction de mesures de protection supplémentaires.
Un autre scandale
Début janvier, Grok s'est retrouvé dans un autre scandale concernant sa capacité à créer des images nues de personnes réelles et de mineurs.
La British Internet Watch Foundation a noté que ses analystes avaient découvert du « contenu criminel » provenant d'enfants âgés de 11 à 13 ans, qui aurait été créé à l'aide de Grok.
Musk a déclaré qu'il n'était au courant d'aucun cas où un chatbot aurait été utilisé pour créer des images nues de mineurs.
Je ne connais aucune image de mineurs nus générée par Grok. Littéralement zéro.
Évidemment, Grok ne génère pas spontanément d’images, il le fait uniquement en fonction des demandes des utilisateurs.
Lorsqu'on lui demandera de générer des images, il refusera de produire quoi que ce soit d'illégal, comme principe de fonctionnement… https://t.co/YBoqo7ZmEj
– Elon Musk (@elonmusk) 14 janvier 2026
« Évidemment, Grok ne génère pas spontanément. Il le fait à la demande de l'utilisateur », a souligné l'entrepreneur.
Selon lui, le chatbot refuse de créer du contenu illégal. Cependant, il peut y avoir des cas de « piratages hostiles » qui conduisent à des « résultats inattendus ».
Le 11 janvier, le régulateur malaisien a ordonné des restrictions temporaires à la suite des « échecs répétés » de X Corp pour faire face aux risques associés à son service d'IA.
La veille, l'Indonésie avait suspendu l'accès au chatbot pour des raisons similaires et avait convoqué des représentants de l'entreprise pour discuter de la question.
Les régulateurs de l'UE, du Royaume-Uni, du Brésil et de l'Inde ont exigé une enquête sur le rôle de Grok dans la propagation des deepfakes.
Une coalition de 28 organisations de défense des droits numériques, des droits des femmes et des enfants a appelé les dirigeants d'Apple et de Google à agir et à supprimer X et le chatbot des magasins d'applications.
Rappelons qu'en janvier Grok sera intégré au réseau du Pentagone avec le moteur d'IA générative de Google.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !
Voir l’article original en russe
