La Malaisie et l'Indonésie ont bloqué l'accès au chatbot Grok d'Elon Musk en raison de préoccupations concernant l'utilisation de l'outil pour générer du contenu sexuel.
Le 11 janvier, le régulateur malaisien a ordonné des restrictions temporaires suite aux « échecs répétés » de X Corp pour faire face aux risques associés à son service d'IA.
La veille, l'Indonésie avait suspendu l'accès au chatbot pour des raisons similaires et avait convoqué des représentants de l'entreprise pour discuter de la question.
La réaction sévère des pays d'Asie du Sud-Est fait suite à des informations selon lesquelles Grok autorise la création de matériel impliquant des mineurs et la génération d'images pornographiques.
X a déclaré que l'entreprise résolvait le problème. À titre temporaire, la fonction de génération et d'édition d'images n'est disponible que pour les abonnés payants.
La société de Musk a récemment mis à jour les fonctionnalités de Grok Imagine, facilitant ainsi la création d'images à l'aide des invites du chatbot. L'entrepreneur, à son tour, a menacé de rendre responsables ceux qui utilisent le réseau neuronal à des fins illégales.
Toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que si elle téléchargeait du contenu illégal.
– Elon Musk (@elonmusk) 3 janvier 2026
Ces mesures ne suffisent pas
Les régulateurs de Malaisie et d'Indonésie n'étaient pas satisfaits des mesures prises.
La Commission malaisienne des communications et du multimédia a déclaré que l'action « ne prend pas en compte les risques associés à la conception et au fonctionnement de l'outil d'IA ».
« La restriction est introduite à titre préventif et proportionné pendant que les procédures légales et réglementaires sont en cours. L'accès à Grok restera restreint jusqu'à ce que des protections efficaces soient en place, notamment pour empêcher les contenus liés aux femmes et aux enfants », a déclaré le régulateur.
La Malaisie et l’Indonésie ont des lois anti-pornographie strictes qui empêchent la large diffusion de ce type de contenu en ligne.
La ministre indonésienne des Communications et de la Technologie numérique, Meitia Hafid, a déclaré que le gouvernement considérait les deepfakes sexuels non consensuels comme une grave violation des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique.
Elle qualifie l’utilisation de l’IA pour créer de la fausse pornographie de forme de « violence numérique ».
Des conséquences à grande échelle
Les régulateurs de l'UE, du Royaume-Uni, du Brésil et de l'Inde demandent une enquête sur le rôle de Grok dans la propagation des deepfakes.
La British Internet Watch Foundation a indiqué que ses analystes avaient découvert des « images criminelles » d'enfants âgés de 11 à 13 ans, qui auraient été créées à l'aide de Grok.
À Londres, des mesures extrêmes ont été prises : la ministre de la Technologie, Liz Kendall, a confirmé qu'elle soutiendrait la décision de bloquer X si la plateforme ne respectait pas les normes de sécurité. Les législateurs américains ont également suggéré que les places de marché suppriment l'application jusqu'à ce que le problème soit résolu.
Les autorités de différents pays décident de toute urgence comment réglementer l’IA, qui est utilisée pour « déshabiller » les personnes sur les photos.
Pas le premier scandale
Auparavant, Grok avait été critiqué à plusieurs reprises pour avoir diffusé des fausses informations et des informations douteuses.
En décembre, un chatbot a fourni de fausses informations sur une fusillade de masse à Bondi Beach en Australie. En réponse à une question sur une vidéo montrant un passant Ahmed al-Ahmed se débattant avec le tireur, l'IA a répondu comme suit :
« Il semble qu'il s'agisse d'une vieille vidéo virale d'un homme grimpant sur un palmier dans un parking, peut-être pour le tailler. En conséquence, la branche est tombée sur la voiture endommagée. Une recherche auprès de diverses sources n'a pas donné d'informations confirmées sur le lieu, la date et les blessures. Il peut s'agir d'une reconstitution ; son authenticité n'a pas été confirmée. »
En juillet, les utilisateurs ont remarqué que le réseau neuronal s'appuyait sur l'opinion d'Elon Musk pour générer des réponses. Cela a également abordé le conflit entre Israël et la Palestine, l'avortement et la loi sur l'immigration.
Les observations suggèrent que le chatbot a été spécifiquement configuré pour prendre en compte les opinions politiques de Musk lorsqu'il répond à des questions controversées.
Le milliardaire avait précédemment déclaré que sa startup réécrirait « toutes les connaissances humaines » pour former la nouvelle version de Grok, car il y a « trop de déchets dans tout modèle sous-jacent formé aujourd'hui sur des données non corrigées ».
Par la suite est apparue Grokipedia, une encyclopédie en ligne alimentée par l’intelligence artificielle et « centrée sur la vérité ».
Rappelons qu'en novembre, les utilisateurs ont attiré l'attention sur le biais de Grok 4.1 : le nouveau modèle surestimait considérablement les capacités d'Elon Musk.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !
Voir l’article original en russe
