Grok d'Elon Musk a généré 23 338 images sexualisées de mineurs en 11 jours : rapport du CCDH

Le chatbot Grok AI d'Elon Musk a produit environ 23 338 images sexualisées représentant des enfants sur une période de 11 jours, selon un rapport publié jeudi par le Centre de lutte contre la haine numérique (CCDH).

Selon le CCDH, ce chiffre représente une image sexualisée d'un enfant toutes les 41 secondes entre le 29 décembre et le 9 janvier, lorsque les fonctionnalités d'édition d'images de Grok permettaient aux utilisateurs de manipuler des photos de personnes réelles pour ajouter des vêtements révélateurs et des poses sexuellement suggestives.

Le CCDH a également rapporté que Grok avait généré près de 10 000 dessins animés mettant en scène des enfants sexualisés, selon les données examinées.

L'analyse estime que Grok a généré environ 3 millions d'images sexualisées au total au cours de cette période. L'enquête, basée sur un échantillon aléatoire de 20 000 images sur 4,6 millions produites par Grok, a révélé que 65 % des images contenaient un contenu sexualisé représentant des hommes, des femmes ou des enfants.

« Ce que nous avons découvert était clair et inquiétant : au cours de cette période, Grok est devenu une machine à l'échelle industrielle pour la production de matériel d'abus sexuel », a déclaré Imran Ahmed, directeur exécutif du CCDH. Tuteur.

Le bref virage de Grok vers les images sexuelles d’enfants générées par l’IA a déclenché une réaction négative en matière de réglementation mondiale. Les Philippines sont devenues le troisième pays à interdire Grok le 15 janvier, après l'Indonésie et la Malaisie les jours précédents. Les trois pays d’Asie du Sud-Est ont cité leur échec à empêcher la création et la diffusion de contenus sexuels non consensuels impliquant des mineurs.

Au Royaume-Uni, le régulateur des médias Ofcom a lancé le 12 janvier une enquête formelle pour déterminer si X avait enfreint la loi sur la sécurité en ligne. La Commission européenne a déclaré qu'elle « examinait très sérieusement » l'affaire, considérant que de telles images étaient illégales en vertu de la loi sur les services numériques. Le parquet de Paris a élargi l'enquête en cours sur X aux accusations de production et de diffusion de pédopornographie, et l'Australie a également lancé sa propre enquête.

xAI d'Elon Musk, qui possède à la fois Grok et

Alors que les réactions négatives s'accentuaient, la société a ensuite mis en œuvre des restrictions, limitant d'abord la génération d'images aux abonnés payants le 9 janvier, puis ajoutant des barrières techniques pour empêcher les utilisateurs de supprimer numériquement les gens le 14 janvier. xAI a annoncé qu'elle bloquerait géographiquement la fonctionnalité dans les juridictions où de telles actions sont illégales.

Musk a posté sur Cependant, les enquêteurs ont découvert que le principal problème n'était pas les images complètement nues, mais plutôt le fait que Grok plaçait les mineurs dans des vêtements révélateurs tels que des bikinis et des sous-vêtements, ainsi que dans des positions sexuellement provocatrices.

Au 15 janvier, environ un tiers des images sexualisées d'enfants identifiées dans l'échantillon du CCDH restaient accessibles sur X, malgré la politique de tolérance zéro déclarée par la plateforme à l'égard du matériel pédopornographique.