L'Union européenne enquête sur le X de Musk pour des images sexuelles de mineurs générées par AI Grok

La Commission européenne a ouvert lundi une enquête formelle pour déterminer si X a violé les règles numériques de l'UE en n'ayant prétendument pas empêché son chatbot IA Grok de générer et de diffuser des contenus illégaux, y compris des images sexuellement explicites de mineurs.

L'enquête évaluera si l'entreprise a correctement évalué et atténué les risques avant de mettre en œuvre les capacités d'imagerie de Grok, a indiqué la Commission dans un communiqué. libérer le lundi.

La Commission a également déclaré que les risques se sont matérialisés par la génération et la diffusion effectives de contenus sexuels illégaux, exposant les citoyens de l'UE à de graves préjudices.

Cela survient dans un contexte de surveillance internationale croissante sur le rôle de Grok dans la création de deepfakes non consensuels.

il y a deux semaines, X restrictions mises en œuvrelimiter la génération d'images aux abonnés payants et ajouter des barrières techniques pour empêcher les utilisateurs de manipuler numériquement les personnes en révélant des vêtements. La société a également géobloqué la fonctionnalité dans les juridictions où ce type de contenu est illégal.

Cependant, malgré ces mesures, les chercheurs ont découvert qu'environ un tiers des images sexualisées de mineurs identifiées dans l'échantillon du CCDH resté accessible sur la plateforme X.

« Grâce à cette enquête, nous déterminerons si

Plus tôt ce mois-ci, le porte-parole de la Commission européenne, Thomas Regnier a condamné la fonctionnalité « Spicy Mode » de X lors d'une conférence de presse à Bruxelles.

« Ce n'est pas épicé. C'est illégal. C'est épouvantable. C'est dégoûtant. Cela n'a pas sa place en Europe », a déclaré Régnier.

Fraser Edwards, co-fondateur et PDG de cheqd, a déclaré Décrypter que « chaque créateur devrait pouvoir contrôler la manière dont son image est utilisée dans les médias générés par l'IA ».

Edwards note que « les réactions négatives suscitées par les abus des deepfakes soulignent un échec fondamental d’Internet lui-même ».

« Il n'existe toujours aucun moyen natif de vérifier qui a créé un contenu synthétique ou si son utilisation a déjà été autorisée », a ajouté Edwards, laissant la responsabilité de continuer « à incomber à des intermédiaires comme X plutôt qu'aux personnes responsables de l'abus ».

Si elles étaient avérées, les failles faisant l’objet d’une enquête constitueraient des violations des articles 34(1) et (2), 35(1) et 42(2) de la loi sur les services numériques, qui exigent que les plateformes évaluent et atténuent les risques systémiques, y compris la diffusion de contenus illégaux et les effets négatifs liés à la violence de genre.

L’enquête de l’UE s’étend sur une affaire DSA survenue fin 2023 qui a abouti à une Amende de 140 millions de dollars (120 millions d'euros) contre X en décembre pour conception trompeuse, manque de transparence publicitaire et accès limité pour les chercheurs.

Depuis, la Commission a élargi son contrôle sur Grok, y compris ses préoccupations antérieures concernant le contenu antisémite généré par le chatbot.

Décrypter a contacté xAI pour des commentaires supplémentaires.