L'UE déclare illégal le « mode épicé » de Grok pour générer des images sexualisées de mineurs

La Commission européenne vient de dire à Elon Musk ce que tout le monde savait déjà : créer des images sexualisées d'enfants n'est pas « piquant ». C'est illégal.

« Nous sommes conscients que X ou Grok proposent désormais un 'mode épicé' qui affiche du contenu sexuel explicite avec certains résultats générés à partir d'images d'enfants », a déclaré lundi le porte-parole de la Commission européenne, Thomas Regnier, lors d'une conférence de presse à Bruxelles. « Ce n'est pas épicé. C'est illégal. C'est épouvantable. C'est dégoûtant. Cela n'a pas sa place en Europe. »

Cette déclaration marque une escalade dans une controverse qui, selon Décrypter rapporté précédemment, a vu le chatbot de xAI générer des deepfakes non consensuels de femmes, devenir un outil de marketing pour les créateurs d'OnlyFans et manipuler des images à des fins politiques.

Regnier a clairement indiqué que ce n'était pas la première infraction de Grok. La Commission avait déjà envoyé des demandes d'informations après que le chatbot ait généré l'année dernière du contenu négationniste, un autre crime dans plusieurs pays européens.

« Je pense que X est très conscient du fait que nous prenons très au sérieux la mise en œuvre du DSA », a déclaré à Euronews un porte-parole de l'UE, faisant référence à la loi sur les services numériques. « Ils se souviendront de l'amende qu'ils ont reçue de notre part. »

Cette amende de décembre s'élevait à 120 millions d'euros (140 millions de dollars), la première pénalité en vertu de la DSA. La Commission a jugé que X avait violé les exigences de transparence concernant son système de coches bleues, son référentiel publicitaire et l'accès aux données pour les chercheurs. X fait toujours l'objet d'une enquête active de la DSA pour contenu illégal et désinformation.

Musk a qualifié cette amende de « déchet » et a déclaré qu’il la contesterait.

La France a également élargi son enquête pénale pour inclure les allégations selon lesquelles Grok produirait de la pédopornographie. L'Ofcom britannique a demandé lundi à X d'expliquer comment Grok avait produit ces images. Le ministère indien de l'informatique a donné à X jusqu'au 5 janvier pour procéder à un examen complet de la sécurité, et la Malaisie a ouvert sa propre enquête.

L'eurodéputé néerlandais Jeroen Lenaers est allé au cœur de l'approche de xAI. « Si les plateformes d'IA choisissent d'autoriser la génération de contenus érotiques, des garanties robustes, efficaces et vérifiables de manière indépendante doivent être mises en œuvre au préalable », a ajouté Lenaers mardi.

Lenaers a ajouté que compter sur la suppression du matériel pédopornographique après sa création n'est pas suffisant car « le préjudice causé aux victimes a déjà été infligé et ne peut être réparé ».

C'est exactement ce qui s'est passé. Comme indiqué DécrypterGrok a publié des images sexualisées de mineurs avant de les supprimer. Le chatbot s'est excusé la semaine dernière d'avoir généré des images de filles âgées de 12 à 16 ans, qualifiant les incidents de « défaillances des sauvegardes« . À ce moment-là, le mal était déjà fait.

La réponse de xAI à la pression internationale croissante ? Quand Reuters Lorsqu'on lui a demandé des commentaires, la société a répondu : « Les mensonges des médias hérités ».

De multiples enquêtes réglementaires menacent désormais cette stratégie. Le DSA autorise des amendes allant jusqu'à 6 % du chiffre d'affaires annuel mondial en cas de violation. L'amende de X en décembre a été calculée en utilisant un pourcentage inférieur pour les premières violations. Les violations répétées pourraient coûter exponentiellement plus.

La réaction politique de Washington après la première série d’amendes a été immédiate. Le vice-président JD Vance a déclaré que l'UE « devrait soutenir la liberté d'expression, et non attaquer les entreprises américaines pour leurs déchets ». Le secrétaire d'État Marco Rubio a qualifié l'amende imposée par DSA en décembre d'« attaque contre le peuple américain ».

Cependant, les régulateurs européens n’acceptent pas la défense de la liberté d’expression lorsqu’il s’agit de matériel pédopornographique. Les propos tenus par Régnier lundi ne laissaient aucune place à l'interprétation. Il ne s’agit pas d’un débat sur la censure politique ou sur les différentes cultures de modération des contenus, mais plutôt d’une question d’arrêt de la production et de la diffusion d’images sexuelles illégales d’enfants.

xAI n'a pas encore apporté de modifications substantielles aux capacités de Grok. L'onglet Médias du chatbot a été désactivé après avoir été inondé d'images sexualisées, mais la fonction principale d'édition d'images et la possibilité d'animer ces photos restent actives.