La Commission européenne a ouvert une nouvelle enquête contre Platform X, propriété d'Elon Musk, en vertu du Digital Services Act (DSA). L’origine de tout ce sont les photos sexualisées générées ou diffusées avec l’aide de Grok. La Commission européenne agit parce que des images sexuelles manipulées (deepfakes) ont commencé à circuler sur X, dont beaucoup de femmes et potentiellement de mineurs, et considère que X n'a pas fait assez pour empêcher cela avant de lancer Grok.
Grok facilite la diffusion
Pour l’UE, le problème n’est pas seulement que ces images existent, mais que Grok permet de les générer et facilite leur diffusion. De plus, X n’a pas correctement évalué les risques avant de l’activer en Europe et ses algorithmes peuvent les amplifier, les faisant ainsi toucher davantage de personnes.
En ce sens, l'action en Europe se concentre sur la question de savoir si l'entreprise a correctement évalué et atténué les risques associés au déploiement des fonctionnalités de Grok dans l'Union européenne. En parallèle, la Commission a élargi une enquête en cours, lancée en décembre 2023, sur le respect par X de la gestion des risques dans ses systèmes de recommandation.
ChatGPT est comme Jose, le voisin d'ING, Grok est comme Red Bull sur une fusée
La nouvelle recherche examinera les risques liés à la diffusion de contenus illicites dans l'UE, tels que des images sexuellement explicites manipulées, y compris celles qui pourraient constituer du matériel pédopornographique. Selon la Commission, ces risques semblent s'être matérialisés, exposant les citoyens de l'UE à de graves préjudices.
Obligations DSA
Plus précisément, la Commission examinera si X respecte ses obligations en vertu du DSA dans les domaines suivants. Évaluer et atténuer avec diligence les risques systémiques, y compris la propagation de contenus illicites, les effets négatifs liés à la violence basée sur le genre et les conséquences négatives graves sur le bien-être physique et mental résultant du déploiement des fonctionnalités de Grok sur sa plateforme. Réaliser et transmettre à la Commission un rapport ad hoc d'évaluation des risques pour les fonctionnalités Grok du service X.
De plus, la prolongation de l’enquête en décembre 2023 déterminera si
Si ces violations étaient confirmées, elles constitueraient des violations des articles 34 (sections 1 et 2), 35 (section 1) et 42 (section 2) de la loi sur les services numériques. La Commission mènera en priorité une enquête approfondie.
Rassembler des preuves
Pour préparer cette enquête, la Commission a travaillé en étroite collaboration avec Coimisiún na Meán, le coordinateur irlandais des services numériques, qui lui sera associé en vertu de l'article 66, paragraphe 3, du DSA, en tant que coordinateur national dans le pays d'établissement de X dans l'UE.
La Commission indique qu'elle continuera à recueillir des preuves au moyen de demandes d'informations supplémentaires, d'entretiens ou d'inspections, et qu'elle pourra imposer des mesures provisoires si des ajustements significatifs ne sont pas apportés au service. Elle exempte également les coordinateurs nationaux des services numériques de leurs pouvoirs de surveillance de ces violations présumées.
Une forme de dégradation violente et inacceptable
Henna Virkkunen, vice-présidente exécutive pour la souveraineté technologique, la sécurité et la démocratie, a déclaré que les deepfakes sexuels de femmes et d'enfants constituent une forme de dégradation violente et inacceptable. « Grâce à cette enquête, nous déterminerons si
Pour le moment, Elon Musk n'a pas fait de déclarations directes sur la nouvelle enquête ouverte par la Commission européenne contre X. Cependant, ces derniers mois, il a fait des commentaires liés à la modération du contenu et à l'utilisation de Grok. Aujourd'hui encore, il a publié une image sur un ton humoristique avec le commentaire qu'il est si difficile d'obtenir la bonne modération, en allusion apparente aux difficultés de contrôle de la génération de contenus explicites.