La Commission de protection des données (DPC) a ouvert une enquête formelle contre x Internet Unlimited Company (XIUC) pour la création et la publication présumées sur la plateforme d'images intimes et sexualisées non consensuelles générées par l'intelligence artificielle. La procédure est lancée en vertu de l’article 110 de la loi sur la protection des données de 2018.
Le CPD est l'autorité irlandaise de contrôle du règlement général sur la protection des données (RGPD) et a également des fonctions et des pouvoirs liés à d'autres cadres réglementaires importants, tels que les règlements irlandais sur la vie privée en ligne (2011) et la directive d'application des lois de l'UE.
L'Europe renforce son siège sur Grok
Comme l'a rapporté hier le régulateur, l'enquête se concentre sur l'utilisation de la fonctionnalité d'intelligence artificielle générative associée au modèle de langage Grok dans X. La DPC examinera si l'entreprise a traité les données personnelles des citoyens de l'Union européenne et de l'Espace économique européen, y compris des mineurs, d'une manière conforme au Règlement général sur la protection des données (RGPD).
La décision d'ouvrir l'enquête a été notifiée à XIUC le lundi 16 février. L'objectif est de déterminer si l'entreprise a respecté ses obligations fondamentales en matière de protection des données, notamment en ce qui concerne les principes du traitement, sa légalité, la protection des données dès la conception et par défaut, ainsi que l'obligation de réaliser une analyse d'impact sur la protection des données lorsqu'il existe un risque élevé pour les droits et libertés des personnes concernées.
L'enquête fait suite à plusieurs reportages médiatiques soulignant la capacité apparente des utilisateurs de X à encourager le compte Grok à générer des images sexualisées de personnes réelles, y compris d'enfants. Ces images pourraient impliquer le traitement de données personnelles sans consentement, ce qui soulèverait le cas d’une éventuelle violation grave du RGPD.
Une autre enquête en janvier
Le sous-commissaire Graham Doyle a confirmé que le DPC était en contact avec XIUC depuis la publication des premiers rapports publics. En tant que principale autorité de contrôle de l'entreprise dans l'UE et l'EEE, la DPC a décidé de lancer une enquête à grande échelle pour examiner le respect par l'entreprise de ses obligations réglementaires liées à ces événements.
L'enquête ouverte par l'autorité irlandaise de protection des données coïncide avec celle ouverte en janvier dernier par le Commission européenne sous le Loi sur les services numériques (DSA). Bien que les deux actions reposent sur des cadres juridiques différents, le RGPD dans le cas de la DPC et le DSA dans le cas de Bruxelles, tournent tous deux autour de l'utilisation de Grok pour générer et diffuser des images sexualisées potentiellement illicites dans l'Union européenne. Cette coïncidence renforce la pression réglementaire sur X, qui fait face à un contrôle simultané à la fois sur le traitement des données personnelles et sur la gestion des risques systémiques sur sa plateforme.
