Les autorités françaises perquisitionnent les bureaux de X pour enquêter sur la pédopornographie liée à Grok

Les autorités françaises ont perquisitionné mardi les bureaux parisiens de la plateforme de médias sociaux X dans le cadre d'une enquête pénale élargie sur des allégations de pédopornographie liée au chatbot IA de la plateforme, Grok.

Selon un rapport de SkyActualitésla perquisition a été menée par l'unité française spécialisée en cybercriminalité en coordination avec Europol.

Les procureurs ont noté que le propriétaire de X, Elon Musk, avait été cité à comparaître pour être interrogé, ainsi que plusieurs dirigeants actuels et anciens, dont l'ancienne PDG Linda Yaccarino.

« L'enquête concerne une série d'infractions pénales présumées liées au fonctionnement et à l'utilisation de la plateforme, notamment la diffusion de contenus illégaux et d'autres formes d'activités criminelles en ligne », a indiqué Europol dans un communiqué. « Europol est prêt à continuer à soutenir les autorités françaises à mesure que l'enquête progresse. »

L'enquête sur Grok, lancée le mois dernier, se concentre sur des allégations selon lesquelles X aurait été complice de la distribution de matériel pédopornographique et d'autres contenus illégaux, les autorités affirmant que Grok avait été utilisé pour générer plus de 23 000 images sexualisées d'enfants.

En août dernier, xAI a lancé le « Spicy Mode » spécifiquement pour générer du contenu pour adultes, y compris une affaire très médiatisée impliquant des deepfakes de Taylor Swift.

Dans un article sur X, le département des affaires gouvernementales mondiales du géant des médias sociaux a nié tout acte répréhensible, qualifiant le raid d' »enquête criminelle politisée sur des allégations de manipulation d'algorithmes et d'exploration de données frauduleuses ».

« La perquisition d'aujourd'hui renforce notre conviction que cette enquête déforme la loi française, échappe à une procédure régulière et met en danger la liberté d'expression », ont-ils écrit. « X s'engage à défendre ses droits fondamentaux et les droits de ses utilisateurs. Nous ne nous laisserons pas intimider par les actions des autorités judiciaires françaises aujourd'hui. »

Les groupes de défense des consommateurs affirment que lorsque les régulateurs enquêtent sur les développeurs d’IA dont les outils sont utilisés pour créer du contenu illégal, ils devraient examiner si l’entreprise aurait pu raisonnablement anticiper la manière dont ces outils seraient utilisés à mauvais escient.

« Les régulateurs devraient examiner si les décisions de conception de l'entreprise ont rendu prévisible une utilisation abusive illégale, si les évaluations des risques étaient adéquates et si les garanties ont été testées de manière significative avant le lancement », a déclaré JB Branch, Big Tech Liability Advocate chez Public Citizen. Décrypter. « Les plateformes qui bénéficient d'un déploiement rapide doivent assumer la responsabilité des dommages causés par ce déploiement. C'est exactement ce qui se passe dans d'autres secteurs. »

Cependant, même si les lois actuelles contre les images sexuelles non consensuelles et les contenus pédopornographiques restent essentielles, Branch a noté qu'elles n'ont pas été créées pour l'IA qui peut « produire des dommages massifs à une vitesse évolutive ».

« Nous avons besoin d'obligations plus claires et plus proactives qui obligent les entreprises à prévenir les abus liés à l'IA avant qu'ils ne se produisent, y compris des tests réglementaires indépendants qui peuvent détecter les problèmes en situation de stress avant que les produits d'IA n'arrivent sur le marché », a-t-il ajouté. « Lorsque quelque chose d'aussi grave se produit, l'outil doit être supprimé immédiatement. »

La recherche abonde

Les enquêtes sur le chatbot se sont désormais étendues à plusieurs juridictions, notamment au Royaume-Uni, dans l’Union européenne, en Inde, en Australie et aux États-Unis.

Le même jour où les autorités françaises ont perquisitionné le bureau parisien de X, le bureau du commissaire à l'information, basé au Royaume-Uni, a annoncé qu'il avait également ouvert une enquête sur Grok.

« Nous avons pris cette mesure suite à des informations selon lesquelles Grok aurait été utilisé pour générer des images sexuelles non consensuelles d'individus, y compris d'enfants », a déclaré William Malcolm, directeur exécutif du risque réglementaire et de l'innovation à l'ICO, dans un communiqué. « La création et la circulation signalées de tels contenus soulèvent de sérieuses inquiétudes au regard de la loi britannique sur la protection des données et présentent un risque de préjudice potentiel important pour le public. »

Selon Malcolm, ces préoccupations concernent la question de savoir si les données personnelles ont été traitées de manière licite, équitable et transparente, et si des garanties appropriées ont été intégrées dans la conception et le déploiement de Grok pour empêcher la génération d'images manipulées nuisibles à l'aide de données personnelles.

« Lorsque ces mesures de protection échouent, les individus perdent le contrôle de leurs données personnelles, ce qui les expose à de graves préjudices », a-t-il écrit. « L'examen de ces risques est au cœur du rôle de l'ICO dans la protection des droits des personnes et la responsabilisation des organisations lorsqu'elles conçoivent et déploient la technologie de l'IA. »

Les actions en Europe sont les plus récentes dirigées contre X et Grok ; Le mois dernier, l'Ofcom, régulateur des médias basé au Royaume-Uni, a ouvert une enquête pour déterminer si X avait manqué à ses obligations en vertu de la loi sur la sécurité en ligne.

En janvier, à la suite d'une réaction internationale contre Grok, xAI a déclaré avoir restreint les capacités d'édition d'images du chatbot et bloqué certaines invites liées à la génération d'images de personnes.

Le raid de Paris intervient un jour après que Musk a annoncé que SpaceX avait acquis xAI, la startup d'intelligence artificielle qui avait précédemment absorbé X, plaçant la plateforme de médias sociaux et ses systèmes d'IA sous l'égide de SpaceX alors que le contrôle réglementaire s'intensifie.

« Nous sommes conscients du fait que X ou Grok proposent désormais un 'Mode épicé' affichant du contenu sexuel explicite avec certains résultats générés à partir d'images d'enfants », a déclaré le porte-parole de la Commission européenne, Thomas Regnier, lors d'une récente conférence de presse à Bruxelles. « Ce n'est pas épicé. C'est illégal. C'est épouvantable. C'est dégoûtant. Cela n'a pas sa place en Europe. »

SpaceX et xAI n'ont pas immédiatement répondu aux demandes de commentaires de Décrypter.