En résumé
- Un rapport de Graphika a révélé une augmentation alarmante de la pratique du « déshabillage IA », où des outils d’intelligence artificielle sont utilisés pour retirer les vêtements des images téléchargées par les utilisateurs.
- Les nouveaux outils ont entraîné une augmentation de 2 408 % de la création d’images intimes non consensuelles en 2023, soulevant des inquiétudes concernant le harcèlement, l’extorsion et la création éventuelle de matériel d’abus sexuel sur des enfants.
- La communauté Twitch a été secouée par l’utilisation de deepfakes pornographiques générés par l’IA, lorsque l’animateur Brandon « Atrioc » Ewing a admis avoir vu ce type de contenu provenant de streameuses féminines.
Le fléau de la création malveillante de deepfakes s’est propagé bien au-delà du domaine des célébrités et des personnalités publiques, et un rapport sur les images intimes non consensuelles (NCII) révèle que cette pratique ne fait que croître à mesure que les générateurs d’images évoluent et se généralisent. ils se multiplient.
Le « déshabillage IA » est en hausse, selon un rapport de la société d’analyse des médias sociaux Graphika, qui décrit cette pratique comme l’utilisation d’outils d’IA générative perfectionnés pour supprimer les vêtements des images téléchargées par les utilisateurs.
La communauté des jeux et du streaming sur Twitch a été aux prises avec le problème début janvier 2023 lorsque l’éminent animateur Brandon « Atrioc » Ewing a accidentellement révélé qu’il avait regardé des deepfakes pornographiques générés par l’IA de streameuses qu’il appelait ses amies, selon un rapport de Kotaku.
Ewing est revenu sur la plate-forme en mars, plein de remords et rendant compte des semaines de travail qu’il avait accomplies pour atténuer les dégâts qu’il avait causés. Mais l’incident a ouvert les vannes à toute une communauté en ligne.
Le rapport de Graphika montre que l’incident n’était qu’une goutte d’eau dans l’océan.
« En utilisant les données fournies par Meltwater, nous avons mesuré le nombre de commentaires et de publications sur Reddit et X contenant des liens de référence vers 34 sites Web et 52 chaînes Telegram proposant des services synthétiques NCII », a écrit Santiago Lakatos, analyste du renseignement chez Graphika. « Ceux-ci étaient au nombre de 1.280 en 2022 contre plus de 32.100 jusqu’à présent cette année. [2023]ce qui représente une augmentation de 2 408 % du volume d’une année sur l’autre. »
Graphika, basée à New York, affirme que l’explosion du NCII montre que les outils sont passés du stade de discussion dans des forums de niche à celui d’une industrie émergente.
« Ces modèles permettent à davantage de fournisseurs de créer facilement et à moindre coût des NCII photoréalistes à grande échelle », a déclaré Graphika. « Sans ces fournisseurs, leurs clients devraient héberger, maintenir et exécuter leurs propres modèles de diffusion d’images personnalisés, un processus long et parfois coûteux. »
Graphika prévient que la popularité croissante des outils de suppression d’IA pourrait conduire non seulement à la création de faux matériels pornographiques, mais également au harcèlement ciblé, à l’extorsion sexuelle et à la génération de matériels d’abus sexuels sur des enfants (CSAM).
Selon le rapport Graphika, les développeurs de ces types d’outils font de la publicité sur les réseaux sociaux pour diriger les utilisateurs potentiels vers leurs sites Web, leurs chats Telegram privés ou leurs serveurs Discord où les outils peuvent être trouvés.
« Certains prestataires sont explicites dans leurs activités, prétendant offrir des services de ‘déshabillage’ et publiant des photos de personnes qu’ils prétendent avoir ‘déshabillées’ comme preuve », a écrit Graphika. « D’autres sont moins explicites, se présentant comme des services d’art IA ou des galeries de photos Web3, mais incluent des termes clés associés au NCII synthétique dans leurs profils et publications. »
Bien que ces types d’outils d’IA se concentrent généralement sur les images nues, ils ont également été utilisés pour créer de fausses vidéos utilisant les ressemblances de célébrités, notamment la personnalité de YouTube, M. Beast, et l’acteur emblématique d’Hollywood, Tom Hanks.
Certains acteurs comme Scarlett Johansson et l’acteur indien Anil Kapoor se tournent vers le système juridique pour lutter contre la menace persistante des deepfakes de l’IA. Cependant, même si les artistes traditionnels reçoivent davantage d’attention médiatique, les artistes adultes affirment que leur voix est rarement entendue.
« C’est vraiment difficile », a déclaré Tanya Tate, artiste adulte légendaire et responsable des relations publiques de Star Factory, à Decrypt. « Si quelqu’un appartient au courant dominant, c’est probablement beaucoup plus facile. »
Même sans l’essor de l’intelligence artificielle et de la technologie deepfake, Tate a expliqué que les réseaux sociaux regorgent déjà de faux comptes utilisant son image et son contenu. La stigmatisation continue à laquelle sont confrontées les travailleuses du sexe, les obligeant, elles et leurs partisans, à rester dans l’ombre n’aide pas.
En octobre 2023, la société britannique de surveillance Internet Internet Watch Foundation (IWF), dans un rapport distinct, a noté que plus de 20 254 images de maltraitance d’enfants avaient été trouvées sur un seul forum du Dark Web en seulement un mois. L’IWF a averti que la pédopornographie générée par l’intelligence artificielle pourrait « submerger » Internet.
Grâce aux progrès dans la génération d’images générées par l’IA, l’IWF prévient que la pornographie deepfake a progressé au point où il est devenu de plus en plus complexe de faire la distinction entre les images générées par l’IA et les images authentiques, conduisant les forces de l’ordre à chasser les fantômes en ligne au lieu des véritables victimes d’abus. .
« Il y a donc cette chose en cours à laquelle vous ne pouvez pas faire confiance, que les choses soient réelles ou non », a déclaré Dan Sexton, directeur technique de l’Internet Watch Foundation. Décryptert. « Les outils qui nous diront si des photos ou des vidéos sont réelles ou non ne sont pas crédibles à 100 %, et par conséquent, vous ne pouvez pas non plus leur faire confiance. »
Quant à Ewing, Kotaku a rapporté que le streamer était revenu en disant qu’il travaillait avec des journalistes, des technologues, des chercheurs et des femmes touchées par l’incident depuis sa transgression en janvier 2023. Ewing a également déclaré avoir envoyé des fonds au cabinet d’avocats de Ryan Morrison, Morrison Cooper, basé à Los Angeles. Angeles, pour fournir des services juridiques à toutes les femmes de Twitch qui avaient besoin de leur aide pour émettre des avis de retrait des sites qui publiaient des images d’elles.
Ewing a ajouté qu’il avait reçu des enquêtes sur la profondeur du problème des deepfakes de la part de la mystérieuse chercheuse Geneviève Oh.
« J’ai essayé de trouver les « points positifs » dans la lutte contre ce type de contenu », a déclaré Ewing.
Edité par Ryan Ozawa.
Restez au courant de l’actualité crypto, recevez des mises à jour quotidiennes dans votre boîte de réception.
Voir l’article original en espagnol
