La société d’analyse des médias sociaux Graphika a déclaré que l’utilisation du « déshabillage IA » était en augmentation.
Cette pratique consiste à utiliser des outils d’intelligence artificielle (IA) générative ajustés avec précision pour éliminer les vêtements des images fournies par les utilisateurs.
Selon son rapport, Graphika a mesuré le nombre de commentaires et de publications sur Reddit et X contenant des liens de référence vers 34 sites Web et 52 chaînes Telegram fournissant des services synthétiques NCII, et il s’est élevé à 1 280 en 2022, contre plus de 32 100 jusqu’à présent cette année, soit 2 408. % d’augmentation du volume d’une année sur l’autre.
Les services synthétiques NCII font référence à l’utilisation d’outils d’intelligence artificielle pour créer des images intimes non consensuelles (NCII), impliquant souvent la génération de contenu explicite sans le consentement des individus représentés.
Graphika déclare que ces outils d’IA permettent de générer du contenu explicite réaliste à grande échelle plus facilement et de manière rentable pour de nombreux fournisseurs.
Sans ces fournisseurs, les clients auraient à gérer eux-mêmes leurs modèles de diffusion d’images personnalisés, ce qui prend du temps et peut s’avérer coûteux.
Graphika prévient que l’utilisation croissante des outils de déshabillage de l’IA pourrait conduire à la création de faux contenus explicites et contribuer à des problèmes tels que le harcèlement ciblé, la sextorsion et la production de matériel pédopornographique (CSAM).
Alors que les IA de déshabillage se concentrent généralement sur les images, l’IA a également été utilisée pour créer des vidéos deepfakes à l’effigie de célébrités, notamment la personnalité de YouTube, M. Beast, et l’acteur hollywoodien Tom Hanks.
En rapport: Microsoft fait face à une enquête antitrust au Royaume-Uni sur la structure de l’accord OpenAI
Dans un rapport distinct publié en octobre, l’Internet Watch Foundation (IWF), société de surveillance de l’Internet basée au Royaume-Uni, a indiqué avoir trouvé plus de 20 254 images de maltraitance d’enfants sur un seul forum du Dark Web en seulement un mois. L’IWF a averti que la pédopornographie générée par l’IA pourrait « submerger » Internet.
En raison des progrès de l’imagerie générative par l’IA, l’IWF prévient qu’il est devenu plus difficile de faire la distinction entre la pornographie deepfake et les images authentiques.
Dans un rapport du 12 juin, les Nations Unies ont qualifié les médias générés par l’intelligence artificielle de menace « sérieuse et urgente » pour l’intégrité de l’information, en particulier sur les réseaux sociaux. Les négociateurs du Parlement européen et du Conseil se sont mis d’accord vendredi 8 décembre sur les règles régissant l’utilisation de l’IA dans l’Union européenne.
Revue: Cas d’utilisation réels de l’IA en crypto : marchés de l’IA basés sur la cryptographie et analyse financière de l’IA
Voir l’article original en anglais
