Il existe des dizaines d'applications nudify dans les magasins d'applications Apple et Google qui vous permettent de prendre des photos de personnes et d'utiliser l'intelligence artificielle pour créer des images nues d'elles. Cela a été rapporté par les experts du TTP.
Lors de l'audit, les analystes ont trouvé 55 applications sur Google Play et 47 sur l'App Store. Ils ont contacté des représentants d'entreprises pour supprimer les services. Apple a supprimé 28 outils Nudify du magasin et a averti les développeurs de la possibilité que leurs produits soient supprimés s'ils enfreignaient les règles.
Deux applications ont ensuite été restaurées une fois tous les problèmes résolus.
Un porte-parole de Google a déclaré que la société avait suspendu plusieurs programmes. La Société mène des enquêtes après avoir reçu de tels rapports.
« Les deux sociétés disent se soucier de la sécurité des utilisateurs, mais elles hébergent dans leurs magasins des applications qui peuvent transformer une photo inoffensive d'une femme en une image sexuelle offensante », ont écrit les experts du TTP dans leur rapport.
Ils ont identifié les applications en recherchant les termes « nudify » et « undress » et les ont testées à l’aide d’images IA. Dans le cadre de l’expérimentation, deux types de services ont été analysés :
- ceux qui ont utilisé l’intelligence artificielle pour restituer des images de filles sans vêtements ;
- d'autres ont superposé des visages de personnes sur des photographies prises sur le vif.
« Il est clair qu'il ne s'agit pas simplement d'applications de « changement de vêtements ». Elles sont clairement conçues pour sexualiser les gens sans leur consentement », a déclaré la directrice du TTP, Katie Paul.
Les analystes ont rapporté que 14 programmes avaient été créés en Chine.
« Les lois chinoises sur la conservation des données signifient que le gouvernement a le droit d'accéder aux informations de n'importe quelle entreprise partout dans le pays. Ainsi, si quelqu'un a créé des deepfakes à votre image, ils sont désormais entre les mains des autorités », a ajouté Paul.
L'IA au détriment
L’intelligence artificielle a rendu plus facile que jamais le déshabillage des filles et la création de deepfake porn. En janvier, le chatbot Grok a fait scandale en raison d'une fonction similaire. L’entreprise a ensuite désactivé la génération d’images explicites de personnes réelles.
En août 2024, le bureau du procureur de la ville de San Francisco, David Chiu, a intenté une action en justice contre les propriétaires de 16 des plus grands sites Web au monde qui permettent à l'IA de « déshabiller » des femmes et des filles sur des photographies sans leur consentement.
Le document allègue des violations des lois étatiques et fédérales concernant la pornographie deepfake, la pornographie de vengeance et le matériel d'abus sexuel sur des enfants.
« L'IA générative est extrêmement prometteuse, mais comme pour toutes les nouvelles technologies, elle entraîne des conséquences inattendues et des criminels cherchent à exploiter la nouvelle technologie à leur propre avantage. Nous devons être clairs sur le fait qu'il ne s'agit pas d'innovation, mais de violence sexuelle », a déclaré Chiu.
Les sites impliqués dans l'affaire proposent des interfaces pratiques pour télécharger des photographies en vue de créer ultérieurement des versions pornographiques réalistes. Elles sont pratiquement impossibles à distinguer des images réelles et sont utilisées pour extorquer, intimider, menacer et humilier, indique le communiqué.
Rappelons qu'en septembre 2024, Microsoft avait annoncé un partenariat avec l'organisation StopNCII pour lutter contre le deepfake porn dans le moteur de recherche Bing.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !