Microsoft a annoncé un partenariat avec StopNCII pour lutter contre le deepfake porn dans le moteur de recherche Bing.
Les outils de StopNCII permettent aux victimes de deepfake de créer une empreinte numérique d'images explicites sur leurs appareils. Les partenaires de l'organisation utilisent ensuite ce hachage pour supprimer le contenu de leurs plateformes.
StopNCII s'est déjà associé à Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub et OnlyFans.
Microsoft a déclaré avoir pris des mesures concernant 268 899 images explicites dans le cadre d'une collaboration pilote avec la base de données de l'organisation. L'entreprise avait auparavant utilisé un outil de signalement direct, mais cet effort s'est avéré insuffisant.
« Nous avons entendu les inquiétudes des victimes, des experts et d'autres parties prenantes selon lesquelles le signalement à lui seul ne suffit pas à avoir un impact ou à résoudre de manière adéquate le problème de l'accessibilité des images dans la recherche », a déclaré Microsoft dans un article de blog.
En juillet, Google a intensifié sa lutte contre le deepfake porn. Le moteur de recherche va exclure ce type de contenu des résultats et rétrograder les sites qui reçoivent beaucoup de plaintes. Si quelqu'un supprime une image de la recherche, les systèmes de Google analyseront et supprimeront automatiquement les doublons.
Le géant de la recherche a déjà été critiqué par d'anciens employés et victimes pour ne pas avoir coopéré avec StopNCII, rapporte Wired. Selon les médias, depuis 2020, les utilisateurs de Google en Corée du Sud ont signalé 170 000 liens vers des contenus sexuels inappropriés dans les requêtes de recherche et sur YouTube.
Le problème de la diffusion de contenus pornographiques deepfake est devenu plus aigu en raison du développement de l'intelligence artificielle, qui permet de générer ce type de contenu. Les outils de StopNCII ne fonctionnent que pour les personnes de plus de 18 ans, tandis que la technologie est également utilisée auprès des mineurs.
En septembre, les médias ont fait état de moyens permettant d’utiliser des versions personnalisées de ChatGPT pour créer du contenu pornographique.
En février, Vitalik Buterin a écrit un guide pour identifier les deepfakes.
Rappelons qu'en août, le bureau du procureur de la ville de San Francisco, David Chiu, a intenté une action en justice contre les propriétaires de 16 des plus grands sites Web du monde qui permettent aux femmes et aux filles présentes sur des photographies d'être « déshabillées » à l'aide de l'IA sans leur consentement.
Comment lutter contre le deepfake et le chantage, à lire sur ForkLog au format News+ :
Vous avez trouvé une erreur dans le texte ? Sélectionnez-la et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez au courant de l'actualité du secteur du bitcoin !
Voir l’article original en russe
