Le bureau du procureur de la ville de San Francisco, David Chiu, a intenté une action en justice contre les propriétaires de 16 des plus grands sites Web du monde qui permettent à l'IA de « déshabiller » des femmes et des filles sur des photos sans leur consentement.
Le document allègue des violations des lois fédérales et étatiques concernant la pornographie deepfake, la pornographie de vengeance et le matériel d'abus sexuel d'enfants.
«[…] L’IA générative est très prometteuse, mais comme pour toutes les nouvelles technologies, elle peut avoir des conséquences imprévues et des criminels cherchent à exploiter la nouvelle technologie à leur propre profit. Il faut bien comprendre qu’il ne s’agit pas d’innovation, mais d’agression sexuelle. […] » dit Chiu.
Les sites Internet concernés par cette affaire proposent des interfaces conviviales permettant de télécharger des photos de femmes et de jeunes filles habillées pour créer des versions pornographiques réalistes. Elles sont pratiquement impossibles à distinguer des images réelles et sont utilisées pour extorquer, intimider, menacer et humilier, selon le communiqué.
Au total, les sites ont été visités plus de 200 millions de fois au premier semestre 2024. Certains d'entre eux autorisent uniquement les adultes à créer des photos, tandis que d'autres ne bloquent pas la demande lors du téléchargement d'images d'enfants.
Les autorités exigent la suppression des sites Web, des amendes et une injonction contre de futures activités illégales.
Google a déjà intensifié sa lutte contre le deepfake porn.
Rappelons qu’en février, Vitalik Buterin avait rédigé des instructions pour identifier les deepfakes.
Comment lutter contre le deepfake et le chantage, à lire sur ForkLog au format News+ :
Vous avez trouvé une erreur dans le texte ? Sélectionnez-la et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez au courant de l'actualité du secteur du bitcoin !
Voir l’article original en russe
