L'UNICEF exhorte à criminaliser les abus sexuels sur enfants avec l'IA après 1,2 million de victimes de Deepfakes

L'UNICEF a appelé mercredi de toute urgence les gouvernements à criminaliser les images d'abus sexuels sur enfants générées par l'IA, citant des preuves alarmantes selon lesquelles au moins 1,2 million d'enfants dans le monde ont vu leurs images manipulées pour devenir des deepfakes sexuellement explicites l'année dernière.

Les chiffres, révélés dans Disrupting Harm Phase 2, un projet de recherche dirigé par le Bureau des preuves et de la stratégie Innocenti de l'UNICEF, ECPAT International et INTERPOL, montrent que dans certains pays, ce chiffre représente un enfant sur 25, l'équivalent d'un enfant dans une classe typique, selon un communiqué publié mercredi et un document d'information qui l'accompagne.

La recherche, basée sur une enquête représentative au niveau des ménages auprès d'environ 11 000 enfants dans 11 pays, met en évidence comment les agresseurs peuvent désormais créer des images sexuelles réalistes d'un enfant sans leur participation ou sans qu'ils le sachent.

Dans certains pays de l’étude, jusqu’à deux tiers des personnes interrogées se disent préoccupées par le fait que l’IA pourrait être utilisée pour créer de fausses images ou vidéos sexuelles d’elles, bien que les niveaux d’inquiétude varient considérablement d’un pays à l’autre, selon les données.

« Nous devons être clairs. Les images sexualisées d'enfants générées ou manipulées à l'aide d'outils d'IA constituent du matériel pédophile (CSAM) », a déclaré l'UNICEF. « Les abus des deepfakes sont des abus, et il n'y a rien de faux dans les dommages qu'ils causent. »

L'appel devient urgent alors que les autorités françaises ont perquisitionné mardi les bureaux parisiens de X dans le cadre d'une enquête pénale sur des allégations de pédopornographie liée au chatbot IA de la plateforme, Grok, les procureurs ayant convoqué Elon Musk et plusieurs dirigeants pour les interroger.

Un rapport du Centre de lutte contre la haine numérique publié le mois dernier estime que Grok a produit 23 338 images sexualisées d'enfants sur une période de 11 jours entre le 29 décembre et le 9 janvier.

Le document d'information publié en même temps que la déclaration note que ces développements marquent « une profonde escalade des risques auxquels les enfants sont confrontés dans l'environnement numérique », où un enfant peut voir son droit à la protection violé « sans même envoyer de message ni même savoir que cela s'est produit ».

L'Internet Watch Foundation du Royaume-Uni a signalé près de 14 000 images suspectes générées par l'IA sur un seul forum du dark web en un mois, dont environ un tiers ont été confirmées comme criminelles, tandis que les autorités sud-coréennes ont signalé une multiplication par dix des crimes sexuels liés à l'IA et des deepfakes entre 2022 et 2024, la majorité des suspects étant identifiés comme des adolescents.

L’organisation a appelé de toute urgence tous les gouvernements à élargir les définitions du matériel pédopornographique pour inclure le contenu généré par l’IA et à criminaliser sa création, son acquisition, sa possession et sa distribution.

L'UNICEF a également exigé que les développeurs d'IA mettent en œuvre des approches de sécurité dès la conception et que les entreprises numériques empêchent la circulation de ce type de matériel.

Le document appelle les États à exiger des entreprises qu'elles fassent preuve de diligence raisonnable en matière de droits de l'enfant, en particulier des évaluations d'impact sur les droits de l'enfant, et à ce que chaque acteur de la chaîne de valeur de l'IA intègre des garanties, y compris des tests de sécurité préalables à la publication pour les modèles open source.

« Les méfaits des abus des deepfakes sont réels et urgents », a averti l'UNICEF. « Les enfants ont hâte que la loi les rattrape. »

La Commission européenne a lancé le mois dernier une enquête formelle pour déterminer si X avait violé les règles numériques de l'UE en ne parvenant pas à empêcher Grok de générer du contenu illégal, tandis que les Philippines, l'Indonésie et la Malaisie ont interdit Grok, et les régulateurs du Royaume-Uni et d'Australie ont également ouvert des enquêtes.