En résumé
- Des responsables du groupe de travail ICAC au Nouveau-Mexique ont déclaré que les systèmes d'IA de Meta génèrent chaque mois des milliers de rapports inutilisables.
- Les cyber-informations reçues par le ministère ont doublé entre 2024 et 2025, rendant difficile l'enquête sur les cas d'exploitation d'enfants.
- Les experts soulignent que le remplacement des modérateurs humains par l’IA provoque une surabondance de faux positifs qui submerge les chercheurs.
L'utilisation par Meta de l'intelligence artificielle pour contrôler ses plateformes génère de grands volumes de rapports de mauvaise qualité qui épuisent les ressources et ralentissent les enquêtes sur la maltraitance des enfants, selon un rapport. rapport de Le Gardien.
Cette nouvelle intervient après que les responsables de l'application des lois du Nouveau-Mexique ont témoigné la semaine dernière que les rapports générés par l'intelligence artificielle accablaient les enquêteurs et ralentissaient les affaires d'exploitation d'enfants.
Les responsables du programme Internet Crimes Against Children Task Force ont spécifiquement cité les systèmes automatisés de Meta, affirmant qu'ils génèrent chaque mois des milliers de conseils inutilisables qui sont envoyés aux autorités.
« Nous recevons beaucoup de conseils de Meta qui sont plutôt nuls », a témoigné Benjamin Zwiebel, un agent spécial du groupe de travail ICAC au Nouveau-Mexique, lors du procès de l'État contre l'entreprise.
Un autre responsable de l'ICAC, qui s'est exprimé sous couvert d'anonymat, a déclaré Tuteur que les cyberconseils départementaux ont doublé entre 2024 et 2025.
« C'est assez accablant parce que nous recevons tellement de rapports, mais la qualité des rapports manque vraiment de notre capacité à prendre des mesures sérieuses », ont-ils déclaré.
Dans une déclaration partagée avec Décrypter, Un porte-parole de Meta a déclaré que la société coopérait depuis longtemps avec les autorités chargées de l'application des lois et a noté que le ministère de la Justice et le Centre national pour les enfants disparus et exploités avaient salué son processus de signalement.
« En 2024, nous avons reçu plus de 9 000 demandes d'urgence des autorités américaines et les avons résolues en 67 minutes en moyenne et encore plus rapidement pour les cas impliquant la sécurité des enfants et le suicide », a déclaré le porte-parole.
« Conformément à la loi applicable, nous signalons également les images apparentes d'exploitation sexuelle d'enfants au NCMEC et les aidons à hiérarchiser les rapports, depuis l'aide à la construction de leur outil de gestion de cas jusqu'à l'étiquetage des cyber-informations afin qu'ils sachent lesquelles sont urgentes », ont-ils ajouté.
Cependant, les responsables de l'ICAC ont déclaré que certains des rapports soumis par Meta ne sont pas de nature pénale, tandis que d'autres manquent des preuves crédibles nécessaires pour poursuivre une affaire.
L'augmentation fait suite à Loi sur les rapportsqui a été promulguée en mai 2024 et a élargi les exigences de déclaration pour inclure les abus planifiés ou imminents, l'exploitation sexuelle des enfants et la traite des êtres humains qui y est associée, tout en obligeant les entreprises à conserver les preuves plus longtemps.
Le coût humain des faux positifs
Meta reste la plus grande source de rapports sur CyberTipline du NCMEC, représentant environ les deux tiers des 20,5 millions de pourboires reçus en 2024, contre 36,2 millions en 2023. Cette baisse a été attribuée en partie aux changements dans les pratiques de reporting de Meta.
Dans son rapport d’intégrité d’août 2025But a déclaré que Facebook, Instagram et Threads ont soumis plus de 2 millions de rapports CyberTip au NCMEC au deuxième trimestre 2025. Parmi ceux-ci, plus de 528 000 impliquaient des interactions inappropriées avec des enfants, tandis que plus de 1,5 million impliquaient le partage ou le repartage de matériel d'abus sexuel sur des enfants.
Malgré ces chiffres, JB Branch, défenseur des politiques chez Public Citizen, a déclaré que le recours accru à l'intelligence artificielle a rendu la Reporting Act moins efficace pour les enquêteurs examinant les cas, arguant que même si les algorithmes ont contribué à réduire la charge de travail des modérateurs, les examinateurs humains étaient le filtre le plus efficace.
« Une partie du problème ici réside dans le fait que beaucoup de ces entreprises technologiques ont licencié leurs modérateurs de contenu et les ont remplacés par des rôles de sécurité basés sur l'IA », a déclaré Branch. Décrypter. « En conséquence, il y a une surabondance de faux positifs sélectionnés avec beaucoup de prudence. »
Dans le passé, a déclaré Branch, il y avait généralement plus d'évaluateurs humains dans la chaîne d'évaluation, capables d'identifier et de supprimer le contenu qui ne justifiait pas une escalade.
« Comme ces entreprises ont retiré de la chaîne les modérateurs ou les réviseurs de contenu humain, beaucoup plus de choses sont approuvées parce qu'elles veulent pécher par excès de prudence », a-t-il déclaré. « En gros, ils ratissent large et capturent des choses qui ne sont même pas admissibles, et ils s'appuient beaucoup sur les outils d'intelligence artificielle pour le faire. »
Les chercheurs affirment que l’impact des conseils générés par une IA défectueuse se fait désormais sentir au sein des groupes de travail qui les examinent.
« Cela tue le moral. Nous sommes noyés sous les conseils et nous voulons sortir et faire ce travail », aurait déclaré un responsable de l'ICAC. « Nous n'avons pas le personnel nécessaire pour soutenir cela. Nous ne pouvons en aucun cas faire face à l'assaut qui s'annonce. »
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.