L’UE a proposé d’interdire les contenus violents d’IA avec des enfants

La Commission européenne envisage de criminaliser les images générées par l’IA et les deepfakes illustrant des abus sexuels sur des enfants (CSA).

Les abus sexuels sur enfants sont un crime odieux qui a considérablement évolué ces dernières années.

Aujourd’hui, nous adoptons une proposition visant à mettre à jour les règles de droit pénal concernant les abus sexuels et l’exploitation sexuelle des enfants.

En savoir plus → https://t.co/mtz68GuEJJ#SécuritéUE pic.twitter.com/QF7TsFX7cy

– Commission européenne (@EU_Commission) 6 février 2024

Le projet de loi criminalise la diffusion de contenus abusant des mineurs. Le document implique l’introduction d’une nouvelle infraction pénale.

Les nouvelles dispositions pénalisent le stockage et l’échange de « guides pédophiles » pour la création de matériel CSA à l’aide de réseaux de neurones. La proposition mentionne également des chatbots d’intelligence artificielle anonymes utilisés à ces fins.

« La menace d’abus est réelle et a augmenté dans toute l’UE. Par exemple, des guides destinés aux pédophiles continuent de paraître en ligne, indiquant une menace accrue pour les groupes les plus vulnérables de la population. La présence d’enfants en ligne et les innovations technologiques créent de nouvelles opportunités d’abus. Rien qu’en 2022, 1,5 million de rapports CSA ont été enregistrés dans l’Union européenne », a indiqué le département dans un communiqué.

Pour mettre en œuvre cette initiative, la Commission européenne a l’intention de modifier la loi pertinente de 2011. Toutefois, la décision finale sur les règles proposées sera prise par le Parlement européen et le Conseil européen.

Ces mesures font partie d’un ensemble plus large visant à prévenir les abus sexuels sur les enfants, à sensibiliser aux risques en ligne, à faciliter le signalement des crimes et à fournir un soutien gouvernemental, y compris le droit à une compensation financière.

Auparavant, la société britannique de surveillance de l’Internet, Internet Watch Foundation, avait signalé la propagation rapide de matériels d’IA contenant des abus sexuels sur des enfants. Selon le rapport des chercheurs, plus de 20 254 images CSA ont été trouvées sur un forum du darknet en seulement un mois.

Rappelons qu’en mai 2023, l’un des pionniers du secteur, Geoffrey Hinton, mettait en garde contre les menaces potentielles liées à l’IA. Auparavant, l’ancien PDG de Google, Eric Schmidt, avait déclaré que la technologie posait un « risque existentiel » qui pourrait faire de nombreuses personnes « blessées ou tuées ».