L’UE a proposé d’interdire les contenus violents d’IA avec des enfants

L’UE a proposé d’interdire les contenus violents d’IA avec des enfants

Evil_AI-min

La Commission européenne envisage de criminaliser les images générées par l’IA et les deepfakes illustrant des abus sexuels sur des enfants (CSA).

Le projet de loi criminalise la diffusion de contenus abusant des mineurs. Le document implique l’introduction d’une nouvelle infraction pénale.

Les nouvelles dispositions pénalisent le stockage et l’échange de « guides pédophiles » pour la création de matériel CSA à l’aide de réseaux de neurones. La proposition mentionne également des chatbots d’intelligence artificielle anonymes utilisés à ces fins.

« La menace d’abus est réelle et a augmenté dans toute l’UE. Par exemple, des guides destinés aux pédophiles continuent de paraître en ligne, indiquant une menace accrue pour les groupes les plus vulnérables de la population. La présence d’enfants en ligne et les innovations technologiques créent de nouvelles opportunités d’abus. Rien qu’en 2022, 1,5 million de rapports CSA ont été enregistrés dans l’Union européenne », a indiqué le département dans un communiqué.

Pour mettre en œuvre cette initiative, la Commission européenne a l’intention de modifier la loi pertinente de 2011. Toutefois, la décision finale sur les règles proposées sera prise par le Parlement européen et le Conseil européen.

Ces mesures font partie d’un ensemble plus large visant à prévenir les abus sexuels sur les enfants, à sensibiliser aux risques en ligne, à faciliter le signalement des crimes et à fournir un soutien gouvernemental, y compris le droit à une compensation financière.

Auparavant, la société britannique de surveillance de l’Internet, Internet Watch Foundation, avait signalé la propagation rapide de matériels d’IA contenant des abus sexuels sur des enfants. Selon le rapport des chercheurs, plus de 20 254 images CSA ont été trouvées sur un forum du darknet en seulement un mois.

Rappelons qu’en mai 2023, l’un des pionniers du secteur, Geoffrey Hinton, mettait en garde contre les menaces potentielles liées à l’IA. Auparavant, l’ancien PDG de Google, Eric Schmidt, avait déclaré que la technologie posait un « risque existentiel » qui pourrait faire de nombreuses personnes « blessées ou tuées ».

Abonnez-vous à ForkLog sur les réseaux sociaux

Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE

Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !



Voir l’article original en russe

Amazon music unlimited
Rejoignez dès maintenant Amazon Music Unlimited et plongez dans un univers de 100 millions de titres sans publicité. Profitez de 30 jours d’essai gratuit pour une expérience musicale inégalée !