OpenAI présente un projet de projet pour lutter contre les abus sexuels sur enfants générés par l'IA

Dans le but de lutter contre l'augmentation de l'exploitation sexuelle des enfants grâce à l'IA, OpenAI a publié mercredi un projet de politique décrivant les nouvelles garanties que l'industrie peut prendre pour aider à réduire l'utilisation de l'IA dans la création de matériel d'abus sexuels sur des enfants.

Dans ce cadre, OpenAI répertorie les mesures juridiques, opérationnelles et techniques visant à renforcer les protections contre les abus liés à l'IA et à améliorer la coordination entre les entreprises technologiques et les chercheurs.

« L'exploitation sexuelle des enfants est l'un des défis les plus urgents de l'ère numérique », écrit l'entreprise. « L’IA change rapidement à la fois la manière dont ces préjudices surviennent dans l’industrie et la manière dont ils peuvent être traités à grande échelle. »

OpenAI a noté que la proposition intègre les commentaires d'organisations travaillant sur la protection de l'enfance et la sécurité en ligne, telles que le Centre national pour les enfants disparus et exploités et l'Alliance des procureurs généraux et son groupe de travail sur l'IA.

« L'IA générative accélère le crime d'exploitation sexuelle des enfants en ligne de manière profondément troublante, en réduisant les obstacles, en augmentant l'ampleur et en permettant de nouvelles formes de préjudice », a déclaré Michelle DeLaune, présidente et directrice générale du National Center for Missing & Exploited Children. « Mais en même temps, le Centre national pour les enfants disparus et exploités est encouragé de voir des entreprises comme OpenAI réfléchir à la manière dont ces outils peuvent être conçus de manière plus responsable, avec des garanties intégrées dès le départ. »

OpenAI a indiqué que le cadre combine des normes juridiques, des systèmes de reporting industriel et des garanties techniques au sein de modèles d'IA. La société a ajouté que ces mesures visent à aider à identifier plus tôt les risques d’exploitation et à améliorer la responsabilité sur les plateformes en ligne.

Le projet identifie des domaines d'action, tels que la mise à jour des lois pour lutter contre les matériels d'abus sexuels sur enfants générés ou modifiés par l'IA, l'amélioration de la manière dont les fournisseurs en ligne signalent les signes d'abus et se coordonnent avec les enquêteurs, et l'intégration de garanties dans les systèmes d'IA conçus pour prévenir les abus.

« Aucune intervention seule ne peut relever ce défi », a écrit l'entreprise. « Ce cadre rassemble des approches juridiques, opérationnelles et techniques pour mieux identifier les risques, accélérer les réponses et soutenir la responsabilisation, tout en garantissant que les autorités chargées de l'application de la loi restent robustes à mesure que la technologie évolue. »

Le projet intervient à un moment où les défenseurs de la sécurité des enfants ont exprimé leurs inquiétudes quant au fait que des systèmes d’IA générative capables de produire des images réalistes pourraient être utilisés pour créer des représentations manipulées ou synthétiques de mineurs. En février, l’UNICEF a exhorté les gouvernements du monde entier à adopter des lois criminalisant les contenus pédopornographiques générés par l’IA.

En janvier, la Commission européenne a lancé une enquête formelle pour déterminer si

Notant que les lois à elles seules ne mettront pas fin au fléau des contenus abusifs générés par l’IA, OpenAI a indiqué que des normes industrielles plus strictes seront nécessaires à mesure que les systèmes d’IA deviendront plus performants.

« En perturbant plus tôt les tentatives d'exploitation, en améliorant la qualité des signaux envoyés aux forces de l'ordre et en renforçant la responsabilité dans l'ensemble de l'écosystème, ce cadre vise à prévenir les dommages avant qu'ils ne surviennent et à garantir une protection plus rapide des enfants lorsque des risques surviennent », a déclaré OpenAI.