OpenAI a dévoilé un plan visant à renforcer la sécurité des enfants à une époque d'intelligence artificielle généralisée et d'utilisation abusive de la technologie.
L’initiative se concentre sur trois priorités clés :
- moderniser la législation pour lutter contre l’exploitation et la maltraitance des enfants créés et modifiés par l’IA ;
- améliorer les rapports et la coordination entre les prestataires de services pour soutenir des enquêtes plus efficaces ;
- mettre en œuvre des mesures de sécurité directement dans les systèmes d’IA dès la phase de conception pour prévenir et détecter les abus.
« Il ne sera pas possible de résoudre le problème avec des interventions ciblées. Ce concept rassemble des approches juridiques, opérationnelles et techniques pour mieux identifier les risques, accélérer les réponses et garantir la responsabilité, tout en garantissant les capacités des forces de l'ordre », a noté OpenAI.
Selon les représentants de l'entreprise, ces mesures permettront à l'industrie de résoudre les problèmes de sécurité plus tôt.
Le plan intègre les commentaires d'un certain nombre d'organisations et d'experts américains de premier plan dans le domaine de la protection des mineurs, notamment NCMEC et les bureaux des procureurs dans diverses juridictions.
« L'exploitation sexuelle des enfants est l'un des problèmes les plus urgents de l'ère numérique. L'intelligence artificielle change rapidement à la fois la manière dont ces crimes se produisent dans l'industrie et les méthodes de lutte contre eux dans tout le pays », a souligné l'entreprise.
Depuis mi-2025, OpenAI prend des mesures dans ce sens. La startup a déjà mis en place des mesures de contrôle parental qui surveillent et alertent sur les signaux dangereux dans le comportement d'un enfant.
L'entreprise a également introduit de nouvelles règles pour l'utilisation de services interdisant l'exploitation d'images d'enfants.
Rappelons qu'en septembre FTC a lancé une enquête sur sept entreprises technologiques qui produisent des chatbots pour mineurs. Ceux-ci incluent Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap et xAI.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !