OpenAI alloue 1 million de dollars à la cybersécurité de l’IA

OpenAI a mis en place un programme de subventions d’un million de dollars dans le domaine des technologies de cybersécurité basées sur l’intelligence artificielle (IA).

L’objectif principal de l’initiative est de changer l’approche de la sécurité dans l’espace en ligne « grâce à l’utilisation de l’IA et à la coordination de personnes partageant les mêmes idées ».

Selon l’annonce, la Fondation OpenAI versera 10 000 $ aux projets qui soumettront leurs idées et seront sélectionnés.

L’entreprise a identifié trois domaines principaux :

• autonomiser les défenseurs grâce à l’introduction d’outils basés sur l’IA ;
• des solutions d’évaluation de l’efficacité des technologies de cybersécurité pour améliorer leurs capacités ;
• des discussions stimulantes autour de la sécurité de l’IA.

« Alors que les attaquants sont confrontés à moins de restrictions et profitent de leur flexibilité, les défenseurs ont quelque chose de plus précieux : la coordination pour atteindre un objectif commun dans l’intérêt de la sécurité des personnes », a déclaré la société.

OpenAI a également proposé ses idées de projets possibles :

• collecte, analyse et tri de données sur la cybercriminalité;
• mécanismes d’étude de l’ingénierie sociale;
• automatiser les correctifs de vulnérabilité ;
• création d' »appâts » pour les malfaiteurs ;
• Détection de logiciels malveillants par IA ;
• créer un logiciel sécurisé pour écrire et publier du code.

Auparavant, le chef de l’entreprise, Sam Altman, avait appelé le Congrès américain à réglementer l’intelligence artificielle. L’homme d’affaires a proposé la création d’une nouvelle agence d’intelligence artificielle qui s’occuperait de la délivrance et du retrait des licences pour le développement de ces technologies.

Rappelons qu’en mai, le vice-président américain Kamala Harris a tenu une réunion avec Altman et d’autres dirigeants de géants de la technologie, où ils ont discuté des risques de l’intelligence artificielle.

Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL + ENTRÉE