Rassemblez-vous, hackers chapeau blanc du monde entier : OpenAI vous appelle.
Présentant son dernier projet, le créateur de ChatGPT et Dall-e lance un programme de subventions de cybersécurité de 1 million de dollars pour piloter et quantifier l’efficacité des capacités de cybersécurité alimentées par l’IA.
Ce n’est un secret pour personne qu’OpenAI a toujours insisté sur la nécessité d’une réglementation de l’IA pour empêcher les applications malveillantes potentielles. L’impact de la technologie de l’IA entre les mains des criminels, qui ont tout créé, des deepfakes aux logiciels malveillants, a rendu l’appel aux armes de plus en plus critique. C’est une course aux armements numériques, et OpenAI essaie de s’assurer que les gentils ne sont pas laissés pour compte.
OpenAI a proposé un certain nombre d’idées de projets intéressantes : du développement de pots de miel pour piéger les attaquants, en passant par l’aide aux développeurs pour créer des logiciels sécurisés dès la conception, en passant par la rationalisation des processus de gestion des correctifs.
Les aspirations du programme sont limpides : « Notre objectif est de faciliter le développement de capacités de cybersécurité alimentées par l’IA pour les défenseurs grâce à des subventions et d’autres formes de soutien », déclare OpenAI dans son article de blog officiel. Il s’agit de quantifier l’efficacité de ces modèles d’IA et de comprendre comment augmenter leurs prouesses en matière de cybersécurité.
Cette initiative de pointe cherche à atteindre trois objectifs principaux : premièrement, elle vise à « autonomiser les défenseurs ». OpenAI a déclaré vouloir exploiter la puissance de l’IA et la coordination de personnes partageant les mêmes idées pour faire pencher la balance en faveur de ceux qui travaillent à améliorer la sécurité collective.
Deuxièmement, à l’ordre du jour, il y a « la mesure des capacités ». OpenAI veut soutenir les développements qui travaillent sur des méthodes de quantification pour mesurer l’efficacité des modèles d’IA en cybersécurité.
Enfin, OpenAI a déclaré vouloir également « élever le discours », encourageant des discussions nuancées sur l’intersection de l’IA et de la cybersécurité.
Ce mouvement remet en question la vision traditionnelle de la cybersécurité. OpenAI a souligné la pertinence de l’adage selon lequel vous devez avoir raison 100 % du temps, les attaquants n’ont besoin d’avoir raison qu’une seule fois », mais ils voient la valeur inhérente de la coordination vers un objectif commun de protection des personnes. Ils se battent pour prouver que, armés d’IA, les défenseurs peuvent retourner le script.
Décrypter n’a pas pu trouver d’informations sur une startup ou un développeur qui a déjà demandé une subvention.