Le président d'OpenAI, Greg Brockman, affirme dans un nouvel essai que la réponse aux piratages et aux agents en fuite réside dans davantage d'intelligence artificielle, et cite le piratage de Hugging Face par sa propre équipe comme preuve.
Faites de nous votre source préférée sur
gsoitsoitgjeet
OpenAI soutient que la réponse aux agents incontrôlés et aux cyberattaques n’est pas de freiner l’intelligence artificielle, mais d’utiliser davantage l’IA pour se défendre. Telle est la thèse centrale d'un nouvel essai signé par son président, Greg Brockman, qui s'engage en faveur d'une la cybersécurité avec l'IA plus agressif et automatisé comme seul moyen réaliste de devancer les attaquants.
Le texte, intitulé The Defender's Window, affirme qu'il existe une fenêtre critique dans laquelle les défenseurs des systèmes informatiques doivent intégrer des outils d'IA avant que les attaquants ne les utilisent à grande échelle. L’idée sous-jacente est inconfortable : si la technologie permet déjà de découvrir et d’exploiter plus rapidement les vulnérabilités, les défenseurs ne peuvent pas s’en tenir aux méthodes manuelles du passé.
Un hack personnel comme argument en faveur de la cybersécurité avec l'IA
Ce qui est frappant dans l’essai, c’est qu’OpenAI utilise un épisode mettant en vedette sa propre équipe pour illustrer ce point. Selon Brockman, les chercheurs de l'entreprise ont réussi à compromettre les systèmes de sécurité. Visage câlinl'une des plateformes les plus utilisées pour héberger et partager des modèles d'apprentissage automatique open source. L’exercice, conçu comme un test de sécurité, sert à démontrer ce que les outils offensifs basés sur l’IA peuvent réaliser lorsqu’ils sont utilisés contre une infrastructure réelle.
Le message qu’OpenAI tire de cette affaire est direct : si ses propres modèles peuvent trouver et exploiter efficacement les failles, tout acteur malveillant ayant accès à des capacités similaires pourrait faire de même. L’entreprise insiste donc sur le fait que les organisations doivent déployer des défenses automatisées capables de détecter, de corriger et de répondre à la même vitesse que celle à laquelle les attaques opèrent.
De la théorie à l'accès contrôlé
La proposition ne s'arrête pas au diagnostic. OpenAI accompagne l'essai avec une initiative appelée Trusted Access for Cyber, visant à donner accès à ses capacités de cybersécurité à un groupe sélectionné de défenseurs et de chercheurs. Cette approche cherche à équilibrer deux objectifs qui s’opposent souvent : mettre des outils puissants entre les mains de ceux qui protègent les systèmes, sans ouvrir la porte à ce que ces mêmes capacités finissent par alimenter l’arsenal des attaquants.
Le débat intervient à un moment où les agents dits IA – des programmes capables d’exécuter des tâches, de prendre des décisions et d’enchaîner des actions de manière autonome sans supervision constante – commencent à être intégrés dans les flux de travail des entreprises. Plus ils bénéficient d’autonomie, plus grand est le risque qu’un agent soit manipulé, se comporte de manière inattendue ou soit utilisé comme vecteur d’attaque. Brockman reconnaît ce danger, mais sa conclusion va dans le sens inverse de ceux qui demandent de ralentir le développement : il propose d'accélérer la partie défensive au lieu de contenir l'offensive.
Cette position a des implications qui vont bien au-delà des bureaux d'OpenAI. Dans le secteur des actifs numériques, où les piratages de ponts, de protocoles et de portefeuilles se chiffrent en milliards de dollars chaque année, la sécurité est une préoccupation constante. L'industrie a réagi avec des audits, des programmes de bug bounty et du matériel dédié, comme le montrent les nouveaux formats de portefeuilles matériels conçus pour l'utilisateur quotidien. L’automatisation défensive avec l’IA pourrait être ajoutée à cette gamme, même si cela soulève également la question de savoir ce qui se passe lorsque les deux camps disposent de la même technologie.
Une arme à double tranchant pour l’écosystème crypto
L'argument d'OpenAI résume une tension qui traverse l'ensemble de l'industrie technologique : les mêmes capacités qui permettent de protéger les systèmes permettent également de les violer. L'entreprise soutient que l'avantage devrait être du côté du défenseur, et que laisser ces outils hors de portée des équipes de sécurité n'élimine pas le risque, il le concentre seulement entre les mains de ceux qui ne respectent pas les règles.
Pour les sociétés de cryptographie, qui opèrent avec des systèmes exposés en permanence à Internet et offrent des incitations économiques directes aux attaquants, cette approche est particulièrement pertinente. Un contrat intelligent avec un bug non corrigé ou un agent autonome mal configuré peut entraîner des pertes immédiates et irréversibles. La promesse d’une défense fonctionnant à la vitesse d’une machine est séduisante ; Le problème est que la même vitesse est également disponible de l’autre côté.
Reste à savoir si la communauté de la sécurité acceptera le cadre proposé par OpenAI ou si les voix appelant à des limites plus strictes au déploiement d’agents autonomes prévaudront. Ce que l’essai montre clairement, c’est que la conversation ne porte plus sur l’opportunité d’utiliser l’IA dans la cybersécurité, mais plutôt sur qui contrôle l’accès et à quelle vitesse cette fenêtre d’avantage pour le défenseur se ferme.
Voir l’article original en espagnol
