Les chercheurs mettent en garde contre les vers IA qui génèrent des attaques en temps réel et se reproduisent

Selon de nouvelles recherches, les progrès des agents d'IA pourraient ouvrir la porte à une nouvelle menace pour la cybersécurité : des vers informatiques adaptatifs capables de générer des stratégies d'attaque en temps réel et de se propager de manière autonome à travers les réseaux.

L'étude, réalisée par des chercheurs de l'Université de Toronto, du Vector Institute, de l'Université de Cambridge et de ServiceNow, décrit un ver alimenté par l'IA, développé comme preuve de concept, capable d'identifier les vulnérabilités, de concevoir des chemins d'attaque personnalisés, de compromettre les systèmes et de se répliquer sur un réseau tout en adaptant ses tactiques à différentes cibles.

« Nous devons nous préparer à des adversaires génératifs autonomes », écrivent les chercheurs. « Les systèmes malveillants se propagent sans opérateurs humains et ne sont pas définis par un code d'exploitation fixe, mais par la capacité de raisonner sur les cibles, de s'adapter aux observations et de synthétiser la logique d'attaque en temps réel. »

Un ver informatique est un malware auto-répliquant qui se propage automatiquement sur les réseaux vulnérables. Des épidémies de vers, telles que les logiciels malveillants ILOVEYOU en 2000 et WannaCry en 2017, ont infecté des millions d'ordinateurs dans le monde, perturbant les services critiques et causant des milliards de dollars de dégâts.

Récemment, le malware Shai-Hulud a démontré comment des attaques auto-propagées peuvent se propager en ligne, infectant les logiciels utilisés par de grandes entreprises telles qu'OpenAI et Mistral.

Selon la nouvelle étude, ce qui distingue ce ver basé sur l'IA des versions précédentes est sa capacité à s'adapter à différentes cibles, en utilisant un grand modèle linguistique (LLM) pour identifier les vulnérabilités et générer des stratégies d'attaque en temps réel, au lieu de s'appuyer sur un ensemble fixe d'exploits.

« Les vers traditionnels, tels que WannaCry, exploitaient des vulnérabilités prédéterminées et leur propagation pourrait être stoppée en corrigeant ces vulnérabilités », ont-ils noté. « Nous démontrons ici que les agents IA génèrent une menace fondamentalement nouvelle : un ver qui génère des stratégies d'attaque personnalisées pour chaque cible qu'il rencontre. »

Dans l'étude, l'équipe a testé le ver sur un réseau virtuel isolé contenant 33 systèmes Linux, Windows et IoT présentant des vulnérabilités communes. Au cours de 15 expériences, le ver a identifié en moyenne 31,3 vulnérabilités, a réussi à compromettre 23,1 hôtes et s'est propagé sur environ 20 machines pendant sept jours de fonctionnement autonome.

Lors de certains tests, le malware a réussi à atteindre sept générations d’auto-réplication et, contrairement à de nombreuses applications d’IA, ne reposait pas sur l’accès aux services d’IA dans le cloud.

Au lieu de s'appuyer sur l'infrastructure cloud de fournisseurs tels qu'AWS, Microsoft Azure ou Google Cloud, le malware a exécuté des modèles d'IA directement sur les machines compromises. Au fur et à mesure de leur propagation, les systèmes infectés sont effectivement devenus partie intégrante de votre infrastructure informatique.

Les chercheurs ont également découvert que le système pouvait exploiter les vulnérabilités révélées après l'interruption de la formation du modèle en incorporant des avis de sécurité récemment publiés au moment de l'exécution, lui permettant ainsi d'intégrer des informations qui ne faisaient pas partie des données de formation d'origine du modèle.

Bien que les tests aient été menés dans un environnement contrôlé, les auteurs ont reconnu la nature à double usage du travail et ont intentionnellement omis certains détails techniques afin de réduire le risque d'utilisation abusive.

« Avant de publier cette prépublication, nous avons édité le manuscrit pour nous assurer que la présentation de notre méthode équilibre le niveau de détail nécessaire pour que la communauté étudie cette nouvelle menace avec le risque qu'un acteur malveillant utilise notre méthode pour créer des logiciels malveillants », ont-ils déclaré.

Cependant, les chercheurs ont noté que le projet cherche à mieux comprendre les risques posés par les vers informatiques adaptatifs et à fournir des preuves de l'avancée des cybercapacités basées sur l'IA.

« Faire face à cette menace nécessitera donc une action coordonnée entre les communautés de la recherche, de la sécurité, de l'industrie et des politiques : des cadres d'évaluation qui testent les capacités au niveau de l'environnement, des systèmes de détection adaptés aux signatures comportementales des agents autonomes et des mesures réglementaires qui prennent en compte la nature décentralisée de l'inférence de modèle avec des poids ouverts », ont-ils écrit.