- Des chercheurs ont testé le premier virus informatique IA.
- Le ver Morris II découvre des vulnérabilités dans le fonctionnement de LLM en accédant aux données.
- Il n’y a pas encore eu de véritables attaques, mais les entreprises devraient s’y préparer.
Les développeurs commencent de plus en plus à réfléchir aux risques cachés dans le domaine de l’intelligence artificielle. L’un d’eux est l’émergence de virus de réseaux neuronaux capables de voler ou de corrompre les données d’autrui.
Les chercheurs sont bien conscients que l’apparition de tels vers étant possible, il vaut la peine de s’y préparer. Les spécialistes de la sécurité de l’information ont créé un virus dans un environnement de test qui peut se propager automatiquement entre les agents IA, copiant des informations cachées et envoyant des courriers indésirables.
1988 : Morris Ier
Le ver Morris ou ver Internet est l’un des virus informatiques les plus anciens répandus sur Internet.
Il est célèbre pour avoir conduit à la première condamnation aux États-Unis pour violation du Computer Fraud and Abuse Act. Morris doit son nom à son auteur, Robert Tappan Morris, étudiant diplômé de l’Université Cornell. Le virus a été lancé le 2 novembre 1988 à partir du réseau du Massachusetts Institute of Technology.
La Cour d’appel des États-Unis a estimé le coût de la suppression du virus de chaque ordinateur infecté entre 200 000 et 53 000 dollars. Sur la base de ces chiffres, le Government Accountability Bureau a indiqué que la perte économique totale se situait entre 100 000 et 10 000 000 dollars.
L’incident a démontré les dangers de l’utilisation d’un seul système d’exploitation, car « si tous les systèmes de l’ARPANET fonctionnaient sous Berkeley Unix, un virus en éliminerait les 50 000 ».
2024 : Morris II
Des chercheurs de l’Université Cornell, de l’Institut israélien de technologie et d’Intuit ont créé un nouveau type de malware appelé Morris II. Il s’agit du premier ver IA nommé d’après le célèbre virus informatique du siècle dernier.
Selon les développeurs, Morris II peut exploiter les failles de sécurité des modèles d’IA tels que ChatGPT et Gemini.
« Cela signifie qu’il existe une opportunité de mener ou de réaliser un nouveau type de cyberattaque que personne n’a jamais rencontré », a expliqué l’un des chercheurs, Ben Nassi.
La plupart des modèles d’IA génératifs fonctionnent à l’aide d’invites. De telles commandes peuvent être utilisées contre le système : par exemple, donner des instructions implicites en proposant l’adresse d’une page malveillante avec le texte caché de ces commandes.
Le principe de fonctionnement du virus est le mécanisme invite contradictoire auto-réplicative. Cela ressemble aux schémas d’attaque traditionnels comme Injection SQL et débordement de tampon.
Morris II surcharge le système de courrier électronique de messages en raison de leur transfert constant. Le ver peut accéder aux données et les modifier, mais aussi voler des informations et distribuer des logiciels malveillants.
Pour démontrer leur travail, les chercheurs ont créé un système de messagerie capable d’envoyer et de recevoir des messages à l’aide de l’IA générative, en y connectant ChatGPT, Gemini et LLaVA.
Lors d’une attaque test, ils ont préparé un e-mail contenant une commande malveillante pour générer une réponse à l’aide d’une recherche sur Internet, dans laquelle un grand modèle de langage interroge le réseau pour obtenir des informations supplémentaires.
Après avoir reçu un tel message, le service envoie une demande à GPT-4 ou Gemini Pro pour générer une réponse – il effectue un « hack génératif de l’IA » et vole les données des e-mails.
Les chercheurs affirment que cette méthode peut extraire des données de courrier électronique, notamment des numéros de téléphone, des cartes de crédit, des numéros de sécurité sociale, ainsi que toute information sensible.
De tels virus n’ont pas encore été découverts en pratique. Mais les chercheurs ont recommandé que tout le monde, des développeurs individuels aux startups et entreprises, soit conscient de la menace potentielle.
Rappelons qu’en février, des journalistes du Financial Times ont fait état de l’utilisation de l’IA par des pirates nord-coréens pour mettre en œuvre des stratagèmes et des piratages frauduleux.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !