Les cybercriminels et les groupes de hackers soutenus par l’État utilisent des outils d’IA générative pour accélérer leurs opérations. Selon un rapport de la division de renseignement sur les menaces (GTIG) de Google, on assiste à une évolution radicale vers un déploiement opérationnel à grande échelle. La technologie n’est plus seulement un outil d’expérimentation, mais un moteur clé pour l’automatisation d’attaques complexes.
Pour la première fois, des chercheurs de Google ont identifié un exploit zero-day développé entièrement avec l'aide de l'intelligence artificielle. Les acteurs criminels ont créé une vulnérabilité capable de contourner les systèmes d'authentification 2FA dans un outil d'administration Web populaire. L'équipe de sécurité a pu interrompre la campagne avant son déploiement, après avoir travaillé avec le fournisseur dans le cadre d'une divulgation responsable.
Des groupes liés à la Chine et à la Corée du Nord manifestent un intérêt soutenu pour la recherche sur la vulnérabilité soutenue par des modèles linguistiques. À ce titre, ces attaquants utilisent des cadres basés sur des agents conçus pour étendre les activités de reconnaissance et de test sur les réseaux d’entreprise. La capacité de l’IA à analyser automatiquement le code permet à ces groupes de détecter plus rapidement les failles de sécurité.
Le rapport souligne que les attaquants construisent des infrastructures professionnelles pour accéder de manière anonyme à des outils d’IA premium. Grâce aux relais proxy et aux programmes d'abus de comptes tests, les criminels obtiennent un accès à grande échelle à ces outils, souligne l'ouvrage. Ils parviennent ainsi à renforcer leurs capacités offensives sans laisser de traces claires permettant leur identification immédiate par les autorités.
PROMPTSPY et la nouvelle génération de malwares autonomes alimentés par des outils d'IA
En ce qui concerne les logiciels malveillants, les chercheurs ont documenté l'émergence de PROMPTSPY, une porte dérobée avancée pour les appareils Android. Ce malware intègre un agent autonome qui envoie l'état de l'interface utilisateur de l'appareil directement à l'API Gemini. Le système reçoit ensuite des commandes structurées que le malware exécute sans surveillance humaine, comme un clic ou une navigation.
PROMPTSPY possède des capacités alarmantes, telles que la capture de données biométriques et la reproduction de gestes d'authentification légitimes des utilisateurs. De plus, les logiciels malveillants peuvent empêcher leur propre désinstallation en créant une couche invisible sur le bouton de suppression à l'écran. Cette technique remplace silencieusement les événements tactiles de l'utilisateur, ce qui fait que l'appareil semble ne pas répondre à la commande d'effacement.
D’un autre côté, les opérations liées à la Russie ont commencé à utiliser des techniques d’obscurcissement assistées par l’IA pour échapper aux systèmes de détection. Ces tactiques incluent la génération dynamique de code et la création d’une logique leurre produite artificiellement pour confondre les antivirus. Cette évolution technique complique grandement le travail des analystes en sécurité, qui doivent désormais faire face à des codes en constante mutation.
Les adversaires attaquent également directement la chaîne d’approvisionnement des logiciels d’IA pour accéder aux systèmes de l’entreprise. En compromettant les outils d'IA open source, les attaquants parviennent à voler des informations d'identification critiques pour les opérations de ransomware et d'extorsion. Ainsi, l’écosystème logiciel d’IA est devenu un objectif prioritaire du fait de son intégration rapide dans les entreprises.
Défense active et correctifs préventifs utilisant l'IA chez Google
Google a indiqué qu'il déployait des outils défensifs basés sur l'IA, tels que Big Sleep et CodeMender, pour contrer ces menaces émergentes. Ces systèmes permettent d'identifier et de corriger de manière proactive les vulnérabilités avant que les attaquants ne puissent les exploiter dans le monde réel. L'entreprise cherche à équilibrer la balance technologique en utilisant la même puissance de calcul pour protéger les utilisateurs du monde entier.
De plus, la société étend les garanties de ses services Gemini pour empêcher les abus d'acteurs malveillants. La collaboration avec l’industrie et l’échange de renseignements sur les menaces sont des piliers fondamentaux de cette nouvelle stratégie de cyberdéfense. Le rapport conclut que la course aux armements numériques est entrée dans une phase critique, où la rapidité de réponse est vitale.
À mesure que l’infrastructure de l’IA devient plus complexe, les défis de sécurité continueront de croître pour le secteur technologique mondial. Les organisations doivent adopter une approche de sécurité dès la conception qui lutte contre l’utilisation malveillante de l’intelligence artificielle dès les premiers stades. L’avenir de la protection numérique dépendra de la capacité des défenses à évoluer au même rythme que les attaquants.
En rapport
Voir l’article original en espagnol
