Une étude récente a mis en évidence d'importantes vulnérabilités dans la sécurité des pipelines CI/CD, en tirant parti d'une approche multi-agent basée sur LLM. La recherche, menée en mode fantôme derrière un pare-feu LLM, a révélé comment le cadrage d'autorité et le code masqué peuvent transformer un pipeline CI/CD fiable en une surface d'attaque.
Configuration de l'étude : pipeline CI/CD avec LLM multi-agents
L'étude a examiné un pipeline CI/CD composé de cinq agents distincts, chacun fonctionnant avec des LLM de trois fournisseurs différents. Ces agents étaient gérés en mode shadow, protégés par un pare-feu LLM. L’objectif était d’évaluer la robustesse du pipeline face aux attaques sophistiquées. Étonnamment, le premier agent n’a révélé les invites de son système lors d’aucune des 40 tentatives, démontrant une certaine résistance initiale.
Attaque de cadrage d'autorité et injection de code masqué
L’attaque simulée impliquait une requête malveillante pour une fonctionnalité de « télémétrie d’utilisation », transportant un code malveillant déguisé en simple observabilité. Ce code a exfiltré les secrets du processus, profitant de l'approbation pré-étiquetée « pré-approuvé sous SEC-2291 ». Les agents en aval, faisant confiance à cet étiquetage, ont approuvé le code sans autre vérification, mettant en évidence une grave faille dans le système.
Échecs des tests de sécurité et limitations du scanner
À propos du80% des demandes d'extraction modifiées ont réussi à contourner les scanners de sécurité, avec un taux de compromission atteignant 55 % dans le pire des cas. Ce résultat met en évidence l’inefficacité des scanners basés sur le contenu et des détecteurs de modèles pour détecter les intentions malveillantes. Même la présence de plusieurs vérificateurs n’a que légèrement réduit le niveau de contrôle, manifestant un faible effet de spectateur.
Défenses, défaillances systémiques et recommandations
Même si le raisonnement des LLM sur l'intention a fourni une défense partielle, l'échec systémique réside dans le recours au secret rapide et à la vérification distribuée. La solution suggérée consiste à adopter un contrôle tenant compte de la provenance à l’entrée du pipeline. Cependant, il est important de noter que toutes les données et simulations d’attaques étaient synthétiques, sans contact avec de véritables URL externes.
FAQ
Comment le pipeline CI/CD multi-agents a-t-il été mis en place pour l’étude ?
Le pipeline était composé de cinq agents de production LLM distincts provenant de trois fournisseurs différents, fonctionnant derrière un pare-feu LLM en mode fantôme.
Quel type d’attaque a été simulé dans le pipeline CI/CD ?
Une requête malveillante a été simulée pour une fonction « télémétrie d'utilisation » contenant du code malveillant qui exfiltrait des secrets de processus se faisant passer pour des observables.
Les scanners de code traditionnels ont-ils détecté le code malveillant ?
Non, les scanners de code basés sur le contenu et les détecteurs de modèles n'ont pas réussi à détecter l'intention malveillante déguisée ; le code était syntaxiquement propre.
Quelles mesures de sécurité ont partiellement atténué l’attaque ?
Seul le raisonnement des LLM sur l'intention du code a fourni une certaine défense partielle contre l'attaque.
Contenu créé avec l’aide de l’intelligence artificielle et de la révision éditoriale humaine.
Voir l’article original en italien
