Certik dévoile un « antivirus pour agents IA » alors que les marchés de compétences sont confrontés à des menaces cachées

Le défi de la sécurité

La société de sécurité Blockchain et IA Certik a dévoilé le 27 mai une nouvelle plate-forme de sécurité conçue pour évaluer les risques liés aux compétences tierces en intelligence artificielle (IA). Surnommée « l'antivirus pour les agents d'IA », cette version intervient dans un contexte d'inquiétude croissante de l'industrie concernant la sécurité des marchés de compétences en IA.

Les chercheurs en sécurité ont averti que nombre de ces compétences ne sont pas vérifiées, peuvent exécuter des actions au niveau du système et peuvent contenir des comportements malveillants cachés, créant ainsi un nouveau risque pour la chaîne d'approvisionnement logicielle à l'ère de l'IA. Les audits de sécurité dans l’ensemble du secteur ont identifié des risques allant de la collecte d’informations d’identification et de l’exfiltration de données à la manipulation des transferts de fonds et aux attaques par annulation basées sur des invites.

Malgré ces préoccupations, les marchés de compétences en IA se sont développés rapidement à mesure que les écosystèmes d’agents évoluent. Cependant, contrairement aux magasins d’applications traditionnels, la plupart des compétences proviennent de référentiels publics avec peu ou pas d’évaluation. Les analystes affirment que cela crée des opportunités pour les attaquants d'intégrer des instructions nuisibles, de déclencher un accès non autorisé aux données ou de manipuler des flux d'exécution autonomes.

Dans un récent article de blog, Certik a déclaré que sa plateforme de scanner de compétences est spécifiquement conçue pour évaluer les risques qui émergent lors de l'exécution, y compris les scénarios impliquant des transactions financières ou des appels de fonds. Le scanner produit un score numérique de 0 à 100, ainsi que des verdicts « réussite », « avertissement » ou « échec » et des résultats catégorisés. Selon l'entreprise, le système atteint une précision allant jusqu'à 90,5 % dans l'identification des risques de sécurité.

« À mesure que les agents d'IA s'intègrent de plus en plus profondément aux systèmes financiers, aux flux de travail des entreprises et aux interactions numériques quotidiennes, le modèle de sécurité autour des compétences de tiers devient d'une importance cruciale », a déclaré Ronghui Gu, PDG et co-fondateur de Certik. « CertiK Skill Scanner a été conçu pour établir une couche de confiance standardisée avant l'exécution, aidant ainsi les utilisateurs et les plateformes à identifier les risques cachés avant que les données, actifs ou systèmes sensibles ne soient exposés. »

Certik a déclaré que les marchés de compétences en IA peuvent intégrer le scanner directement dans les pipelines de publication, examinant automatiquement les compétences avant leur mise en ligne et affichant les verdicts de sécurité aux utilisateurs. Les entreprises peuvent déployer l'outil dans le cadre des workflows internes de conformité et de gestion des risques, tandis que les développeurs indépendants peuvent l'utiliser pour auto-auditer leurs compétences avant de publier.

La société a déclaré que les futures mises à jour permettront aux utilisateurs quotidiens d'analyser eux-mêmes les compétences avant l'installation. Le scanner a déjà été déployé dans certains environnements d'infrastructure d'agent Web3 AI. Certik étend également ses intégrations avec des plates-formes supplémentaires, notamment Finchip.ai.

« La confiance est la condition préalable au fonctionnement à grande échelle de toute économie de compétences », a déclaré Gary Yang, investisseur en incubation chez Finchip.ai. « Le travail de CertiK sur la vérification de la sécurité des compétences est exactement ce dont cet écosystème a besoin. C'est ce qui fait que la mission de Finchip en matière de propriété et de distribution de compétences programmables mérite d'être construite. »

Ce lancement fait suite à l'expansion de Certik dans une infrastructure de sécurité axée sur l'IA. Plus tôt cette année, la société a présenté son initiative AI Auditor pour gérer les risques liés aux systèmes autonomes et aux environnements d’exécution basés sur l’IA.

« Les applications d'IA évoluent vers une exécution de plus en plus autonome, ce qui crée une nouvelle catégorie de défis en matière de sécurité et de confiance », a déclaré Gu. « Nous pensons que l’infrastructure de sécurité à l’ère de l’IA doit fonctionner de manière proactive et non réactive. »

Trezor One – Portefeuille Matériel de Crypto-Monnaie – Le Stockage à Froid Le Plus Fiable pour Bitcoin, Ethereum, ERC20 et Bien d’autres (Noire)