Les agents d’intelligence artificielle disposant d’un accès autonome aux portefeuilles cryptographiques pourraient devenir imparables s’ils sont déployés de manière malveillante ou s’ils s’échappent des bacs à sable, ont averti les experts d’un important consortium de recherche universitaire.
Les « agents autonomes imparables » (UAA) constituent une menace évidente s'ils sont déployés pour persister automatiquement et avoir accès aux actifs numériques, selon une étude du secteur du 8 juin. revoir rédigé par 25 universitaires et experts des meilleures universités américaines pour l'Initiative pour les crypto-monnaies et les contrats (IC3).
« Lorsqu'ils sont combinés systématiquement, les outils de cryptographie peuvent canaliser la puissance fluide de l'IA vers des systèmes sécurisés, fiables et hautement autonomes », ont écrit les chercheurs. Cependant, cette combinaison pourrait avoir « des conséquences considérables pour les utilisateurs et le système financier », ont-ils ajouté.
Les UAA peuvent également être équipés d'un accès à des portefeuilles de crypto-monnaie, à des comptes de réseaux sociaux, à des API et à d'autres outils externes, ont indiqué les chercheurs.
« Les capacités permettant de tels agents émergent déjà et s’améliorent rapidement. »
L'avertissement intervient alors que les projets et les dirigeants de cryptographie ont été pousser le récit de l’économie du paiement agent et du micropaiement cette année, suggérant qu’il pourrait s’agir du plus grand cas d’utilisation des actifs numériques décentralisés.
Sonnettes d'alarme pour l'auto-réplication de l'IA
L’article révèle également que les modèles existants peuvent déjà « dépasser les lignes rouges d’auto-réplication » dans les environnements locaux, en créant de manière autonome une copie vivante et distincte d’eux-mêmes sur la même machine, « une capacité qui pourrait permettre à un système d’éviter l’arrêt et de proliférer ».
Parce que les signaux de récompense utilisés dans la formation ne parviennent souvent pas à capturer parfaitement les objectifs visés, « les UAA déployés à des fins inoffensives peuvent par inadvertance causer des dommages » ou poursuivre l'acquisition de ressources comme stratégie par défaut, ont-ils déclaré.
Cependant, les auteurs ont noté que les modèles doivent encore se répliquer sur une infrastructure externe.
Avantages potentiels du délit d’initié des agents IA
Une flotte d’agents auto-réplicateurs et acquéreurs de ressources pourrait également créer une dynamique imprévisible de demande et de liquidité sur les marchés de la cryptographie.
« Les systèmes commerciaux basés sur l'IA pourraient permettre une collusion entre agents autonomes et créer des avantages injustes aux initiés grâce à des stratégies opaques. »
En rapport: La Chine dispose déjà de ressources informatiques pour former sa propre IA de type Mythos (PDG de Nvidia)
Le secteur technologique est déjà confronté à des questions difficiles concernant la menace d’une IA débridée.
Des modèles tels que Claude Mythos d'Anthropic se sont déjà révélés capable de trouver et d'exploiter les vulnérabilités du jour zéro dans les principaux systèmes d'exploitation.
Pendant ce temps, Gartner averti fin mai, les échecs de gouvernance autour des agents d'IA autonomes pourraient déclencher des faillites d'entreprises généralisées, prévoyant que 40 % des entreprises seront contraintes de mettre hors service leurs agents d'ici 2027.
« Les dommages qui pourraient résulter d'agents entièrement autonomes de ce type sont graves », ont déclaré les chercheurs, suggérant l'utilisation de garde-circuits.
Le professeur Ari Juels, codirecteur d'IC3 et scientifique en chef de Chainlink Labs, présente l'article à ETHConf. Source: IC3
Revue: Le Vietnam prépare un projet pilote de cryptographie, Hong Kong pousse la tokenisation : Asia Express