Les agents indépendants introduisent de nouveaux risques financiers, selon l'entreprise.
Le rapport note que les bibliothèques actuelles n’ont pas été conçues pour l’IA sans supervision humaine.
Les progrès de l’intelligence artificielle (IA) transforment le développement de logiciels. Un rapport de la société argentine Lambda Class souligne que ce changement génère des opportunités et des risques dans l’écosystème des cryptomonnaies, notamment lorsque les systèmes automatisés interagissent directement avec de l’argent réel sans intervention humaine constante.
Dans le document publié le 23 janvier, la société axée sur le développement d'outils pour Ethereum propose d'utiliser des agents d'IA pour fonctionner avec les crypto-monnaies. introduit de nouveaux vecteurs de failles de sécurité. Ce sont des éléments qui n’ont pas été envisagés dans la conception originale de l’infrastructure.
Selon le rapport, l’introduction d’agents d’IA (des programmes capables de prendre des décisions et d’exécuter des actions de manière autonome) modifie un principe important qui fait partie de la conception d’Ethereum. En effet, son infrastructure financière à usage général est basée sur les opérations sont initiées et comprises par des personnes humaines.
Par conséquent, lorsque les systèmes d’IA interagissent directement avec le réseau et signent des transactions sans examen humain préalable, les erreurs ne sont plus conceptuelles, mais plutôt conceptuelles. se traduire par des pertes économiques immédiates et irréversibles.
L'analyse de l'équipe Lambda Class revêt une importance particulière étant donné que le 29 janvier La norme ERC-8004 a été implémentée sur le réseau principal Ethereum. Comme le rapporte CriptoNoticias, cette norme fournirait précisément à Ethereum un système dans lequel les agents d'IA peuvent connectez-vous, vérifiez et évaluez-vous automatiquement grâce à des contrats intelligents.
Et si l’IA remplaçait l’opérateur humain ?
Selon le rapport Lambda Class, les bibliothèques (boîtes à outils logicielles que les développeurs utilisent pour interagir avec Ethereum et envoyer des transactions) étaient conçu pour les personnes, pas pour les systèmes autonomes.
Des outils comme ethers.js ou web3.js supposent que quelqu'un comprend ce qu'il signe avant d'autoriser une transaction. Ce modèle, comme indiqué ci-dessus, pourrait échouer lorsque l'opérateur est une IA :
- un agent peut halluciner une adressec'est-à-dire générer une adresse valide mais incorrecte.
- Peut confondre les unités. Par exemple, interpréter « envoyer 100, comme 100 éthers au lieu de 100 dollars »
- Vous pouvez également être manipulé via l’injection d’instructions, une technique qui introduit des commandes malveillantes dans les données qu’elle traite.
Chacune de ces erreurs est peu probable isolément. Cependant, le rapport prévient que lorsque des millions de transactions automatisées sont exécutées, ces échecs ils deviennent inévitables.
Dans Ethereum, aucune banque n’annule les opérations. Une fois la transaction confirmée, les fonds sont définitivement perdus (sauf dans le fameux hack The DAO).
Lambda Class souligne qu’il ne s’agit pas d’un problème « d’amélioration de l’IA ». Le risque vient du fait de permettre à des systèmes imparfaits opérer directement sur une infrastructure financière irréversible. En cas de panne, le système renvoie des messages techniques qu’une IA ne peut pas interpréter en toute sécurité.
Le rapport compare ce scénario au fait de laisser un un robot conduit un camion sans freins automatiques: Le problème n'est pas l'intention de l'agent, mais l'absence de barrières qui l'arrêtent lorsque quelque chose ne va pas.
Les restrictions comme couche de défense
Pour résoudre ce problème, l'équipe Lambda Class estime que la manière de réduire les risques n'est pas de rendre l'IA « plus intelligente », mais de poser des limites structurelles.
Pour cela, il a développé eth-agent, un kit de développement qui introduit des restrictions obligatoires dans l'exécution des transactions dans chaque portefeuille. Par exemple, des plafonds de dépenses par transaction, par heure et par jour. De cette façon, si un agent tente de dépasser ces limites, l'opération échoue automatiquementsans aucune possibilité d'évasion.
Le système renvoie également des erreurs claires et structurées. Au lieu de messages techniques difficiles à interpréter, il vous informe quelle règle a été violée et quand vous pouvez réessayer en toute sécurité.
De plus, pour les transactions sensibles (telles que des montants importants ou de nouveaux destinataires) nécessite l'approbation humaine avant d'exécuter l'expédition.
Il existe des moyens d'éviter les risques de l'IA
Dans le cadre des prévisions, l'étude indique que les agents indépendants opèrent principalement avec pièces stablesafin d'éviter les erreurs causées par la volatilité des prix.
Il recommande également d'intégrer des comptes intelligents selon la norme ERC-4337, qui permettent déléguer les autorisations de manière limitée et contrôlée.
L'idée centrale de ces propositions s'apparente à celle d'un système d'exploitation. Les applications peuvent planter, mais le noyau impose des règles qui évitent d’autres dommages. Dans la finance décentralisée, ce « noyau » doit protéger même lorsque l’IA commet des erreurs.
Le rapport conclut que les agents IA continueront à s’améliorer, mais qu’ils ne seront jamais parfaits. Dans un système financier sans inversion des erreurs, se fier à leur correction est insuffisant.