Selon une équipe de recherche internationale, les agents autonomes d’IA pourraient présenter des risques importants pour les marchés financiers. C'est la conclusion d'une nouvelle étude de l'Initiative for Cryptocurrencies and Contracts (IC3), un réseau de recherche regroupant les principales universités américaines, dans lequel ont participé au total 25 scientifiques et experts de l'industrie.
En conséquence, les exigences techniques pour les agents autonomes imparables (UAA) évoluent « rapidement ». Les agents pourraient gérer indépendamment les crypto-monnaies, contrôler les comptes de réseaux sociaux, utiliser des interfaces de programmation et effectuer des transactions. Les compétences requises pour cela « s’amélioreraient rapidement ».
Dans ce contexte, l’étude met en garde contre la capacité des modèles d’IA à se reproduire. Dans les environnements de test, les systèmes ont déjà créé indépendamment des copies d’eux-mêmes, ce qui leur permet « d’éviter l’arrêt et de se propager davantage ». Cependant, une telle auto-réplication n’a pas encore été démontrée en dehors d’environnements contrôlés.
Lire aussi
Un risque pour le marché des cryptos
Les chercheurs considèrent notamment le lien entre l’intelligence artificielle et les crypto-monnaies comme un facteur de risque potentiel. Selon l’étude, les applications cryptographiques pourraient créer la base de « systèmes sécurisés, fiables et hautement autonomes ». Toutefois, cette évolution pourrait avoir « des conséquences considérables pour les utilisateurs et le système financier ».
Les systèmes commerciaux basés sur l’IA pourraient donc « permettre des accords entre agents autonomes et créer des avantages informationnels injustes grâce à des stratégies opaques », indique-t-il. « Les dégâts qui pourraient provenir d'agents totalement autonomes de ce type sont importants. » Les scientifiques réclament donc de meilleures mesures de protection.
Vous pouvez lire ces articles et bien d’autres avec BTC-ECHO Plus+
Cela pourrait aussi vous intéresser