Les agents d’IA utiles nécessitent un accès privé, des entrées externes et la capacité d’agir.
Dai soutient que l’IA n’est plus limitée par ses capacités, mais par la confiance.
Le chercheur Wei Dai – différent du cryptographe éponyme auteur du protocole b-money cité par Satoshi Nakamoto dans le livre blanc Bitcoin – a averti ce 11 juin que l’intelligence artificielle agentique créait une nouvelle classe de problèmes de confiance dans les systèmes numériques.
Selon Dai, l’origine du problème n’est pas technique mais structurelle : les mêmes propriétés qui rendent un agent d’IA utile sont celles qui le rendent susceptible d’être exploité.
L'expert a publié son avertissement dans le cadre d'un clip diffusé par 1kx, un fonds de capital-risque spécialisé dans les réseaux décentralisés dans lequel il est Research Partner.
Dans la vidéo, le chercheur explique que Un agent IA a besoin de trois conditions pour fonctionner efficacement: accès à des informations privées, accès à des entrées externes non fiables et capacité d’agir de manière autonome.
Il ajoute qu'une fois que ces trois propriétés coexistent sur le même système, il existe toujours la possibilité que l'agent soit injecté à l'aide d'invites malveillantes provenant d'entrées externes. Alors je pourrais exfiltrer des informations confidentielles ou agir de manière nuisible au sein des systèmes de l'entreprise.
Le chercheur, auteur de plus d’une douzaine d’articles académiques sur la sécurité et la cryptographie, attribue ces trois propriétés le nom de « tiercé trio mortel pour les agents d’IA ». Il attribue le terme au chercheur Simon Willison.
L'avertissement de Dai intervient quelques jours après qu'Anthropic a lancé Claude Fable 5, le premier modèle de la famille Mythos disponible pour un usage général, avec des mécanismes qui bloquent les requêtes de cybersécurité à haut risque.
Cette décision illustre la tension décrite par Dai : la capacité offensive des modèles avancés augmente au même rythme que leur utilité.
La confiance est un goulot d'étranglement
Dai soutient que l’IA agentique n’est plus limitée par sa capacité technique, mais plutôt par ses capacités techniques. pour la confiance et la sécurité. Pour le chercheur, exploiter tout le potentiel des agents autonomes nécessite de nouvelles infrastructures de confiance à travers toute la pile technologique. Même s'il ne précise pas dans sa publication ce que seraient ces infrastructures ni quels acteurs devraient les développer.
1kx a développé dans sa thèse « Cost of Trust 2.0 », publiée en juin 2026, l’argument selon lequel l’IA agirait comme un accélérateur des problèmes de confiance numérique.
Selon la firme, L’IA générative a réduit le coût de production de faux identifiants, voix, homologues et identitésce qui a généré une crise d’authenticité et de vérifiabilité.
De son côté, l'IA agentique, ajoute le document, expose de nouvelles surfaces où la confiance est critique et fragile : les agents autonomes. nécessitent un accès complet aux documents, aux comptes et aux canaux de communication pour fonctionner efficacement.
C'est une vision qui suscite la controverse dans le secteur. Alors que certains experts soutiennent l’idée selon laquelle les agents d’IA autonomes représentent un risque structurel inévitable, d’autres soutiennent que le problème ne vient pas de la technologie elle-même, mais plutôt de la technologie. le manque de contrôles et de vérification humaine.
Les réseaux décentralisés comme réponse au problème
1kx, fondée en 2018 avec la thèse selon laquelle les réseaux décentralisés peuvent réduire les coûts de confiance sur les marchés où les intermédiaires traditionnels extraient des rentes pour être dignes de confiance, estime que Ces réseaux sont la seule infrastructure capable de résoudre les problèmes de confiance que l’IA agentique génère.
L'entreprise, qui en 8 ans a accumulé plus de 400 millions de dollars d'investissements à travers plus de 160 sociétés et protocoles, met en avant quatre propriétés qui les systèmes centralisés ne peuvent pas répliquer simultanément et qui soutiennent cet argument :
- Règlement peer-to-peer programmable
- Statut publiquement vérifiable
- Neutralité structurelle
- Participation sans autorisations.
Le fonds soutient que toute plateforme centralisée peut adopter l’une de ces propriétés de manière isolée. Mais il ne peut pas adopter les quatre simultanément sans devenir, de fait, un réseau décentralisé.
Pour 1kx, cette combinaison de propriétés est précisément ce que nécessite la pile d'IA agentique pour opérer en toute confiance à l'échelle mondiale et représente la prochaine génération de marchés de confiance que l'écosystème décentralisé est en mesure de conquérir.
Bien que certains critiques remettent en question cette idée de décentralisation en tant que solution universelle, elle pourrait sous-estimer les défis réels tels que l'évolutivité, les coûts de gaz des agents autonomes et les vulnérabilités déjà connues des contrats intelligents.
Le défi immédiat consiste à faire progresser les normes d’interopérabilité entre les agents basés sur l’IA et les protocoles décentralisés, avant que l’adoption massive ne transforme ces risques théoriques en pertes réelles.
Voir l’article original en espagnol
