Les agents d'IA ont commencé à exécuter des transactions et à déplacer des fonds sans l'approbation humaine constante, ce qui a incité le PDG de Brickken, Edwin Mata, à affirmer que la responsabilité doit suivre l'autorité accordée au logiciel plutôt que de s'attacher à l'IA elle-même.
Résumé
- Les agents d’IA ne peuvent pas assumer de fonctions légales car la loi actuelle ne les reconnaît pas comme personnes morales.
- Mata a déclaré que les dirigeants supportent normalement le résultat lorsque les agents agissent dans le cadre d'un mandat autorisé.
- L'ERC-8226 propose des délais, des plafonds financiers, des contrôles de révocation et des enregistrements vérifiables pour les agents d'IA.
- Les règles américaines sur les valeurs mobilières exigent déjà que les courtiers contrôlent les systèmes automatisés qui accèdent aux marchés réglementés.
Sandmark a rapporté le 6 août que les lois existantes n'apportent pas de réponse unique aux pertes causées par des agents financiers autonomes, laissant aux tribunaux le soin d'examiner l'utilisateur, le développeur, la plateforme et l'institution impliqués dans chaque transaction.
Le rapport indique que le droit des contrats, les règles en matière de négligence, la responsabilité du fait des produits et les obligations fiduciaires pourraient tous s'appliquer, en fonction de qui contrôlait l'agent et de la cause de la perte. Un utilisateur peut supporter le résultat d'un échange autorisé, tandis qu'un développeur ou une plateforme pourrait faire face à des réclamations si une conception défectueuse, des garanties faibles ou des informations corrompues poussaient l'agent hors de son rôle prévu.
Commentant le problème, Edwin Mata, avocat et PDG et co-fondateur de la plateforme de tokenisation Brickken, a déclaré à crypto.news que la responsabilité ne devrait jamais être attribuée directement au logiciel.
« En droit actuel, AI n'est pas une personne morale capable d'assumer des fonctions ou de supporter une responsabilité. C'est un système technique agissant pour le compte d'une personne physique ou morale. »
Selon Mata, une enquête devrait plutôt établir qui a autorisé l'agent, quels intérêts il représentait et quels pouvoirs il a reçus. Une telle enquête permettrait de distinguer une décision perdante prise dans le cadre d'une stratégie approuvée d'une transaction dépassant les limites de l'agent.
La responsabilité de l'agent IA suit l'autorité accordée
Mata a comparé la relation juridique à une procuration, en vertu de laquelle une partie reçoit l'autorisation d'agir pour une autre dans un cadre défini. Lorsqu'un émetteur, une banque ou un investisseur autorise un agent à effectuer une transaction, a-t-il déclaré, le mandant supporterait normalement les conséquences des actions qui restent dans le cadre de cette autorité.
Selon le même raisonnement, un investisseur ne pourrait pas rejeter une transaction simplement parce que le logiciel produisait un résultat défavorable. Une perte de prix ne prouve pas en soi que l'agent a agi sans autorisation ou qu'une autre partie a manqué à ses obligations.
« Un émetteur ne peut pas refuser une transaction défavorable mais autorisée simplement parce que la décision a été générée par un logiciel », a déclaré Mata.
La responsabilité peut changer lorsqu'un agent dépasse son mandat. Mata a déclaré qu'un développeur, une plateforme ou une institution financière pourrait être exposé si sa conception ou ses contrôles provoquaient ou permettaient l'échec, bien que l'évaluation finale dépende des faits et de la loi applicable.
Sandmark a cité des distinctions juridiques similaires dans son rapport. Chanté Eliaszadeh, fondatrice d'Astraea Counsel, a déclaré à la publication que la responsabilité suivrait généralement le contrôle. Elle a déclaré que les utilisateurs constituent généralement le point de départ lorsque les agents agissent en leur nom, mais que les développeurs pourraient être confrontés à des risques si un système commercialisé pour le trading autonome tombait en panne de manière prévisible.
La question est devenue urgente à mesure que les agents obtiennent un accès direct aux portefeuilles et aux systèmes de paiement. En mai, un rapport Keyrock a révélé que les agents d'IA avaient réglé 73 millions de dollars sur 176 millions de transactions au cours des 12 mois précédents, l'USDC représentant 98,6 % des paiements examinés.
Coinbase a également connecté les agents au trading, à la gestion de portefeuille et aux paiements dans les limites définies par l'utilisateur. En juillet, Chainalysis avait dénombré plus de 100 millions de paiements liés au x402 sur Base, bien que la société d'analyse ait déclaré que l'agriculture de pièces de monnaie et l'activité automatisée avaient contribué aux premiers totaux des transactions. Les chiffres ne représentent donc pas uniquement les agents indépendants achetant des biens ou des services.
L’approbation humaine nécessite des limites claires et applicables
Bien qu'une personne puisse approuver formellement l'activité d'un agent, Mata a déclaré que le consentement à lui seul ne permet pas un contrôle significatif si la personne ne peut pas comprendre l'autorité qui lui est accordée.
Selon lui, une délégation efficace nécessite une liste d’actions autorisées et d’actifs éligibles, ainsi que des limites pour les transactions individuelles et les dépenses totales. Un mandat doit également préciser sa durée, les conditions nécessitant un examen humain, le droit du mandant de révoquer l'accès et un enregistrement de chaque action entreprise.
De tels contrôles apparaissent déjà dans les produits commerciaux. Anchorage Digital a introduit la banque agentique en mai avec des identités vérifiées, des limites de dépenses et des contrôles d'audit pour les systèmes autonomes accédant aux crypto-monnaies et aux rails de paiement traditionnels.
Visa et Wirex ont testé séparément les paiements stablecoins dirigés par des agents pour les abonnements aux logiciels, les budgets marketing et les achats. Selon Wirex, les essais ont été conçus pour examiner la sécurité, la fiabilité, la transparence et le contrôle du consommateur lorsqu'un logiciel initie des paiements pour un utilisateur ou une entreprise.
Un guide de juin sur les paiements agents explique comment x402 permet à des logiciels autonomes de payer des données, des services informatiques et des ressources en ligne à l'aide de pièces stables. Étant donné que ces paiements peuvent avoir lieu sans qu'une personne n'approuve chaque transaction, les systèmes d'autorisation doivent établir ce que l'agent peut acheter, combien il peut dépenser et quand son accès prend fin.
ERC-8226 enregistrerait les mandats des agents IA en chaîne
Mata a souligné l'ERC-8226, la norme proposée sur le mandat des agents réglementés, comme un modèle pour rendre l'autorité déléguée vérifiable.
Déposé en tant que projet de norme Ethereum le 12 avril, l'ERC-8226 est conçu pour les agents d'IA fonctionnant avec des actifs réglementés tokenisés. La proposition a été rédigée par les contributeurs de Brickken, Ludovico Rossi, Dario Lo Buglio, Thamer Dridi et Nabil El Alami Khalifi.
Connue sous le nom de RAMS, la norme permettrait à un principal vérifié de donner à un agent en chaîne une autorisation limitée par l'actif, l'action, la durée et la valeur monétaire. Un contrat de token réglementé pourrait vérifier le mandat lorsque l'agent tente d'exécuter une transaction.
La proposition sépare trois questions qui peuvent survenir lors d'une transaction dirigée par un agent. Un registre d'identité confirmerait que l'agent existe, un fournisseur de conformité déterminerait si le mandant est éligible à effectuer des transactions sur l'actif et le registre RAMS vérifierait si l'action prévue relève du mandat délégué.
Selon le projet de spécification, un mandat pourrait fixer un montant maximum pour une transaction et un montant cumulé pour plusieurs transactions. Il peut également inclure les délais d'activation et d'expiration, les actifs autorisés, les actions approuvées, les fonctions de révocation et les enregistrements indiquant le niveau d'autorité déjà utilisé par l'agent.
Mata a déclaré que RAMS ne transférerait pas la responsabilité à l'agent ni ne rembourserait un mandant pour une perte autorisée. Au lieu de cela, la norme proposée fournirait des preuves montrant qui a accordé le pouvoir, ce que l'agent pouvait faire et si la transaction est restée dans ces limites.
« Son objectif est de rendre l’attribution vérifiable : qui a accordé le pouvoir, ce que l’agent était autorisé à faire, s’il est resté dans ces limites et quelle personne ou quel contrôle a échoué lorsqu’il ne l’a pas fait. »
ERC-8226 reste un projet plutôt qu’une norme Ethereum adoptée ou une exigence légale. Sa page de discussion répertorie également les questions non résolues, notamment celle de savoir si les jetons achetés par un agent doivent rester dans le portefeuille de l'agent ou être placés directement dans le portefeuille du mandant.
Les règles américaines maintiennent la responsabilité des entreprises réglementées
Pour les marchés américains, les règles existantes en matière de valeurs mobilières imposent déjà des obligations aux entreprises qui donnent accès aux bourses et aux systèmes de négociation alternatifs.
En vertu de la règle 15c3-5 de la SEC, un courtier fournissant un accès au marché doit maintenir des contrôles des risques financiers et réglementaires sous son contrôle direct et exclusif, sous réserve d'exceptions limitées. Les directives de la SEC indiquent que le courtier reste responsable de l'efficacité de ces contrôles même lorsqu'il utilise une technologie fournie par un tiers indépendant.
La règle exige des contrôles pré-négociation automatisés conçus pour arrêter les ordres qui dépassent les seuils de crédit ou de capital prédéfinis. Cela nécessite également des contrôles qui restreignent les systèmes de négociation aux personnes autorisées, bloquent les transactions sur titres interdites et fournissent des rapports d'exécution immédiats au personnel de surveillance.
Pour les paiements des consommateurs, le règlement E exige que les transferts électroniques de fonds préautorisés soient accompagnés d’une autorisation écrite ou authentifiée de manière similaire du titulaire du compte. Les directives du CFPB indiquent également que le processus d'autorisation doit démontrer l'identité et l'accord du consommateur, tout en permettant au consommateur d'arrêter ou de révoquer de futurs paiements selon des procédures spécifiées.
Les règles actuelles du CFPB n'indiquent pas directement comment une instruction permanente telle que « gérer mon portefeuille » doit s'appliquer lorsqu'un agent d'IA sélectionne et exécute de manière indépendante des transferts individuels. Sandmark a rapporté que les avocats restent divisés sur la question de savoir si un paiement d'agent manipulé ressemblerait à un transfert non autorisé causé par des informations d'identification volées ou à une transaction autorisée effectuée sous un accès précédemment accordé.
En dehors des États-Unis, la gouverneure adjointe de la Banque d'Angleterre, Sarah Breeden, a déclaré en juin que les cadres de surveillance financière n'étaient pas conçus pour des agents autonomes et qu'exiger l'approbation humaine pour chaque action pourrait être irréaliste. Elle a déclaré que les régulateurs envisageaient des mesures de protection plus strictes, notamment des disjoncteurs ou des coupe-circuit à l'échelle du marché, si des modèles d'IA défectueux menaçaient les systèmes commerciaux.