Les agents IA ont commencé à exécuter des transactions et à déplacer des fonds sans approbation humaine constante, ce qui a incité Edwin Mata, PDG de Brickken, à affirmer que la responsabilité doit suivre l'autorité accordée au logiciel plutôt que d'être attribuée à l'IA elle-même.
Résumé
- Les agents IA ne peuvent pas assumer d'obligations légales car la loi actuelle ne les reconnaît pas comme des personnes juridiques.
- Mata a déclaré que les mandants supportent normalement les conséquences lorsque les agents agissent dans le cadre d'un mandat autorisé.
- L'ERC-8226 propose des limites de temps, des plafonds financiers, des contrôles de révocation et des enregistrements vérifiables pour les agents IA.
- Les règles américaines sur les valeurs mobilières exigent déjà que les courtiers-négociants contrôlent les systèmes automatisés qui accèdent aux marchés réglementés.
Sandmark a rapporté le 6 août que les lois existantes ne fournissent aucune réponse unique pour les pertes causées par des agents financiers autonomes, laissant les tribunaux examiner l'utilisateur, le développeur, la plateforme et l'institution impliqués dans chaque transaction.
Le rapport indique que le droit des contrats, les règles de négligence, la responsabilité du fait des produits et les obligations fiduciaires pourraient tous s'appliquer, selon qui contrôlait l'agent et ce qui a causé la perte. Un utilisateur peut supporter le résultat d'une transaction autorisée, tandis qu'un développeur ou une plateforme pourrait faire face à des réclamations si une conception défectueuse, des protections faibles ou des informations corrompues ont poussé l'agent hors de son rôle prévu.
Commentant cette question, Edwin Mata, avocat et PDG et cofondateur de la plateforme de tokenisation Brickken, a déclaré à crypto.news que la responsabilité ne devrait jamais être attribuée directement au logiciel.
« En vertu du droit actuel, l'IA n'est pas une personne juridique capable d'assumer des obligations ou de porter une responsabilité. C'est un système technique agissant au nom d'une personne physique ou morale. »
Selon Mata, une enquête devrait plutôt établir qui a autorisé l'agent, dont il représentait les intérêts et quels pouvoirs il a reçus. Une telle enquête aiderait à distinguer une décision perdante prise dans le cadre d'une stratégie approuvée d'une transaction qui a enfreint les limites de l'agent.
La responsabilité des agents IA suit l'autorité accordée
Mata a comparé la relation juridique à une procuration, en vertu de laquelle une partie reçoit la permission d'agir pour une autre dans un cadre défini. Lorsqu'un émetteur, une banque ou un investisseur autorise un agent à effectuer des transactions, a-t-il dit, le mandant supporterait normalement les conséquences des actions qui restent dans le cadre de cette autorité.
Selon le même raisonnement, un investisseur ne pourrait pas rejeter une transaction simplement parce que le logiciel a produit un résultat défavorable. Une perte de prix ne démontre pas en soi que l'agent a agi sans permission ou qu'une autre partie a manqué à ses devoirs.
« Un émetteur ne peut pas désavouer une transaction autorisée mais défavorable simplement parce que la décision a été générée par un logiciel », a déclaré Mata.
La responsabilité peut changer lorsqu'un agent dépasse son mandat. Mata a déclaré qu'un développeur, une plateforme ou une institution financière pourrait être exposé si sa conception ou ses contrôles ont causé ou permis la défaillance, bien que l'évaluation finale dépende des faits et de la loi applicable.
Sandmark a cité des distinctions juridiques similaires dans son rapport. Chanté Eliaszadeh, fondatrice d'Astraea Counsel, a déclaré à la publication que la responsabilité suivrait généralement le contrôle. Elle a dit que les utilisateurs sont généralement le point de départ lorsque les agents agissent en leur nom, mais que les développeurs pourraient être exposés à un risque si un système commercialisé pour le trading autonome échouait de manière prévisible.
La question est devenue urgente alors que les agents obtiennent un accès direct aux portefeuilles et aux systèmes de paiement. En mai, un rapport de Keyrock a révélé que les agents IA avaient réglé 73 millions de dollars via 176 millions de transactions au cours des 12 mois précédents, l'USDC représentant 98,6 % des paiements examinés.
Coinbase a également connecté les agents au trading, à la gestion de portefeuille et aux paiements dans le cadre de limites définies par l'utilisateur. En juillet, Chainalysis avait compté plus de 100 millions de paiements liés à x402 sur Base, bien que la société d'analyse ait déclaré que le farming de meme-coins et l'activité automatisée ont contribué aux totaux de transactions précoces. Les chiffres ne représentaient donc pas uniquement des agents indépendants achetant des biens ou des services.
L'approbation humaine nécessite des limites claires et exécutoires
Bien qu'une personne puisse approuver formellement l'activité d'un agent, Mata a déclaré que le consentement seul ne fournit pas un contrôle significatif si la personne ne peut pas comprendre l'autorité accordée.
Une délégation efficace, selon lui, nécessite une liste des actions autorisées et des actifs éligibles, ainsi que des limites pour les transactions individuelles et les dépenses totales. Un mandat doit également préciser sa durée, les conditions nécessitant un examen humain, le droit du mandant de révoquer l'accès, et un enregistrement de chaque action entreprise.
De tels contrôles apparaissent déjà dans les produits commerciaux. Anchorage Digital a introduit la banque agentique en mai avec des identités vérifiées, des limites de dépenses et des contrôles d'audit pour les systèmes autonomes accédant aux rails de paiement cryptographiques et traditionnels.
Visa et Wirex ont testé séparément les paiements en stablecoin dirigés par des agents pour les abonnements logiciels, les budgets marketing et les achats. Selon Wirex, les essais ont été conçus pour examiner la sécurité, la fiabilité, la transparence et le contrôle du consommateur lorsque le logiciel initie des paiements pour un utilisateur ou une entreprise.
Un guide de juin sur les paiements agentiques a expliqué comment x402 permet aux logiciels autonomes de payer pour des données, des services informatiques et des ressources en ligne en utilisant des stablecoins. Parce que ces paiements peuvent avoir lieu sans qu'une personne approuve chaque transaction, les systèmes d'autorisation doivent établir ce que l'agent peut acheter, combien il peut dépenser et quand son accès se termine.
ERC-8226 enregistrerait les mandats des agents IA sur la chaîne
Mata a souligné ERC-8226, la norme proposée pour les mandats d'agents réglementés, comme un modèle pour rendre l'autorité déléguée vérifiable.
Déposé comme projet de norme Ethereum le 12 avril, ERC-8226 est conçu pour les agents IA opérant avec des actifs réglementés tokenisés. La proposition a été rédigée par les contributeurs de Brickken Ludovico Rossi, Dario Lo Buglio, Thamer Dridi et Nabil El Alami Khalifi.
Connue sous le nom de RAMS, la norme permettrait à un mandant vérifié de donner à un agent sur la chaîne une permission limitée par l'actif, l'action, la durée et la valeur monétaire. Un contrat de jeton réglementé pourrait vérifier le mandat lorsque l'agent tente d'exécuter une transaction.
La proposition sépare trois questions qui peuvent survenir lors d'une transaction dirigée par un agent. Un registre d'identité confirmerait que l'agent existe, un fournisseur de conformité déterminerait si le mandant est éligible pour transiger sur l'actif, et le registre RAMS vérifierait si l'action planifiée relève du mandat délégué.
Selon la spécification préliminaire, un mandat pourrait fixer un montant maximum pour une transaction et un montant cumulé sur plusieurs transactions. Il pourrait également inclure des heures d'activation et d'expiration, les actifs autorisés, les actions approuvées, les fonctions de révocation et des enregistrements montrant combien d'autorité l'agent a déjà utilisée.
Mata a déclaré que RAMS ne transférerait pas la responsabilité à l'agent ni ne rembourserait un mandant pour une perte autorisée. Au lieu de cela, la norme proposée fournirait des preuves montrant qui a accordé l'autorité, ce que l'agent pouvait faire et si la transaction restait dans ces limites.
« Son but est de rendre l'attribution vérifiable : qui a accordé l'autorité, ce que l'agent était autorisé à faire, s'il est resté dans ces limites et quelle personne ou quel contrôle a échoué lorsque ce n'était pas le cas. »
ERC-8226 reste un projet plutôt qu'une norme Ethereum adoptée ou une exigence légale. Sa page de discussion répertorie également des questions non résolues, notamment si les jetons achetés par un agent doivent rester dans le portefeuille de l'agent ou être réglés directement dans le portefeuille du mandant.
Les règles américaines maintiennent la responsabilité des entreprises réglementées
Pour les marchés américains, les règles de valeurs mobilières existantes imposent déjà des obligations aux entreprises qui fournissent l'accès aux bourses et aux systèmes de négociation alternatifs.
En vertu de la règle 15c3-5 de la SEC, un courtier-négociant fournissant un accès au marché doit maintenir des contrôles de risques financiers et réglementaires sous son contrôle direct et exclusif, sous réserve d'exceptions limitées. Les orientations de la SEC indiquent que le courtier-négociant reste responsable de l'efficacité de ces contrôles même lorsqu'il utilise une technologie fournie par un tiers indépendant.
La règle exige des vérifications automatisées avant transaction conçues pour arrêter les ordres qui dépassent des seuils de crédit ou de capital prédéfinis. Elle exige également des contrôles qui limitent les systèmes de trading aux personnes autorisées, bloquent les transactions sur titres interdites et fournissent des rapports d'exécution immédiats au personnel de surveillance.
Pour les paiements des consommateurs, le règlement E exige que les transferts électroniques de fonds préautorisés comportent une autorisation écrite ou authentifiée de manière similaire du titulaire du compte. Les orientations du CFPB indiquent également que le processus d'autorisation doit démontrer l'identité et l'accord du consommateur, tout en permettant au consommateur d'arrêter ou de révoquer les paiements futurs selon des procédures spécifiées.
Les règles actuelles du CFPB ne précisent pas directement comment une instruction permanente telle que « gérer mon portefeuille » devrait s'appliquer lorsqu'un agent IA sélectionne et exécute indépendamment des transferts individuels. Sandmark a rapporté que les avocats restent divisés sur la question de savoir si un paiement manipulé par un agent ressemblerait à un transfert non autorisé causé par des identifiants volés ou à une transaction autorisée effectuée dans le cadre d'un accès précédemment accordé.
En dehors des États-Unis, la gouverneure adjointe de la Banque d'Angleterre, Sarah Breeden, a déclaré en juin que les cadres de surveillance financière n'avaient pas été conçus pour des agents autonomes et qu'exiger une approbation humaine pour chaque action pourrait être irréaliste. Elle a déclaré que les régulateurs envisageaient des garanties plus solides, notamment des disjoncteurs ou des interrupteurs d'arrêt à l'échelle du marché si des modèles d'IA défectueux menaçaient les systèmes de trading.
