Agentes de IA começaram a executar negociações e movimentar fundos sem aprovação humana constante, levando o CEO da Brickken, Edwin Mata, a argumentar que a responsabilidade deve seguir a autoridade concedida ao software, em vez de ser atribuída à própria IA.
Resumo
- Agentes de IA não podem assumir deveres legais porque a lei atual não os reconhece como pessoas jurídicas.
- Mata disse que os principais geralmente arcam com o resultado quando os agentes agem dentro de um mandato autorizado.
- ERC-8226 propõe limites de tempo, limites financeiros, controles de revogação e registros verificáveis para agentes de IA.
- As regras de valores mobiliários dos EUA já exigem que corretores-distribuidores controlem sistemas automatizados que acessam mercados regulamentados.
A Sandmark noticiou em 6 de agosto que as leis existentes não fornecem uma resposta única para perdas causadas por agentes financeiros autônomos, deixando os tribunais a examinar o usuário, o desenvolvedor, a plataforma e a instituição envolvidos em cada transação.
O relatório disse que a lei contratual, as regras de negligência, a responsabilidade do produto e os deveres fiduciários podem ser aplicados, dependendo de quem controlava o agente e o que causou a perda. Um usuário pode arcar com o resultado de uma negociação autorizada, enquanto um desenvolvedor ou plataforma pode enfrentar reivindicações se design defeituoso, salvaguardas fracas ou informações corrompidas empurrarem o agente para fora de seu papel pretendido.
Comentando sobre o assunto, Edwin Mata, advogado e CEO e cofundador da plataforma de tokenização Brickken, disse ao crypto.news que a responsabilidade nunca deve ser atribuída diretamente ao software.
“Sob a lei atual, a IA não é uma pessoa jurídica capaz de assumir deveres ou arcar com responsabilidade. É um sistema técnico agindo em nome de uma pessoa natural ou jurídica.”
De acordo com Mata, uma investigação deve, em vez disso, estabelecer quem autorizou o agente, cujos interesses ele representava e quais poderes recebeu. Tal investigação ajudaria a distinguir uma decisão perdedora tomada dentro de uma estratégia aprovada de uma transação que violou os limites do agente.
A responsabilidade do agente de IA segue a autoridade concedida
Mata comparou a relação jurídica a uma procuração, sob a qual uma parte recebe permissão para agir em nome de outra dentro de um escopo definido. Quando um emissor, banco ou investidor autoriza um agente a transacionar, disse ele, o principal normalmente arca com as consequências das ações que permanecem dentro dessa autoridade.
Sob o mesmo raciocínio, um investidor não poderia rejeitar uma negociação simplesmente porque o software produziu um resultado desfavorável. Uma perda de preço não mostra por si só que o agente agiu sem permissão ou que outra parte falhou em seus deveres.
“Um emissor não pode repudiar uma transação desfavorável, mas autorizada, meramente porque a decisão foi gerada por software”, disse Mata.
A responsabilidade pode mudar quando um agente excede seu mandato. Mata disse que um desenvolvedor, plataforma ou instituição financeira pode enfrentar exposição se seu design ou controles causaram ou permitiram a falha, embora a avaliação final dependa dos fatos e da lei aplicável.
A Sandmark citou distinções legais semelhantes em seu relatório. Chanté Eliaszadeh, fundadora da Astraea Counsel, disse à publicação que a responsabilidade geralmente seguiria o controle. Ela disse que os usuários são geralmente o ponto de partida quando os agentes agem em seu nome, mas os desenvolvedores podem enfrentar risco se um sistema comercializado para negociação autônoma falhar de uma maneira previsível.
A questão ganhou urgência à medida que os agentes obtêm acesso direto a carteiras e sistemas de pagamento. Em maio, um relatório da Keyrock descobriu que agentes de IA haviam liquidado $73 milhões por meio de 176 milhões de transações nos últimos 12 meses, com USDC respondendo por 98,6% dos pagamentos examinados.
A Coinbase também conectou agentes à negociação, gestão de portfólio e pagamentos sob limites definidos pelo usuário. Em julho, a Chainalysis contou mais de 100 milhões de pagamentos vinculados a x402 na Base, embora a empresa de análise tenha dito que a agricultura de meme-coins e a atividade automatizada contribuíram para os totais iniciais de transações. Os números, portanto, não representavam apenas agentes independentes comprando bens ou serviços.
Aprovação humana precisa de limites claros e aplicáveis
Embora uma pessoa possa aprovar formalmente a atividade de um agente, Mata disse que o consentimento por si só não fornece controle significativo se a pessoa não puder entender a autoridade que está sendo concedida.
A delegação eficaz, em sua opinião, requer uma lista de ações permitidas e ativos elegíveis, juntamente com limites para transações individuais e gastos totais. Um mandato também deve especificar sua duração, as condições que exigem revisão humana, o direito do principal de revogar o acesso e um registro de cada ação tomada.
Tais controles já estão aparecendo em produtos comerciais. A Anchorage Digital introduziu o banking agêntico em maio, com identidades verificadas, limites de gastos e controles de auditoria para sistemas autônomos que acessam cripto e trilhos de pagamento tradicionais.
Visa e Wirex testaram separadamente pagamentos com stablecoin liderados por agentes para assinaturas de software, orçamentos de marketing e compras. De acordo com a Wirex, os testes foram projetados para examinar segurança, confiabilidade, transparência e controle do consumidor quando o software inicia pagamentos para um usuário ou empresa.
Um guia de junho sobre pagamentos agênticos explicou como o x402 permite que software autônomo pague por dados, serviços de computação e recursos online usando stablecoins. Como esses pagamentos podem ocorrer sem que uma pessoa aprove cada transação, os sistemas de autorização devem estabelecer o que o agente pode comprar, quanto pode gastar e quando seu acesso termina.
ERC-8226 registraria mandatos de agentes de IA onchain
Mata apontou para o ERC-8226, o Padrão de Mandato de Agente Regulamentado proposto, como um modelo para tornar a autoridade delegada verificável.
Arquivado como um rascunho de padrão Ethereum em 12 de abril, o ERC-8226 é projetado para agentes de IA que operam com ativos regulamentados tokenizados. A proposta foi escrita pelos contribuidores da Brickken Ludovico Rossi, Dario Lo Buglio, Thamer Dridi e Nabil El Alami Khalifi.
Conhecido como RAMS, o padrão permitiria que um principal verificado desse a um agente onchain permissão limitada por ativo, ação, duração e valor monetário. Um contrato de token regulamentado poderia verificar o mandato quando o agente tentasse executar uma transação.
A proposta separa três questões que podem surgir durante uma negociação liderada por agente. Um registro de identidade confirmaria que o agente existe, um provedor de conformidade determinaria se o principal é elegível para transacionar o ativo, e o registro RAMS verificaria se a ação planejada está dentro do mandato delegado.
Sob a especificação do rascunho, um mandato poderia definir um valor máximo para uma transação e um valor cumulativo em várias transações. Também poderia incluir tempos de ativação e expiração, ativos permitidos, ações aprovadas, funções de revogação e registros mostrando quanta autoridade o agente já usou.
Mata disse que o RAMS não transferiria responsabilidade para o agente nem reembolsaria um principal por uma perda autorizada. Em vez disso, o padrão proposto forneceria evidências mostrando quem concedeu a autoridade, o que o agente poderia fazer e se a transação permaneceu dentro desses limites.
“Seu propósito é tornar a atribuição verificável: quem concedeu a autoridade, o que o agente foi autorizado a fazer, se permaneceu dentro desses limites e qual pessoa ou controle falhou quando não permaneceu.”
O ERC-8226 permanece um rascunho, não um padrão Ethereum adotado ou requisito legal. Sua página de discussão também lista questões não resolvidas, incluindo se os tokens comprados por um agente devem permanecer na carteira do agente ou serem liquidados diretamente na carteira do principal.
Regras dos EUA mantêm responsabilidade com empresas regulamentadas
Para os mercados dos EUA, as regras de valores mobiliários existentes já impõem deveres às empresas que fornecem acesso a bolsas e sistemas de negociação alternativos.
Sob a Regra 15c3-5 da SEC, um corretor-distribuidor que fornece acesso ao mercado deve manter controles de risco financeiro e regulatório sob seu controle direto e exclusivo, sujeito a exceções limitadas. A orientação da SEC diz que o corretor-distribuidor permanece responsável pela eficácia desses controles mesmo quando usa tecnologia fornecida por um terceiro independente.
A regra exige verificações automatizadas pré-negociação projetadas para impedir ordens que excedam limites de crédito ou capital predefinidos. Também exige controles que restrinjam os sistemas de negociação a pessoas autorizadas, bloqueiem transações de valores mobiliários proibidas e forneçam relatórios de execução imediatos à equipe de vigilância.
Para pagamentos ao consumidor, a Regulação E exige que transferências eletrônicas de fundos pré-autorizadas tenham uma autorização escrita ou autenticada de forma semelhante do titular da conta. A orientação do CFPB também afirma que o processo de autorização deve demonstrar a identidade e o acordo do consumidor, permitindo que o consumidor interrompa ou revogue pagamentos futuros sob procedimentos especificados.
As regras atuais do CFPB não afirmam diretamente como uma instrução permanente como "gerencie meu portfólio" deve se aplicar quando um agente de IA seleciona e executa transferências individuais de forma independente. A Sandmark relatou que os advogados continuam divididos sobre se um pagamento manipulado por agente se assemelharia a uma transferência não autorizada causada por credenciais roubadas ou a uma transação autorizada realizada sob acesso previamente concedido.
Fora dos Estados Unidos, a vice-governadora do Banco da Inglaterra, Sarah Breeden, disse em junho que as estruturas de supervisão financeira não foram projetadas para agentes autônomos e que exigir aprovação humana para cada ação pode ser irrealista. Ela disse que os reguladores estavam considerando salvaguardas mais fortes, incluindo disjuntores ou interruptores de emergência em todo o mercado se modelos de IA defeituosos ameaçassem os sistemas de negociação.
