Los agentes de IA han comenzado a ejecutar operaciones y mover fondos sin la aprobación humana constante, lo que llevó al CEO de Brickken, Edwin Mata, a argumentar que la responsabilidad debe seguir la autoridad otorgada al software en lugar de atribuirse a la propia IA.
Resumen
- Los agentes de IA no pueden asumir deberes legales porque la ley actual no los reconoce como personas jurídicas.
- Mata dijo que los mandantes normalmente soportan el resultado cuando los agentes actúan dentro de un mandato autorizado.
- ERC-8226 propone límites de tiempo, topes financieros, controles de revocación y registros verificables para los agentes de IA.
- Las reglas de valores de EE. UU. ya requieren que los corredores de bolsa controlen los sistemas automatizados que acceden a los mercados regulados.
Sandmark informó el 6 de agosto que las leyes existentes no proporcionan una respuesta única para las pérdidas causadas por agentes financieros autónomos, dejando que los tribunales examinen al usuario, desarrollador, plataforma e institución involucrados en cada transacción.
El informe dijo que el derecho contractual, las reglas de negligencia, la responsabilidad del producto y los deberes fiduciarios podrían aplicarse, dependiendo de quién controlaba al agente y qué causó la pérdida. Un usuario puede soportar el resultado de una operación autorizada, mientras que un desarrollador o plataforma podría enfrentar reclamos si un diseño defectuoso, salvaguardas débiles o información corrupta empujaron al agente fuera de su función prevista.
Al comentar sobre el tema, Edwin Mata, abogado y CEO y cofundador de la plataforma de tokenización Brickken, dijo a crypto.news que la responsabilidad nunca debería asignarse directamente al software.
“Según la ley actual, la IA no es una persona jurídica capaz de asumir deberes o soportar responsabilidad. Es un sistema técnico que actúa en nombre de una persona natural o jurídica.”
Según Mata, una investigación debería establecer quién autorizó al agente, cuyos intereses representaba y qué poderes recibió. Tal investigación ayudaría a distinguir una decisión perdedora tomada dentro de una estrategia aprobada de una transacción que rompió los límites del agente.
La responsabilidad del agente de IA sigue la autoridad otorgada
Mata comparó la relación legal con un poder notarial, bajo el cual una parte recibe permiso para actuar en nombre de otra dentro de un ámbito definido. Cuando un emisor, banco o inversor autoriza a un agente a realizar transacciones, dijo, el mandante normalmente soportaría las consecuencias de las acciones que permanecen dentro de esa autoridad.
Bajo el mismo razonamiento, un inversor no podría rechazar una operación simplemente porque el software produjo un resultado desfavorable. Una pérdida de precio no muestra por sí misma que el agente actuó sin permiso o que otra parte falló en sus deberes.
“Un emisor no puede desconocer una transacción desfavorable pero autorizada simplemente porque la decisión fue generada por software”, dijo Mata.
La responsabilidad puede cambiar cuando un agente excede su mandato. Mata dijo que un desarrollador, plataforma o institución financiera podría enfrentar exposición si su diseño o controles causaron o permitieron el fallo, aunque la evaluación final dependería de los hechos y la ley aplicable.
Sandmark citó distinciones legales similares en su informe. Chanté Eliaszadeh, fundadora de Astraea Counsel, dijo a la publicación que la responsabilidad generalmente seguiría el control. Ella dijo que los usuarios suelen ser el punto de partida cuando los agentes actúan en su nombre, pero los desarrolladores podrían enfrentar riesgo si un sistema comercializado para operaciones autónomas fallara de manera previsible.
La cuestión ha ganado urgencia a medida que los agentes obtienen acceso directo a billeteras y sistemas de pago. En mayo, un informe de Keyrock encontró que los agentes de IA habían liquidado $73 millones a través de 176 millones de transacciones durante los últimos 12 meses, con USDC representando el 98.6% de los pagos examinados.
Coinbase también ha conectado agentes a operaciones, gestión de carteras y pagos bajo límites establecidos por el usuario. Para julio, Chainalysis había contado más de 100 millones de pagos vinculados a x402 en Base, aunque la firma de análisis dijo que la agricultura de meme-coins y la actividad automatizada contribuyeron a los totales de transacciones iniciales. Por lo tanto, las cifras no representaban solo agentes independientes comprando bienes o servicios.
La aprobación humana necesita límites claros y ejecutables
Si bien una persona puede aprobar formalmente la actividad de un agente, Mata dijo que el consentimiento por sí solo no proporciona un control significativo si la persona no puede entender la autoridad que se está otorgando.
La delegación efectiva, en su opinión, requiere una lista de acciones permitidas y activos elegibles, junto con límites para transacciones individuales y gasto total. Un mandato también debe especificar su duración, las condiciones que requieren revisión humana, el derecho del principal a revocar el acceso y un registro de cada acción tomada.
Dichos controles ya están apareciendo en productos comerciales. Anchorage Digital introdujo la banca agéntica en mayo con identidades verificadas, límites de gasto y controles de auditoría para sistemas autónomos que acceden a cripto y vías de pago tradicionales.
Visa y Wirex han probado por separado pagos con stablecoin liderados por agentes para suscripciones de software, presupuestos de marketing y adquisiciones. Según Wirex, los ensayos fueron diseñados para examinar la seguridad, confiabilidad, transparencia y control del consumidor cuando el software inicia pagos para un usuario o negocio.
Una guía de junio sobre pagos agénticos explicó cómo x402 permite que el software autónomo pague por datos, servicios informáticos y recursos en línea usando stablecoins. Debido a que esos pagos pueden ocurrir sin que una persona apruebe cada transacción, los sistemas de autorización deben establecer qué puede comprar el agente, cuánto puede gastar y cuándo termina su acceso.
ERC-8226 registraría los mandatos de agentes de IA en cadena
Mata señaló a ERC-8226, el Estándar de Mandato de Agente Regulado propuesto, como un modelo para hacer verificable la autoridad delegada.
Presentado como borrador de estándar de Ethereum el 12 de abril, ERC-8226 está diseñado para agentes de IA que operan con activos regulados tokenizados. La propuesta fue escrita por los contribuyentes de Brickken Ludovico Rossi, Dario Lo Buglio, Thamer Dridi y Nabil El Alami Khalifi.
Conocido como RAMS, el estándar permitiría que un principal verificado otorgue a un agente en cadena un permiso limitado por activo, acción, duración y valor monetario. Un contrato de token regulado podría verificar el mandato cuando el agente intente ejecutar una transacción.
La propuesta separa tres preguntas que pueden surgir durante una operación liderada por un agente. Un registro de identidad confirmaría que el agente existe, un proveedor de cumplimiento determinaría si el principal es elegible para transar en el activo, y el registro RAMS verificaría si la acción planificada cae dentro del mandato delegado.
Bajo la especificación del borrador, un mandato podría establecer un monto máximo para una transacción y un monto acumulativo en múltiples transacciones. También podría incluir tiempos de activación y expiración, activos permitidos, acciones aprobadas, funciones de revocación y registros que muestren cuánta autoridad ha utilizado ya el agente.
Mata dijo que RAMS no transferiría responsabilidad al agente ni reembolsaría a un principal por una pérdida autorizada. En cambio, el estándar propuesto proporcionaría evidencia que muestre quién otorgó la autoridad, qué podía hacer el agente y si la transacción permaneció dentro de esos límites.
“Su propósito es hacer verificable la atribución: quién otorgó la autoridad, qué se le permitió hacer al agente, si permaneció dentro de esos límites y qué persona o control falló cuando no lo hizo.”
ERC-8226 sigue siendo un borrador en lugar de un estándar adoptado de Ethereum o un requisito legal. Su página de discusión también enumera preguntas sin resolver, incluido si los tokens comprados por un agente deben permanecer en la billetera del agente o liquidarse directamente en la billetera del principal.
Las reglas de EE. UU. mantienen la responsabilidad en las empresas reguladas
Para los mercados de EE. UU., las reglas de valores existentes ya imponen deberes a las empresas que brindan acceso a bolsas y sistemas de negociación alternativos.
Bajo la Regla 15c3-5 de la SEC, un corredor de bolsa que proporciona acceso al mercado debe mantener controles de riesgo financieros y regulatorios bajo su control directo y exclusivo, sujeto a excepciones limitadas. La guía de la SEC dice que el corredor de bolsa sigue siendo responsable de la efectividad de esos controles incluso cuando utiliza tecnología proporcionada por un tercero independiente.
La regla requiere verificaciones automáticas previas a la negociación diseñadas para detener órdenes que excedan los umbrales de crédito o capital preestablecidos. También requiere controles que restrinjan los sistemas de negociación a personas autorizadas, bloqueen transacciones de valores prohibidas y entreguen informes de ejecución inmediatos al personal de vigilancia.
Para los pagos de consumo, la Regulación E requiere que las transferencias electrónicas de fondos preautorizadas lleven una autorización escrita o autenticada de manera similar por parte del titular de la cuenta. La guía de la CFPB también establece que el proceso de autorización debe demostrar la identidad y el acuerdo del consumidor, al tiempo que permite al consumidor detener o revocar pagos futuros bajo procedimientos específicos.
Las reglas actuales de la CFPB no establecen directamente cómo debe aplicarse una instrucción permanente como "administrar mi cartera" cuando un agente de IA selecciona y ejecuta transferencias individuales de manera independiente. Sandmark informó que los abogados siguen divididos sobre si un pago manipulado por un agente se asemejaría a una transferencia no autorizada causada por credenciales robadas o a una transacción autorizada realizada bajo un acceso previamente otorgado.
Fuera de los Estados Unidos, la subgobernadora del Banco de Inglaterra, Sarah Breeden, dijo en junio que los marcos de supervisión financiera no fueron diseñados para agentes autónomos y que exigir la aprobación humana para cada acción puede ser poco realista. Dijo que los reguladores estaban considerando salvaguardas más sólidas, incluidos interruptores automáticos o interruptores de apagado en todo el mercado si modelos de IA defectuosos amenazaran los sistemas de negociación.
