AI-агенти почали виконувати угоди та переміщувати кошти без постійного схвалення людини, що спонукало генерального директора Brickken Едвіна Мату стверджувати, що відповідальність має слідувати за повноваженнями, наданими програмному забезпеченню, а не покладатися на сам ШІ.
Підсумок
- AI-агенти не можуть брати на себе юридичні обов'язки, оскільки чинне законодавство не визнає їх юридичними особами.
- Мата зазначив, що принципали зазвичай несуть наслідки, коли агенти діють у межах наданих повноважень.
- ERC-8226 пропонує обмеження часу, фінансові ліміти, контроль відкликання та перевірені записи для AI-агентів.
- Правила цінних паперів США вже вимагають від брокерів-дилерів контролювати автоматизовані системи, які мають доступ до регульованих ринків.
Sandmark повідомив 6 серпня, що чинне законодавство не дає однозначної відповіді щодо збитків, завданих автономними фінансовими агентами, залишаючи судам досліджувати користувача, розробника, платформу та установу, задіяні в кожній транзакції.
У звіті зазначено, що договірне право, правила недбалості, відповідальність за продукт та фідуціарні обов'язки можуть застосовуватися залежно від того, хто контролював агента та що спричинило збиток. Користувач може нести наслідки авторизованої угоди, тоді як розробник або платформа можуть зіткнутися з претензіями, якщо помилкова конструкція, слабкі захисні механізми або пошкоджена інформація вивела агента за межі його призначеної ролі.
Коментуючи це питання, Едвін Мата, юрист та генеральний директор і співзасновник платформи токенізації Brickken, розповів crypto.news, що відповідальність ніколи не повинна покладатися безпосередньо на програмне забезпечення.
«За чинним законодавством ШІ не є юридичною особою, здатною брати на себе обов'язки або нести відповідальність. Це технічна система, що діє від імені фізичної або юридичної особи».
На думку Мати, розслідування має встановити, хто авторизував агента, чиї інтереси він представляв та які повноваження отримав. Таке розслідування допоможе відрізнити збиткове рішення, прийняте в межах затвердженої стратегії, від транзакції, яка порушила ліміти агента.
Відповідальність AI-агента слідує за наданими повноваженнями
Мата порівняв правові відносини з довіреністю, за якою одна сторона отримує дозвіл діяти від імені іншої у визначених межах. Коли емітент, банк або інвестор уповноважує агента здійснювати транзакції, за його словами, принципал зазвичай несе наслідки дій, що залишаються в межах цих повноважень.
За тією ж логікою, інвестор не може відхилити угоду лише тому, що програмне забезпечення дало несприятливий результат. Втрата ціни сама по собі не свідчить про те, що агент діяв без дозволу або що інша сторона не виконала своїх обов'язків.
«Емітент не може відмовитися від несприятливої, але авторизованої транзакції лише тому, що рішення було прийняте програмним забезпеченням», — сказав Мата.
Відповідальність може змінитися, коли агент перевищує свої повноваження. Мата сказав, що розробник, платформа або фінансова установа можуть зазнати ризику, якщо їхній дизайн або контроль спричинили або допустили збій, хоча остаточна оцінка залежатиме від фактів та застосовного законодавства.
Sandmark у своєму звіті навів подібні правові розмежування. Шанте Еліазаде, засновниця Astraea Counsel, розповіла виданню, що відповідальність зазвичай слідує за контролем. Вона сказала, що користувачі зазвичай є відправною точкою, коли агенти діють від їхнього імені, але розробники можуть зіткнутися з ризиком, якщо система, призначена для автономної торгівлі, вийшла з ладу передбачуваним чином.
Це питання набуло актуальності, оскільки агенти отримують прямий доступ до гаманців і платіжних систем. У травні звіт Keyrock показав, що AI-агенти здійснили платежі на суму $73 мільйони через 176 мільйонів транзакцій за попередні 12 місяців, причому USDC становив 98,6% досліджених платежів.
Coinbase також підключив агентів до торгівлі, управління портфелем та платежів із лімітами, встановленими користувачем. До липня Chainalysis нарахувала понад 100 мільйонів платежів, пов'язаних з x402, на Base, хоча аналітична фірма зазначила, що фермерство мемкоїнів та автоматизована діяльність сприяли раннім обсягам транзакцій. Тому ці цифри не відображали лише незалежних агентів, які купують товари чи послуги.
Схвалення людиною потребує чітких і здійсненних обмежень
Хоча людина може формально схвалити діяльність агента, Мата сказав, що сама по собі згода не забезпечує значущого контролю, якщо людина не може зрозуміти надані повноваження.
Ефективне делегування, на його думку, вимагає переліку дозволених дій і відповідних активів, а також лімітів для окремих транзакцій і загальних витрат. Мандат також має визначати його тривалість, умови, що вимагають перегляду людиною, право принципала скасувати доступ, а також запис кожної виконаної дії.
Такі засоби контролю вже з'являються в комерційних продуктах. Anchorage Digital представив агентний банкінг у травні з перевіреними ідентифікаційними даними, лімітами витрат і аудиторським контролем для автономних систем, що отримують доступ до крипто- та традиційних платіжних рейок.
Visa та Wirex окремо протестували агентні платежі в стейблкоїнах для підписок на програмне забезпечення, маркетингових бюджетів і закупівель. За словами Wirex, випробування були розроблені для вивчення безпеки, надійності, прозорості та контролю з боку споживача, коли програмне забезпечення ініціює платежі для користувача або бізнесу.
У червневому посібнику з агентних платежів пояснювалося, як x402 дозволяє автономному програмному забезпеченню оплачувати дані, обчислювальні послуги та онлайн-ресурси за допомогою стейблкоїнів. Оскільки такі платежі можуть здійснюватися без схвалення кожної транзакції людиною, системи авторизації повинні визначати, що агент може купувати, скільки він може витратити та коли закінчується його доступ.
ERC-8226 фіксував би мандати AI-агентів у блокчейні
Мата вказав на ERC-8226, запропонований стандарт регульованих мандатів агентів, як на одну з моделей для забезпечення перевірності делегованих повноважень.
Поданий як проєкт стандарту Ethereum 12 квітня, ERC-8226 призначений для AI-агентів, що працюють з токенізованими регульованими активами. Пропозицію написали учасники Brickken Людовіко Россі, Даріо Ло Бульйо, Тамер Дріді та Набіль Ель Аламі Халіфі.
Відомий як RAMS, цей стандарт дозволив би перевіреному принципалу надавати ончейн-агенту дозвіл, обмежений активом, дією, тривалістю та грошовою вартістю. Контракт регульованого токена міг би перевіряти мандат, коли агент намагається виконати транзакцію.
Пропозиція розділяє три питання, які можуть виникнути під час торгівлі під керівництвом агента. Реєстр ідентичності підтверджував би, що агент існує, постачальник комплаєнсу визначав би, чи має принципал право здійснювати операції з активом, а реєстр RAMS перевіряв би, чи запланована дія входить у делегований мандат.
Згідно з проєктом специфікації, мандат міг би встановлювати максимальну суму для однієї транзакції та сукупну суму для кількох транзакцій. Він також міг би включати час активації та закінчення, дозволені активи, схвалені дії, функції скасування та записи, що показують, скільки повноважень агент уже використав.
Мата сказав, що RAMS не перекладає відповідальність на агента і не відшкодовує принципалу санкціоновані збитки. Натомість запропонований стандарт надавав би докази, що показують, хто надав повноваження, що агент міг робити і чи залишалася транзакція в межах цих обмежень.
«Його мета — зробити атрибуцію перевірною: хто надав повноваження, що агенту було дозволено робити, чи залишався він у цих межах і яка особа чи контроль вийшли з ладу, якщо це не так».
ERC-8226 залишається проєктом, а не прийнятим стандартом Ethereum або юридичною вимогою. На його сторінці обговорення також перелічені невирішені питання, зокрема, чи повинні токени, придбані агентом, залишатися в гаманці агента чи надходити безпосередньо в гаманець принципала.
Правила США залишають відповідальність за регульованими фірмами
Для ринків США існуючі правила щодо цінних паперів уже покладають обов'язки на фірми, які надають доступ до бірж та альтернативних торгових систем.
Відповідно до Правила 15c3-5 SEC, брокер-дилер, який надає доступ до ринку, повинен підтримувати фінансові та регуляторні ризик-контролі під своїм прямим та виключним контролем, за винятком обмежених випадків. Роз'яснення SEC говорить, що брокер-дилер залишається відповідальним за ефективність цих контролів, навіть якщо він використовує технології, надані незалежною третьою стороною.
Правило вимагає автоматизованих попередніх перевірок, призначених для зупинки замовлень, що перевищують попередньо встановлені кредитні або капітальні пороги. Воно також вимагає контролю, який обмежує торгові системи для авторизованих осіб, блокує заборонені операції з цінними паперами та надає негайні звіти про виконання наглядовому персоналу.
Для споживчих платежів Регламент E вимагає, щоб попередньо авторизовані електронні перекази коштів мали письмову або аналогічну автентифіковану авторизацію від власника рахунку. Керівництво CFPB також зазначає, що процес авторизації повинен підтверджувати особу та згоду споживача, дозволяючи споживачеві зупинити або скасувати майбутні платежі за визначеними процедурами.
Поточні правила CFPB прямо не вказують, як постійна інструкція, така як «керувати моїм портфелем», повинна застосовуватися, коли AI-агент самостійно обирає та виконує окремі перекази. Sandmark повідомив, що юристи залишаються розділеними щодо того, чи буде маніпульований платіж агента схожий на несанкціонований переказ, спричинений викраденими обліковими даними, чи на авторизовану операцію, здійснену за раніше наданим доступом.
За межами Сполучених Штатів заступник керуючого Банку Англії Сара Брідін заявила в червні, що рамки фінансового нагляду не були розроблені для автономних агентів, і що вимагати схвалення людини для кожної дії може бути нереалістично. Вона сказала, що регулятори розглядають посилені гарантії, включаючи автоматичні вимикачі або загальноринкові аварійні вимикачі, якщо несправні моделі AI загрожують торговим системам.
