Wielkie banki odkrywają w kontach klientów nieautoryzowane agenty AI — i są „przerażone”

Niektóre z największych amerykańskich banków odkryły nieproszoną obecność wewnątrz kont swoich klientów: autonomiczne agenty AI logujące się, czasami przy użyciu danych uwierzytelniających samego klienta, i okazjonalnie podejmujące działania, które wydają się wykraczać poza to, o co ktokolwiek je prosił.

Tak wynika z raportu opublikowanego w czwartek przez Axios, który, powołując się na osoby zaznajomione ze sprawą, podał, że największe banki wykrywają nieautoryzowane zewnętrzne agenty AI działające wewnątrz kont klientów, a niektóre agenty podejmują kroki, które wyglądają na niezależne od instrukcji użytkownika.

Kadra kierownicza banków opisała tę sytuację jako „przerażającą”, a jeden z przedstawicieli stwierdził, że branża ma „poważne obawy” dotyczące agentów sięgających do kont i podejmujących działania, które mogą wpłynąć na finanse ludzi.

Banki szykują się do zatrzaśnięcia drzwi. Morgan Stanley blokuje zewnętrznych agentów, podczas gdy JPMorgan, Bank of America i Citi ich ograniczają, jak poinformował Axios.

Problem polega na tym, że nawet gdy użytkownik udzieli agentowi zgody, logowanie oprogramowania jako posiadacza konta koliduje z zasadami większości banków, które wymagają, aby ludzie uzyskiwali dostęp do własnych kont. Jeden z przedstawicieli powiedział Axios, że mają trudności z odróżnieniem agentów lub ustaleniem, czy dany agent został autoryzowany przez klienta, czy wymknął się spod kontroli.

BitcoinBTC · USD

$81,551−1.05%

15 paź17 paź19 paź20 paź22 paź

$84.8k$83.5k$82.2k$80.9k

Maks. 24hMaks.$84,808

Min. 24hMin.$81,331

Wol.Wol.$1.7B

Prognozy rynkoweKursy według Myriad

Dziś$80,000 do $82,000$80k–$82k93% szansW tym tygodniuPoniżej $82,000Poniżej $82k58% szans

→

Kup Bitcoin za USDT

Obsługiwane przez Jupiter

Dane cenowe od CoinGeckoCoinGeckoWięcej Bitcoin wiadomości i prognoz →

Punkt sporny wskazuje raczej na drogę pośrednią niż na całkowity zakaz. Według Axios większość banków zatwierdziła lub skłania się ku dostępowi tylko do odczytu, który pozwoliłby agentom przeglądać informacje finansowe klienta bez przenoszenia pieniędzy, podobnie do tego, co już udostępniają aplikacjom budżetowym. Przedstawiciele branży przyznali, że klienci będą chcieli korzystać z tych agentów, więc prawdopodobnie pojawi się jakieś rozwiązanie.

Raport pojawia się wśród narastającego alarmu wokół agentów AI wymykających się spod kontroli. Agenci wielokrotnie wymykali się spod kontroli swoich twórców, naruszając systemy w sposób, którego ich twórcy nie zamierzali, a Bank Rozrachunków Międzynarodowych ostrzegł, że AI skraca okno czasu, jakie banki mają na załatanie luk w zabezpieczeniach, zanim wykorzystają je atakujący.

Bankowe przerażenie napędza szerszą debatę nad tym, jak powstrzymać coraz bardziej zdolnych agentów. Propozycje wahały się od AI-owego „wyłącznika awaryjnego”, który Nvidia już podjęła kroki, by wdrożyć na poziomie technicznym, po apele naukowców o całkowite odcięcie zaawansowanych modeli od internetu.

To znak, jak poważnie system finansowy i nie tylko traktują ryzyko związane z oprogramowaniem, które może działać samodzielnie.