Były inżynier Ripple i obecny badacz Anthropic, Evan Hubinger, oszacował, że istnieje ponad 10% szans, że sztuczna inteligencja (AI) może w ciągu najbliższej dekady unicestwić ludzkość.
Hubinger skomentował to, odpowiadając byłemu badaczowi Anthropic, Jacobowi Coxonowi. Ten ostatni ogłosił swoją rezygnację z firmy AI w środę po oskarżeniu czołowych laboratoriów branży o wyścig w kierunku samo udoskonalającej się superinteligencji bez odpowiednich zabezpieczeń.
"Jacob ma tutaj rację—naprawdę poważnie wierzymy, że AI może zabić wszystkich ludzi!" napisał Hubinger na X. "Osobiście uważam, że to >10% w ciągu najbliższej dekady."
Hubinger podkreślił, że jego szacunek nie był oskarżeniem, że Anthropic całkowicie ignoruje problem.
"Wierzę, że Anthropic stara się jak może, ale nie mamy jeszcze planu rozwiązania problemu alignmentu dla superinteligencji i nie jesteśmy wyraźnie na dobrej drodze do tego," powiedział.
To nieco sensacyjne ostrzeżenie przyciągnęło wiele uwagi, ponieważ Hubinger pracuje bezpośrednio nad problemem, o którym ostrzega. W Anthropic jego zadaniem jest stress-testing alignmentu, co oznacza, że obecnie monitoruje, jak techniki bezpieczeństwa mogą zawieść w dziedzinie AI.
"Hazardowanie naszym życiem"
Coxon powiedział, że ani OpenAI, ani Anthropic nie działają odpowiedzialnie.
"Żadna z tych firm nie działa odpowiedzialnie," napisał. "Pędzą prosto do samo udoskonalającej się superinteligencji i hazardują naszym życiem."
Systemy graniczne mogą wkrótce zyskać zdolność wywierania znaczącego wpływu poza kontrolowanym środowiskiem, według Coxona.
"To wkrótce będą super ludzkie systemy, które mogą zhakować wszystko, zrewolucjonizować każdą dziedzinę z dnia na dzień i zdobyć realną władzę i zasoby," powiedział.
Główne laboratoria nie ujawniają właściwie opinii publicznej ryzyk związanych z AI, według Coxona.
Coxon niemniej jednak powiedział, że pozostaje optymistą, że główne laboratoria AI mogą się skoordynować, aby spowolnić wyścig.
Ostrzeżenia od Hubingera i Coxona pojawiły się zaledwie kilka dni po tym, jak OpenAI i Anthropic wypuściły niektóre z najpotężniejszych modeli.
OpenAI zaprezentowało GPT-6 Astra 3 września, które dyrektor generalny Nvidii, Jensen Huang, opisał jako nadejście superinteligencji.
W międzyczasie Anthropic wprowadziło Claude Fable 5.1 i Claude Mythos 5.1. To najbardziej zaawansowane modele firmy do kodowania i badań naukowych.
Ripple i Interledger
Zanim stał się jednym z bardziej prominentnych badaczy pracujących nad alignmentem AI, spędził około roku jako stażysta inżynierii oprogramowania w Ripple między czerwcem 2014 a sierpniem 2015.
Hubinger pracował nad wczesnym projektem Interledger, protokołu mającego umożliwić przepływ płatności między różnymi księgami rachunkowymi i walutami.
Hubinger później przeniósł się w kierunku teoretycznej informatyki i bezpieczeństwa AI, w tym pracy w Machine Intelligence Research Institute.
Stanowisko Ripple wobec AI
Jak poinformował U.Today, dyrektor generalny Ripple, Brad Garlinghouse, stwierdził, że firma "agresywnie" adoptuje AI, przewidując, że może to przyspieszyć wzrost. Garlinghouse przyznał, że jego optymizm co do AI jest w pewnym sensie kontrariański.
"Mam nieco kontrariański pogląd na część z tego," powiedział Garlinghouse podczas wystąpienia na konferencji SALT Wyoming.
