Współzałożyciel Solany, Anatoly Yakovenko, zakwestionował motywy finansowe stojące za propozycją spowolnienia rozwoju AI, popieraną przez Dario Amodei, Sama Altmana i Elona Muska 13 września.
Podsumowanie
- Współzałożyciel Solany, Anatoly Yakovenko, powiązał propozycje tempa rozwoju AI z rentownością na poziomie kapitalizacji rynkowej wynoszącej bilion dolarów.
- Plan Dario Amodei przewiduje wbudowanych ewaluatorów, koordynację branżową i ewentualnie międzynarodowe porozumienia dotyczące bezpieczeństwa.
- Dyrektor generalny OpenAI, Sam Altman, poparł wbudowanych zewnętrznych ewaluatorów i obiecał wkrótce publicznie ujawnić dalsze szczegóły wdrożenia.
- Elon Musk poparł propozycję Amodei krótkim oświadczeniem, o którym Reuters poinformował w sobotę publicznie.
- David Sacks argumentował, że laboratoria mogłyby dobrowolnie zwolnić tempo, bez potrzeby koordynowanych ram regulacyjnych ze strony konkurentów.
Post Yakovenki na X sprowadził jego odpowiedź do czterech słów: „Profitability at $1 trillion mcap.” Nie wskazał, do której firmy odnosiła się ta liczba, ani nie podał obliczeń przychodów, wyceny czy rentowności uzasadniających ten komentarz.
Uwaga ta była odpowiedzią na debatę zapoczątkowaną przez dyrektora generalnego Anthropic, Dario Amodei, który opublikował esej wzywający do wolniejszego postępu w dziedzinie frontier artificial intelligence. Dyrektor generalny OpenAI, Sam Altman, poparł część propozycji, a Musk napisał, że „Dario ma rację”, według Reutersa.
Yakovenko wiąże tempo rozwoju AI z zachętami finansowymi
Komentarz Yakovenki przedstawiał rentowność jako możliwy motyw spowolnienia rozwoju modeli, ale współzałożyciel Solany ujął ten pomysł jako sarkastyczną obserwację. Jego post nie zawierał dowodów, że Anthropic, OpenAI lub xAI skoordynowały swoje oświadczenia z powodów finansowych.
Żadna wymieniona firma nie potwierdziła, że jej poparcie dla wolniejszego rozwoju zależy od osiągnięcia wyceny na poziomie biliona dolarów. Propozycja Amodei zamiast tego powołuje się na awarie kontroli modeli, ryzyka cybernetyczne i tempo, w jakim systemy AI pomagają tworzyć nowsze systemy.
Reuters poinformował, że Anthropic i OpenAI przygotowywały się do potencjalnych pierwszych ofert publicznych. Raport opisywał zachęty finansowe związane z rozwojem modeli, ale nie ustalił, że którakolwiek z firm osiągnęła kapitalizację rynkową biliona dolarów lub uzależniła rentowność od tej wyceny.
Ponieważ firmy pozostają prywatne, odniesienia do kapitalizacji rynkowej mogą opisywać jedynie szacunki z transakcji prywatnych lub proponowanych notowań. Yakovenko nie wyjaśnił, czy jego liczba odnosiła się do Anthropic, OpenAI, xAI czy sektora frontier AI łącznie.
Jego oświadczenie stanowi zatem osobisty komentarz, a nie ujawnioną prognozę finansową Solana Labs, Anthropic, OpenAI lub xAI. Żadne oświadczenie Solana Foundation nie łączyło sieci blockchain ani jej tokena SOL ze sporem dotyczącym polityki AI.
Amodei chce, aby rozwój frontier AI był tempo, a nie zatrzymany
W swoim eseju „We Must Pace the Frontier” Amodei stwierdził, że deweloperzy powinni spowolnić tempo, w jakim poprawiają możliwości modeli. Odróżnił tempo od zatrzymania treningu modeli lub zakończenia badań technicznych.
„Musimy spowolnić tempo, w jakim poprawiamy możliwości modeli AI” – napisał Amodei. Powiedział, że postęp może pozostać szybki, podczas gdy deweloperzy poświęcą więcej czasu na testowanie zabezpieczeń, badanie zachowania modeli i umożliwienie zewnętrznym ewaluatorom zbadania ich pracy.
Propozycja zawiera trzy etapy. Anthropic planuje zapewnić zewnętrznym ewaluatorom stały dostęp porównywalny z dostępem posiadanym przez wewnętrznych pracowników oceniających ryzyko. Amodei wymienił organizację Model Evaluation and Threat Research, znaną jako METR, jako przykład.
Drugi etap wzywa firmy frontier AI w krajach demokratycznych do koordynacji wspólnych wymogów bezpieczeństwa i limitów niekontrolowanego wzrostu możliwości. Amodei przyznał, że części takiej koordynacji mogą rodzić kwestie antymonopolowe i mogą wymagać wąskiego upoważnienia rządowego.
Jego trzeci etap wzywa do międzynarodowej koordynacji, w tym do możliwych porozumień z Chinami. Esej opisuje kilka możliwych poziomów, od ograniczeń dotyczących broni biologicznej wspomaganej przez AI po ostateczne ograniczenie szybkiego, zautomatyzowanego ulepszania modeli.
Amodei przedstawił kompleksowe wstrzymanie jako najmniej prawdopodobną formę międzynarodowego porozumienia, ponieważ weryfikacja byłaby trudna. Argumentował, że każde porozumienie powinno zachować pozycję technologiczną Stanów Zjednoczonych i ich sojuszników.
Altman i Musk poparli części planu
Dyrektor generalny OpenAI, Sam Altman, udzielił propozycji bezpośredniego poparcia w poście z 12 września. „Zgadzam się z Dario, że musimy nadać tempo rozwojowi frontieru” – napisał Altman.
Altman konkretnie zaakceptował apel Amodei o włączenie zewnętrznych ewaluatorów. „Zobowiązanie się do posiadania niezależnych ewaluatorów z dostępem przypominającym dostęp pracowników to świetny pomysł i zrobimy to samo” – powiedział. OpenAI obiecało więcej informacji, ale nie podało daty wdrożenia, nazwiska ewaluatora ani warunków dostępu.
Musk odpowiedział bardziej zwięźle. Reuters i Financial Times poinformowały, że udostępnił esej Amodei i napisał: „Dario ma rację”. Publiczna odpowiedź nie określiła, które części trzyetapowego planu przyjmie xAI.
Dostępne oświadczenia wspierają zatem włączenie Muska do grupy dyrektorów, którzy poparli Amodei. Nie ustalają jednak, że Musk, Altman i Amodei wspólnie opracowali plan lub uzgodnili jego szczegóły regulacyjne.
Żaden z trzech dyrektorów publicznie nie poparł sugerowanego przez Jakowenko związku między nadawaniem tempa a wycenami sięgającymi bilionów dolarów. Stwierdzenie Jakowenki pozostaje jego charakterystyką ich motywów.
Sacks odrzuca koordynację branżową jako konieczną
W osobnym poście na X David Sacks powiedział, że Anthropic i OpenAI mogłyby spowolnić własny rozwój bez wymagania, by uczestniczyli w tym konkurenci lub prawodawcy.
„To wy jesteście frontierem” – napisał Sacks, zwracając się do Amodei i Altmana. Opisał obie firmy jako posiadające „duopol na frontierowej inteligencji”, co opierało się na jego ocenie zdolności modeli, wzrostu przychodów i udziału w rynku.
Sacks powiedział, że poparłby dobrowolne spowolnienie, gdyby nieopublikowane systemy stwarzały ryzyko wystarczająco poważne, by zaniepokoić ich twórców. Zakwestionował potrzebę wyłączenia antymonopolowego, systemu zatwierdzania regulacyjnego lub ewaluatorów z władzą nad konkurencyjnymi laboratoriami.
Jednak jego post oskarżył firmy o dążenie do możliwego „przechwycenia regulacyjnego”, ale nie przedstawił dowodów na porozumienie między Anthropic i OpenAI w celu wykluczenia konkurentów. Żadna z firm nie zaakceptowała publicznie opisu Sacksa na dzień 13 września.
Sacks wskazał odpowiedzialność za produkt jako kolejny możliwy powód, dla którego firmy preferują bardziej przewidywalne systemy. Argumentował, że klienci już karzą modele, które zachowują się w nieautoryzowany lub zawodny sposób. Firmy nie potwierdziły, że obawy dotyczące odpowiedzialności napędzały ich poparcie.
Post zakwestionował, czy Chiny wezmą udział w globalnym porozumieniu dotyczącym AI. Esej Amodei uznaje ten sam problem weryfikacji, chociaż Amodei nadal popiera negocjacje w wąsko zdefiniowanych kwestiach ryzyka.
Zewnętrzne oceny są kolejnym obiecanym krokiem
Anthropic zobowiązało się do zaproszenia zewnętrznego zespołu oceniającego do swojego wewnętrznego procesu bezpieczeństwa. W jego eseju stwierdzono, że recenzenci powinni otrzymać firmowe laptopy, dostęp do biura i uprawnienia podobne do wewnętrznego personelu oceny ryzyka, z zastrzeżeniem ograniczeń prawnych i poufności.
Planowani recenzenci mogliby publikować ustalenia bez kontroli Anthropic nad ich wnioskami. Ograniczone redakcje mogłyby obejmować informacje objęte tajemnicą prawną, wrażliwe pod względem bezpieczeństwa, handlowo wrażliwe lub poufne informacje stron trzecich. Esejowi nie towarzyszyła żadna umowa z ewaluatorem ani data rozpoczęcia. OpenAI obiecało przyjąć podobny system. Altman powiedział, że firma ujawni więcej szczegółów „wkrótce”, pozostawiając bez odpowiedzi kwestie ewaluatora, zakresu i zasad publikacji.
Prawodawcy USA rozważają bardziej restrykcyjne podejścia. Jak wcześniej informował crypto.news, propozycja Sanders-Casar dąży do trwałego zakazu superinteligentnej sztucznej inteligencji oraz tymczasowego zawieszenia zaawansowanych prac nad AI, dopóki nowy federalny regulator nie ustanowi zasad bezpieczeństwa. Pełny projekt ustawy nie został formalnie przedstawiony, gdy jego sponsorzy opublikowali podsumowanie.
Obawy dotyczące cyberbezpieczeństwa pozostają częścią dyskusji politycznej. W powiązanych materiałach dokument Banku Rozrachunków Międzynarodowych ostrzegał, że AI może skrócić okna łatania oprogramowania z tygodni do minut, ponieważ zautomatyzowane systemy szybciej identyfikują i wykorzystują luki w zabezpieczeniach.
Amodei poprosił wiodące laboratoria o przyjęcie wbudowanych ewaluacji i koordynację standardów bezpieczeństwa, podczas gdy Altman zobowiązał OpenAI do zewnętrznej ewaluacji bez publikowania harmonogramu.
