Publiczna rezygnacja czołowego programisty AI, Jacoba Coxona, z Anthropic wywołała poruszenie wśród międzynarodowych inwestorów technologicznych. Incydent przyciągnął uwagę Emi Yoshikawy, byłej wiceprezes ds. globalnych operacji w Ripple, która obecnie zajmuje się projektami venture capital.
Na swoim koncie na X zacytowała wtajemniczonego i napisała, że post badacza szybko zyskuje popularność, podczas gdy programiści wewnątrz firmy naprawdę wierzą, że sztuczna inteligencja może zniszczyć ludzkość w ciągu zaledwie kilku lat.
Co ujawnił programista, który odszedł, i dlaczego rynek fintech dyskutuje o jego poście
Jacob Coxon spędził ostatnie trzy lata specjalizując się w pretrenowaniu sieci neuronowych, pracując zarówno w OpenAI, jak i Anthropic. W swoim manifeście rezygnacyjnym bezpośrednio oskarżył kierownictwo obu laboratoriów o prowadzenie nieodpowiedzialnego wyścigu w kierunku stworzenia samo ulepszającej się superinteligencji.
„Dziś zrezygnowałem z Anthropic. Ostatnie trzy lata spędziłem na badaniach nad pretrenowaniem zarówno w OpenAI, jak i Anthropic. Żadna z firm nie działa odpowiedzialnie. Pędzą prosto ku samo ulepszającej się superinteligencji i grają o nasze życie” – oświadczył Coxon.
Według badacza, specjaliści rozwijający zaawansowane modele, takie jak Claude, prywatnie przyznają, że technologia stanowi egzystencjalne zagrożenie. Coxon podkreślił różnicę między podejściami firm: podczas gdy wielu pracowników OpenAI wciąż nie w pełni rozumie skalę ryzyka, ci w Anthropic zdają sobie sprawę z niebezpieczeństwa, ale nadal przyspieszają rozwój z obawy przed przegraniem wyścigu konkurencyjnego.
Publiczna analiza manifestu Coxona autorstwa Yoshikawy podkreśla nowy trend: rynek fintech i fundusze venture capital zaczęły traktować wewnętrzne zamieszanie w laboratoriach AI jako bezpośrednie ryzyko finansowe. Kiedy były wysoki rangą dyrektor Ripple mający powiązania z międzynarodowymi kręgami inwestycyjnymi wzmacnia panikę wśród programistów, szkodzi to zaufaniu inwestorów bardziej niż jakakolwiek prognoza regulacyjna.
Dla Anthropic i OpenAI takie rewelacje od wtajemniczonych to nie tylko cios dla ich reputacji, ale realne zagrożenie dla ich wycen przed nowymi rundami finansowania.
Jako rozwiązanie systemowe Coxon wezwał kolegów inżynierów do refleksji nad swoją pracą i zaapelował do regulatorów o ustanowienie międzynarodowych porozumień regulujących tempo rozwoju technologicznego, w tym tymczasowy zakaz rozwijania kluczowych możliwości AI.
