OpenAI pyta Kongres, czy spowolnienie rozwoju AI byłoby legalne

OpenAI zapytało członków Kongresu, czy konkurencyjne firmy AI mogłyby legalnie zgodzić się na spowolnienie rozwoju, gdy jego główny naukowiec wzywa branżę do ustanowienia wspólnych standardów bezpieczeństwa.

WedługWIRED, który powołał się na osoby bliskie firmie, OpenAI zapytało ustawodawców w ostatnich tygodniach, czy porozumienie między firmami AI w sprawie spowolnienia rozwoju mogłoby naruszać przepisy antymonopolowe.

Zwrócenie się do ustawodawców następuje po tym, jak główny naukowiec OpenAI Jakub Pachocki wezwał do dobrowolnych spowolnień, dopóki twórcy nie będą mogli lepiej wykazać, że ich systemy są bezpieczne. Jednak firmy są pod presją, by kontynuować rozwój, nawet gdy ich własni badacze mają obawy.

„Konkurencja komercyjna i geopolityczna w przestrzeni AI jest niezwykle intensywna, co prowadzi do niepokojącej dynamiki, w której firmy są zachęcane do wypuszczania produktów, zanim ich ryzyko zostanie w pełni zrozumiane” – powiedziała Miranda Bogen, główna technolożka w Center for Democracy and Technology, w rozmowie z Decrypt.

„Nawet gdy wewnętrzny personel wie, że potrzebne są dalsze badania i testy, ich firmy są pod ogromną presją, by iść na skróty i pomijać krytyczne testy bezpieczeństwa, mimo narastających dowodów na konsekwencje zbyt szybkiego działania” – dodała.

Porozumienie mające na celu spowolnienie rozwoju AI mogłoby wzbudzić obawy antymonopolowe poprzez ograniczenie konkurencji. Senatorowie Adam Schiff i Jim Banks wprowadzili legislację mającą chronić określone współprace w zakresie bezpieczeństwa, z zastrzeżeniem wcześniejszego powiadomienia Departamentu Sprawiedliwości.

Debata na temat spowolnienia rozwoju AI pojawia się w momencie, gdy Stany Zjednoczone i Chiny rywalizują o przywództwo w tej technologii. Prezydent USA Donald Trump opóźnił w maju rozporządzenie wykonawcze dotyczące AI z powodu obaw, że mogłoby osłabić przewagę Ameryki nad Chinami. Trump później podpisał to rozporządzenie w czerwcu, tworząc dobrowolny proces przeglądu zaawansowanych modeli przed ich wydaniem.

Bardziej bezpośrednie niż obawy dotyczące bezpieczeństwa narodowego, zachęty finansowe mogą utrudnić osiągnięcie porozumienia.

„Każdy postęp w obecnych warunkach przynosi wiele milionów lub miliardów więcej w finansowaniu i stawia twórców tego postępu w pozycji większej władzy i wpływu” – powiedział Duncan Sabien, szef komunikacji w Machine Intelligence Research Institute, w rozmowie z Decrypt.

Nazywając dynamikę wyścigu zbrojeń realną, Sabien powiedział, że OpenAI i Anthropic są pod presją, by kontynuować rozwój mimo niepewnego ryzyka, ponieważ każdy nowy system pomaga budować bardziej zdolnych następców, pozwalając rywalowi wysunąć się na prowadzenie, jeśli którakolwiek z firm zwolni bez wspólnego porozumienia.

„Jest to szczególnie prawdziwe, ponieważ zyski w inteligencji się kumulują; każdy nowy system ułatwia trenowanie i wdrażanie następnego, bardziej zaawansowanego systemu” – powiedział. „Bez jakiegoś mechanizmu koordynacji, wycofanie się oznacza po prostu, że drugi gracz zdobywa przewagę.

W sierpniu OpenAI wstrzymało wewnętrzne prace nad Astra pozbawione silniejszych zabezpieczeń z powodu obaw dotyczących cyberbezpieczeństwa. Jednak zarówno OpenAI, jak i Anthropic złagodziły swoje zobowiązania dotyczące bezpieczeństwa w lutym, a główny dyrektor naukowy Anthropic, Jared Kaplan, argumentował, że samodzielne spowolnienie rozwoju ma mniejszy sens, gdy konkurenci kontynuują rozwój.

Debata na temat spowolnienia rozwoju AI nasiliła się w tym tygodniu po tym, jak były inżynier Anthropic, Jacob Coxon, publicznie ogłosił swoją rezygnację, powołując się na obawy dotyczące ryzyka, jakie dalszy rozwój AI stwarza dla ludzkości.

„Ludzie tworzący AI szczerze wierzą, że do końca tej dekady może ona nas wszystkich zabić” – powiedział Coxon na X, dodając, że nie jest to „chwyt marketingowy”.

„Co więcej, wielu menedżerów i starszych badaczy będzie w prasie ubierać swoje sformułowania tak, by brzmiały rozsądnie – ale słyszę, jak ci sami ludzie prywatnie wyrażają strach. Żadna inna działalność człowieka nie stwarza takiego poziomu zagrożenia” – napisał.

Jednak Sabien powiedział, że badacze mogą niewiele osiągnąć, odchodząc, jeśli ktoś inny po prostu zajmie ich miejsce.

„Jeśli wystarczająco wielu z nich osiągnie wspólną świadomość, że wszyscy powinni przestać, wtedy mogą przełamać barierę koordynacji i zatrzymać się razem, zamiast być po prostu zastąpieni przez kolejną, nieco mniej ostrożną osobę” – powiedział.