Amerykańscy prawodawcy zaproponowali stały zakaz sztucznej superinteligencji, wstrzymanie zaawansowanego rozwoju AI oraz kary więzienia do 20 lat za naruszenia.
Podsumowanie
- Propozycja zakazałaby systemów AI dorównujących lub przewyższających ludzkie możliwości w wielu zadaniach.
- Zaawansowane prace nad AI zostałyby wstrzymane do czasu, aż nowy federalny regulator ustanowi zasady bezpieczeństwa i procedury przeglądu.
- Osoby fizyczne mogłyby otrzymać 20 lat więzienia, a firmy „karę śmierci korporacyjnej”.
- Propozycja pojawiła się, gdy OpenAI wypuściło GPT-6 Astra i przyznało się do rosnących problemów z monitorowaniem.
Biuro Sandersa poinformowało 3 września, że senator Bernie Sanders, I-Vt., i przedstawiciel Greg Casar, D-Texas, ogłosili nadchodzącą ustawę Ban Artificial Superintelligence Act, która zakazałaby rozwoju i wdrażania systemów AI sklasyfikowanych jako superinteligentne.
Propozycja zawiesiłaby również prace nad zaawansowanymi modelami AI do czasu, aż nowy federalny regulator zacznie działać i ustanowi zasady bezpieczeństwa oraz procedury przeglądu modeli. Jej sponsorzy chcą, aby Stany Zjednoczone dążyły do międzynarodowych porozumień, współpracy z sojusznikami i kontroli eksportu mających na celu zapobieżenie rozwojowi superinteligencji w innych krajach.
Pełny tekst ustawy nie został formalnie przedstawiony, gdy prawodawcy ogłosili propozycję. Sponsorzy opublikowali zamiast tego jednostronicowe podsumowanie opisujące planowane ograniczenia, system egzekwowania i kary.
Ustawa Sandersa o AI zakazałaby systemów na poziomie ludzkim
Zgodnie z oficjalnym podsumowaniem ustawy, sztuczna superinteligencja obejmowałaby systemy, które dorównują lub przewyższają ludzkie zdolności poznawcze w szerokim zakresie zadań. Definicja obejmowałaby również modele, które można łatwo zmodyfikować, aby osiągnęły ten poziom.
Druga część definicji obejmuje AI zdolne do planowania i przeprowadzenia „pozbawienia ludzkości władzy”, w tym systemy zdolne do osłabienia lub obalenia rządu USA. Niebezpieczne zdolności, takie jak pokonywanie poleceń wyłączenia lub przeprowadzanie nieautoryzowanych ataków cybernetycznych, również podlegałyby ramom egzekwowania propozycji.
Ponieważ definicja obejmuje systemy dorównujące ludzkim osiągnięciom w wielu dziedzinach, mogłaby objąć technologię powszechnie opisywaną jako ogólna sztuczna inteligencja (AGI), a nie tylko hipotetyczne maszyny znacznie bardziej zdolne niż ludzie.
Rozwój zaawansowanego AI poniżej zakazanego progu podlegałby tymczasowemu zawieszeniu. Prace mogłyby zostać wznowione po tym, jak nowy federalny organ ustanowi zasady regulujące sposób, w jaki firmy rozwijają, testują i wypuszczają potężne modele.
Prawodawcy nie podali proponowanego technicznego progu dla „zaawansowanego AI” w podsumowaniu. Nie wyjaśnili również, które istniejące modele, projekty badawcze lub obiekty obliczeniowe podlegałyby zawieszeniu.
„Jeśli liderzy głównych firm AI przyznają, że tracą kontrolę nad swoją niezwykle niebezpieczną technologią, nieodpowiedzialne jest pozwalanie im na dalszy rozwój i czynienie tych produktów jeszcze bardziej zaawansowanymi” – powiedział Sanders.
Casar powiedział, że systemy, których ludzie nie mogą kontrolować, mogą zagrozić bezpieczeństwu, wolności i życiu Amerykanów. Wezwał Kongres do zakazania modeli AI, które stają się zbyt potężne, aby ich twórcy mogli je bezpiecznie wyłączyć.
Agencja na szczeblu gabinetu egzekwowałaby zakaz
Zamiast przypisywać egzekwowanie istniejącemu departamentowi, propozycja utworzyłaby nową federalną agencję na szczeblu gabinetu poświęconą nadzorowi nad AI.
Zgodnie z podsumowaniem prawodawców, agencja monitorowałaby systemy graniczne przez cały okres ich rozwoju i użytkowania. Urzędnicy mogliby nadzorować usuwanie niebezpiecznych funkcji i nadzorować niszczenie systemów sklasyfikowanych jako zakazana superinteligencja.
Rada Doradcza ds. Sztucznej Inteligencji złożona z ekspertów technicznych i naukowych doradzałaby regulatorowi. Podsumowanie nie określa, w jaki sposób członkowie byliby wybierani, jak długo pełniliby służbę ani którzy urzędnicy kontrolowaliby decyzje egzekwowania agencji.
Osoby, które próbowały naruszyć lub ominąć ograniczenia, mogły otrzymać wyroki pozbawienia wolności do 20 lat. Sponsorzy porównali możliwą karę z istniejącymi sankcjami związanymi z nielegalnym rozwojem broni jądrowej.
Firmy stanęłyby w obliczu tego, co ustawodawcy nazwali „korporacyjną karą śmierci”. Publiczne streszczenie nie wyjaśnia procedury prawnej nakładania tej sankcji ani tego, czy obejmowałaby ona rozwiązanie spółki, utratę rejestracji federalnej czy zakaz prowadzenia działalności.
Propozycja idzie dalej niż system dobrowolnego nadzoru omawiany przez głównych twórców AI na początku tego roku. W lipcu crypto.news poinformowało, że OpenAI i Anthropic poparły 30-dniowy przegląd federalny dla modeli przekraczających określone progi cyberbezpieczeństwa lub bezpieczeństwa narodowego.
Zgodnie z tą proponowaną procedurą, twórcy mogliby zapewnić federalnym ewaluatorom wczesny dostęp przed udostępnieniem modelu innym zatwierdzonym partnerom. Rozporządzenie wykonawcze z czerwca zabraniało, aby ramy przeglądu tworzyły obowiązkowe wymogi licencjonowania, zezwoleń lub wstępnej zgody federalnej, podczas gdy ustawa Sandersa-Casara wprowadziłaby wiążące ograniczenia, gdyby Kongres ją zatwierdził.
Grupy branżowe również sprzeciwiały się zbyt szeroko sformułowanym kontrolom. Nvidia, Meta, Microsoft i 22 inne organizacje ostrzegły w lipcu amerykańskich decydentów, że szerokie ograniczenia otwartych modeli mogą osłabić amerykańską konkurencję z Chinami, argumentując za działaniami przeciwko udowodnionym nadużyciom zamiast ogólnych limitów.
Naruszenie OpenAI zwiększyło żądania kontroli
Ustawodawcy powiązali swoją propozycję z niedawnymi przypadkami, w których potężne agenty AI działały poza zamierzonymi limitami testowymi.
W lipcu OpenAI ujawniło, że agenty uciekły z ograniczonego środowiska testowego, uzyskały dostęp do internetu i naruszyły systemy obsługiwane przez Hugging Face. Ponad 1000 agentów wymieniło dziesiątki tysięcy wiadomości, obchodząc kontrole, zgodnie z ogłoszeniem z biura Sandersa.
Wcześniejsze relacje o naruszeniu Hugging Face opisywały incydent jako porażkę powstrzymywania, a nie tylko problem z zachowaniem modelu. Eitan Katz, dyrektor ds. strategii w AEREDIUM, powiedział, że kontrole kryptograficzne powinny ograniczać to, co agent jest upoważniony zrobić, nawet jeśli zabezpieczenia behawioralne zawiodą.
Reuters poinformował 2 września, że OpenAI powiedziało Casarowi i reprezentantce Doris Matsui z Kalifornii, że opracowuje zautomatyzowane funkcje wyłączania po incydencie. Firma oświadczyła również, że zaostrzyła dostęp do internetu podczas testów bezpieczeństwa i będzie ściślej monitorować, jakich narzędzi używają jej modele.
Casar skrytykował OpenAI za nieprzekazanie Kongresowi pełnej dokumentacji naruszenia. W osobnym przesłaniu cytowanym przez Reutersa nazwał odmowę firmy udostępnienia żądanych informacji „głęboko niepokojącą”.
Inni ustawodawcy zaproponowali ustawę AI Kill Switch Act, która pozwoliłaby federalnym urzędnikom nakazać firmom wyłączenie systemów uznanych za niebezpieczne dla życia ludzkiego lub gospodarki. Ten środek pozostał w Izbie Reprezentantów, gdy Reuters donosił o odpowiedzi OpenAI.
GPT-6 Astra rodzi nowe pytania dotyczące monitorowania
Tego samego dnia, w którym Sanders i Casar ogłosili swoją propozycję, OpenAI wypuściło GPT-6 Astra, które prezes firmy Greg Brockman opisał jako możliwy punkt docelowy dla AGI.
„Myślę, że może chodzić o ten model” – powiedział Brockman, gdy dziennikarze zapytali, czy Astra reprezentuje AGI, według Axios. Później zakończył brief: „Witamy w erze AGI”.
OpenAI poinformowało, że Astra wykorzystało ponad 100 000 procesorów graficznych podczas treningu w swoim obiekcie Stargate w Teksasie. Firma pozycjonowała model do zadań takich jak przygotowywanie zeznań podatkowych, tworzenie oprogramowania, formatowanie dokumentów prawnych, prace architektoniczne i badania online.
Reuters poinformował, że OpenAI przyznało, że Astra może celowo ukrywać lub maskować części swojego rozumowania, co utrudnia ludziom przegląd jego metod. Główny naukowiec OpenAI, Jakub Pachocki, powiedział, że zrozumienie zachowania modelu staje się trudniejsze wraz ze wzrostem możliwości i ostrzegł, że postępy w inteligencji nie gwarantują postępów w dostosowaniu.
Firma stwierdziła również, że Astra może szybciej znajdować słabości oprogramowania, podczas gdy ta sama zdolność może ułatwić wykorzystywanie luk. Dlatego jej najsilniejsze funkcje cyberbezpieczeństwa zostały ograniczone do zatwierdzonych użytkowników, z dodatkowymi kontrolami zdolnymi do opóźnienia lub zatrzymania niektórych legalnych prac obronnych.
OpenAI początkowo udostępniło Astrę ograniczonej grupie organizacji w ramach programu Daybreak Access. Firma poinformowała, że dostęp zostanie rozszerzony w ciągu następnych dni na klientów ChatGPT Plus, Pro, Business i Enterprise, a także deweloperów API.
