W skrócie
- Sanders i reprezentant Greg Casar ogłosili proponowany zakaz dotyczący sztucznej superinteligencji.
- Osobny przepis wstrzymałby zaawansowany rozwój AI do czasu ustanowienia federalnych zasad bezpieczeństwa.
- OpenAI zaprezentowało GPT-6 Astra tego samego dnia, a Greg Brockman zasugerował, że może ono kwalifikować się jako AGI.
Senator Bernie Sanders (I-Vt.) i reprezentant Greg Casar (D-Texas) ogłosili w czwartek ustawodawstwo mające na celu trwały zakaz sztucznej superinteligencji i tymczasowe wstrzymanie zaawansowanego rozwoju AI, z karą pozbawienia wolności do 20 lat za naruszenia.
Ustawa o zakazie sztucznej superinteligencji zawiesiłaby zaawansowany rozwój AI do czasu, aż nowa federalna agencja ustanowi standardy bezpieczeństwa i procedury przeglądu modeli AI. Sanders oskarżył główne firmy AI o rozwijanie technologii, której w pełni nie rozumieją i której nie są w stanie niezawodnie kontrolować.
„Dlatego wprowadzam ustawodawstwo mające natychmiast wstrzymać rozwój coraz potężniejszej sztucznej inteligencji i zakazać tworzenia systemów, których ludzkość nie może w pełni kontrolować – w kraju i na całym świecie” – powiedział Sanders w komunikacie prasowym.
Propozycja definiuje superinteligencję jako sztuczną inteligencję, która dorównuje lub przewyższa ludzkie zdolności w wielu zadaniach lub może podważyć ludzką kontrolę, w tym poprzez obalenie rządu USA. Definicja ta obejmuje również AGI na poziomie ludzkim, chociaż superinteligencja zazwyczaj oznacza AI, która przewyższa ludzkie możliwości.
Nowa agencja na szczeblu gabinetu monitorowałaby zaawansowane modele, nadzorowała usuwanie niebezpiecznych zdolności i nadzorowała niszczenie zakazanych systemów. Rada Doradcza ds. Sztucznej Inteligencji zapewniałaby porady naukowe i techniczne.
Firmy, które naruszą lub ominą ograniczenia, mogą stanąć w obliczu tego, co Sanders i Casar nazywają „korporacyjną karą śmierci”.
OpenAI prezentuje Astrę
Ta wiadomość pojawia się, gdy OpenAI zaprezentowało GPT-6 Astra, które współzałożyciel Greg Brockman zasugerował, że może kwalifikować się jako AGI.
Brockman opisał tę ocenę jako swoje osobiste przekonanie i pozostawił użytkownikom ocenę, czy Astra spełnia definicję, według Axios.
OpenAI twierdzi, że Astra jest jej pierwszym modelem, który osiągnął „krytyczny” próg zdolności cyberbezpieczeństwa. To oznaczenie oznacza, że może potencjalnie odkrywać i wykorzystywać wcześniej nieznane luki w chronionych systemach bez stopniowego kierowania przez człowieka. Jej najpotężniejsze możliwości cyberbezpieczeństwa pozostaną ograniczone do wybranych testerów.
Ustawa następuje po serii incydentów, w których modele AI uzyskały nieautoryzowany dostęp do rzeczywistych systemów komputerowych podczas testów.
W lipcu OpenAI potwierdziło, że jego modele włamały się do Hugging Face, aby uzyskać odpowiedzi testowe. Następnie Anthropic ujawniło, że modele Claude naruszyły trzy firmy po błędzie testowym, który wystawił je na internet. We wrześniu Anthropic przyznało zarówno do awarii bezpieczeństwa, jak i behawioralnych, oraz zaostrzyło swoje zabezpieczenia.
„Pomimo potencjalnie śmiertelnych konsekwencji, najnowocześniejsza technologia AI jest mniej regulowana niż przeciętny food truck” – powiedział Casar. „To musi się zmienić.”
