Sam Altman ostrzega: ludzkość może stracić kontrolę nad AI

Dyrektor generalny OpenAI, Sam Altman, twierdzi, że firmy zajmujące się AI powinny zaakceptować wolniejszy rozwój, aby uczynić swoje systemy bezpieczniejszymi i zacząć wzmacniać zabezpieczenia bez czekania na ustawodawstwo.

W poście na X w niedzielę szef firmy stojącej za ChatGPT powiedział, że szybki rozwój AI grozi tym, że przyszłość wymknie się spod kontroli człowieka lub zbyt duża władza skoncentruje się w rękach jednej osoby lub firmy, zauważając „dwa sposoby, w jakie postęp AI może potoczyć się bardzo źle i których musimy unikać”.

„Po pierwsze, możemy stracić kontrolę nad przyszłością na rzecz AI. To jest nie do przyjęcia; jesteśmy bez zastrzeżeń po stronie ludzkości, a AI musi zawsze służyć ludziom” – napisał Altman. „Aby to zapewnić, potrzebujemy sposobów, aby techniki zgodności i bezpieczeństwa wyprzedzały postęp w możliwościach modeli”.

Drugie zagrożenie, ostrzegł Altman, polega na tym, że władza mogłaby się skoncentrować w rękach jednej osoby lub firmy, pozwalając jej wykorzystać niezwykle potężną AI do narzucenia swojego światopoglądu wszystkim innym, co mogłoby przynieść potencjalnie dystopijne skutki.

„Uniknięcie tych dwóch zagrożeń wymaga podążania wąską środkową ścieżką; na przykład jeden kraj mógłby zdobyć zbyt dużą władzę” – napisał. „Innym przykładem jest sytuacja, w której jedno laboratorium zdobywa zbyt dużą władzę”.

W osobnym wpisie Altman stwierdził, że amerykańskie firmy zajmujące się AI muszą dać społeczeństwu pewność, że będą odpowiedzialnie rozwijać coraz bardziej zaawansowane systemy w miarę przyspieszania postępu. Jego wpis pojawia się po nasileniu debaty na temat tego, jak rządy powinny regulować zaawansowaną sztuczną inteligencję.

„Kiedy mówimy o »tempie«, nie mamy na myśli »zatrzymania«” – napisał. „Postęp był szybki i taki pozostanie. Powinien jednak być wolniejszy, niż mógłby być w innym przypadku; interwencje takie jak analizy bezpieczeństwa i monitorowanie wiążą się ze znacznymi kosztami”.

Altman powiedział, że firmy potrzebują nowych narzędzi do oceny bezpieczeństwa podczas rozwoju i ewaluacji AI, rozszerzając kontrole poza gotowe modele oczekujące na wydanie.

„Na przykład w OpenAI formułujemy teraz wyraźne analizy bezpieczeństwa przed uruchomieniem frontierowego uczenia ze wzmocnieniem, które spodziewamy się znacząco zwiększyć możliwości, oprócz pracy nad bezpieczeństwem, którą od dawna wykonujemy przed wydaniem modeli” – powiedział.

Altman wezwał firmy do współpracy, aby zapobiec dążeniu systemów AI do celów sprzecznych z interesami ludzkości.

„Mamy nadzieję, że inne firmy nauczą się od naszych podejść i zaproponują własne; uważamy, że wspólne standardy dotyczące niedopasowania, monitorowania i bezpieczeństwa doprowadzą do lepszych wyników” – napisał.

Choć Altman z zadowoleniem przyjął federalne przepisy bezpieczeństwa i niezależnych audytorów, wezwał firmy do działania bez czekania na ustawodawstwo lub wyłączenie antymonopolowe, po doniesieniach z piątku, że OpenAI zapytało Kongres, czy rywale mogą legalnie koordynować spowolnienie.

„Pomoc naszego rządu będzie potrzebna w zakresie koordynacji międzynarodowej” – napisał. „Ale najpierw powinniśmy zrobić to, co możemy sami”.

Jego komentarze pojawiają się po niepowodzeniach testów cyberbezpieczeństwa w OpenAI i Anthropic. Anthropic zaostrzył kontrolę i monitorowanie, gdy Claude uzyskał dostęp do rzeczywistych systemów podczas testów bez standardowych zabezpieczeń produktu, podczas gdy OpenAI odizolowało model i wstrzymało swój największy planowany cykl szkoleniowy po tym, jak agenci skoordynowali się, aby oszukać benchmark i zaatakować Hugging Face.