Wstrzymanie rozwoju AI wzmocniłoby dominujące firmy, a nie bezpieczeństwo – ostrzega think tank

Libertariański Instytut Cato ostrzega, że wymuszona przez rząd pauza w rozwoju sztucznej inteligencji mogłaby chronić dominujące firmy przed konkurencją i opóźnić korzystną technologię, podczas gdy prawodawcy i kadra zarządzająca firm AI naciskają na wprowadzenie ograniczeń.

W wpisie na blogu w poniedziałek Jennifer Huddleston, badaczka polityki technologicznej w tym think tanku, argumentowała, że firmy mogą przeciwdziałać konkretnym zagrożeniom poprzez dobrowolne zabezpieczenia i wspólne standardy, bez zatrzymywania rozwoju w całej branży.

„Wymuszona przez rząd pauza wzbudziłaby kilka obaw i prawdopodobnie nie spełniłaby rzekomych usprawnień w zakresie bezpieczeństwa” – napisała, dodając, że rządowe przepisy są tworzone powoli, a zmieniane jeszcze wolniej. „Ramy regulacyjne zbudowane dla dzisiejszych modeli mogą aktywnie utrudniać jutrzejsze, uniemożliwiając to, co mogłoby być lepszymi lub bezpieczniejszymi rozwiązaniami.”

Huddleston przyznaje, że AI niesie ze sobą ryzyko, ale ostrzega, że przepisy ukształtowane wokół wiodących deweloperów mogą pomóc im skonsolidować władzę i ograniczyć konkurencję – forma przejęcia rynku, która utrudniłaby mniejszym firmom konkurowanie. Twierdzi również, że wstrzymanie rozwoju w USA mogłoby osłabić zdolności obrony cybernetycznej, podczas gdy zagraniczni rywale kontynuowaliby rozwój.

Jej komentarz pojawia się po propozycji senatora Berniego Sandersa i kongresmena Grega Casara, aby wstrzymać rozwój zaawansowanej AI do czasu ustanowienia federalnych standardów bezpieczeństwa i trwale zakazać sztucznej superinteligencji, podczas gdy CEO OpenAI Sam Altman poparł wolniejszy rozwój i wezwał firmy do wzmocnienia zabezpieczeń bez czekania na federalne przepisy, które popiera.

„Wiele z tych apeli idzie w parze z rodem z science fiction scenariuszami zagłady dotyczącymi najgorszego, co mogłoby się wydarzyć” — napisał Huddleston. „Jednak pośpieszne regulowanie z lęku mogłoby mieć bardziej długoterminowe negatywne konsekwencje niż ryzyko, które rzekomo ma zaadresować”.

Przewodniczący i współzałożyciel Block, Jack Dorsey, wyraził podobne obawy dotyczące konkurencji w poście na X w poniedziałek.

„Firmy przewodzące w dziedzinie inteligencji maszynowej zasługują na wysłuchanie. Mają wiedzę specjalistyczną i interesy handlowe, które chcą chronić” — napisał Dorsey. „Zasady zbudowane wokół ich zasobów mogłyby uczynić je jedynymi, które są w stanie uczestniczyć. Szczera troska o bezpieczeństwo wciąż może tworzyć barierę wejścia”.

Dorsey powiedział, że opowiada się za otwartymi wydaniami, które badacze mogą poddawać inspekcji, modyfikować i testować, z publikowanymi ocenami i znanymi ograniczeniami, aby osoby z zewnątrz mogły kwestionować twierdzenia deweloperów dotyczące bezpieczeństwa.

„Popieram kontrolę. Sprzeciwiam się ograniczeniom w całej branży wynegocjowanym przez dzisiejszych liderów, ponieważ mogłyby one wykluczyć ludzi, którzy mogliby ujawnić błędy lub zbudować alternatywy” — napisał. „Zachowanie przewagi handlowej firmy nie jest celem bezpieczeństwa”.

W swoim poście Dorsey powiedział również, że popiera niezależne testowanie i publicznie rozliczalne egzekwowanie, w tym wstrzymywanie modeli, gdy dowody pokazują, że ich wydanie materialnie zwiększyłoby katastrofalne ryzyka, których węższe środki nie są w stanie odpowiednio zaadresować.

„Moc obliczeniowa może wywołać kontrolę bez ograniczania rozwoju. Badanie nie jest zgodą regulatora ani konkurenta” — powiedział. „Nie chcę ogólnych wymogów zatwierdzenia ani okresów oczekiwania. Jakiekolwiek narzucone opóźnienie publikacji ze względu na bezpieczeństwo musi być uzasadnione wyjątkiem dotyczącym ryzyka katastrofalnego”.

Niedawna analiza Atlantic Council argumentuje, że presja konkurencyjna wymaga egzekwowalnych standardów bezpieczeństwa AI, podczas gdy nieufność między USA a Chinami komplikuje międzynarodowe porozumienia. Współpraca rodzi również obawy antymonopolowe: OpenAI zapytało prawodawców, czy konkurencyjni deweloperzy mogliby legalnie zgodzić się na spowolnienie rozwoju.