簡述
- 根據《WIRED》報導，OpenAI 已詢問立法者，競爭對手 AI 開發商是否能合法協調放慢發展速度。
- 專家表示，資金與競爭壓力使得企業不願獨立放慢開發腳步。
- 國會的一項法案將保護某些限制 AI 發展的協議，以應對安全風險。
OpenAI 已詢問國會議員，競爭對手的 AI 公司是否能合法同意放慢開發速度，與此同時其首席科學家敦促業界建立共同的安全標準。
根據WIRED引述接近該公司的人士報導，OpenAI 在最近幾週詢問立法者，AI 公司之間放慢開發的協議是否可能違反反壟斷法。
向立法者尋求意見之前，OpenAI 首席科學家 Jakub Pachocki 呼籲自願放慢腳步，直到開發商能更好地證明其系統是安全的。但即使企業自己的研究人員有所擔憂，公司仍面臨持續推進的壓力。
「人工智慧領域的商業與地緣政治競爭極其激烈，導致了一種令人擔憂的動態，即企業被激勵在風險尚未被充分理解之前就發布產品，」民主與科技中心首席技術專家米蘭達·博根（Miranda Bogen）告訴Decrypt。
「即使內部員工知道需要更多研究與測試，他們的企業仍面臨巨大壓力，必須偷工減料並跳過關鍵的安全測試，儘管關於進展過快所帶來後果的證據不斷累積，」她補充道。
一項減緩人工智慧發展的協議，可能因限制競爭而引發反壟斷疑慮。參議員亞當·希夫（Adam Schiff）與吉姆·班克斯（Jim Banks）提出了一項法案，以保護某些安全合作，但須事先通知司法部。
關於減緩人工智慧發展的辯論，正值美國與中國爭奪該技術領導地位之際。美國總統唐納·川普（Donald Trump）於五月推遲了一項人工智慧行政命令，原因是擔心這可能削弱美國對中國的領先優勢。川普後來於六月簽署了該命令，為先進模型在發布前建立了一套自願審查程序。
比國家安全顧慮更為直接的是，財務誘因可能使達成協議變得困難。
「在當前條件下，每一項進展都能帶來數百萬或數十億美元的額外資金，並使該進展的創造者處於更強大的權力與影響力地位，」機器智慧研究所傳播主管鄧肯·薩比恩（Duncan Sabien）告訴Decrypt。
薩比恩稱這種軍備競賽動態是真實存在的，並表示OpenAI與Anthropic面臨持續推進的壓力，儘管風險不確定，因為每個新系統都有助於打造更強大的後繼者，若任一公司在沒有共同協議的情況下放慢腳步，就會讓競爭對手超前。
「這尤其真實，因為智慧上的增益具有複利效應；每個新系統都讓訓練與部署下一個更先進的系統變得更容易，」他說。「若沒有某種協調機制，退後一步只意味著對方取得領先。
八月，OpenAI因網路安全顧慮暫停了缺乏更強保障措施的內部Astra工作。然而，OpenAI與Anthropic都在二月放寬了他們的安全承諾，Anthropic首席科學官賈瑞德·卡普蘭（Jared Kaplan）主張，在競爭對手持續推進的情況下，獨自減緩發展更沒有意義。
關於減緩人工智慧發展的辯論，在本週前Anthropic工程師雅各布·考克森（Jacob Coxon）公開宣布辭職後急劇升溫，他引述了對持續發展人工智慧對人類構成風險的擔憂。
「打造人工智慧的人真心相信，它可能在這十年結束前殺死我們所有人，」Coxon 在 X 上表示，並說這不是「行銷噱頭」。
「如果真要說，許多高階主管與資深研究人員在媒體上會把措辭包裝得聽起來合情合理——但我聽到同一批人私下表達恐懼。沒有其他人類活動會構成這種程度的危險，」他寫道。
然而，Sabien 表示，如果只是有別人取代他們的位置，研究人員離開可能也起不了什麼作用。
「如果他們之中有足夠多的人達成共識，知道他們都應該停下來，那麼他們就能突破協調障礙，一起停止，而不是只被下一個稍微不那麼謹慎的人取代，」他說。
