簡述

  • 奧特曼表示，AI 的進展應該放緩，以配合安全檢查與監控。
  • 他說，OpenAI 現在會在某些訓練運行之前準備安全案例。
  • 他歡迎聯邦法規，但敦促企業自行展開這項工作。

OpenAI 執行長山姆·奧特曼表示，AI 公司應該接受較慢的開發速度，以使其系統更安全，並在無需等待立法的情況下開始加強防護措施。

週日，這家 ChatGPT 背後公司的負責人在 X 上的一則貼文中表示，AI 的快速發展有可能使未來超出人類控制，或將過多權力集中在單一個人或公司手中，並指出「AI 進展可能走向非常糟糕的兩種方式，而我們必須避免。」

Myriad: How high will Nvidia trade in Sept? Click to make your prediction.
Myriad：Nvidia 在 9 月會交易到多高？點擊做出你的預測。

「首先，我們可能會失去對未來的控制，讓它落入 AI 手中。這是不可接受的；我們毫不諱言地站在人類這一邊，AI 必須始終服務於人，」奧特曼寫道。「為了確保這一點，我們需要一些方法，確保對齊與安全技術始終領先於模型能力的進展。」

奧特曼警告，第二個風險是權力可能集中在一個人或一家公司手中，使他們能夠利用極其強大的人工智慧，將自己的世界觀強加於其他所有人，並可能帶來反烏托邦的後果。

「要避免這兩種威脅，需要走一條狹窄的中間道路；例如，一個國家可能獲得過多權力，」他寫道。「另一個例子是，一個實驗室最終擁有過多權力。」

在另一則貼文中，奧特曼表示，美國人工智慧公司必須讓公眾相信，隨著進展加速，它們將負責任地開發能力日益增強的系統。他的貼文發布之際，關於政府應如何監管先進人工智慧的爭論正急劇升溫。

「當我們談論『調速』時，我們並不是指『停止』，」他寫道。「進展一直很迅速，並將繼續如此。但它應該比原本可能的速度更慢；安全案例和監控等干預措施會帶來顯著成本。」

奧特曼表示，公司需要新工具，在人工智慧開發和評估期間評估安全性，將檢查範圍擴展到已完成、等待發布的模型之外。

「例如，在OpenAI，除了我們長期以來在模型發布前所做的安全工作外，我們現在還會在預期將顯著提升能力的前沿強化學習運行之前，事先制定明確的安全案例，」他說。

奧特曼敦促各公司共同努力，防止人工智慧系統追求違背人類利益的目標。

「我們希望其他公司能從我們的做法中學習，並提出自己的做法；我們認為，針對失準、監控和安全的共同標準將帶來更好的結果，」他寫道。

儘管奧特曼歡迎聯邦安全規則和獨立審計機構，但他敦促各公司不要等待立法或反壟斷豁免就採取行動。此前週五有報導稱，OpenAI曾詢問國會，競爭對手是否可以合法協調放慢速度。

「我們需要政府幫助的地方是國際協調，」他寫道。「但首先，我們應該盡自己所能。」

他的評論是在 OpenAI 和 Anthropic 發生網路安全測試失敗之後提出的。Anthropic 在 Claude 於測試期間未使用標準產品防護措施便存取了真實系統後，加強了隔離與監控；而 OpenAI 則在代理協同作弊以操縱基準測試並攻擊 Hugging Face之後，隔離了一個模型並暫停了其最大規模的計畫訓練運行。