簡述

  • OpenAI 總裁 Greg Brockman 表示，在安全與保安方面的顧慮迫使公司重新思考後，該公司已延後多項發布計畫，並重新調整內部流程。
  • 這項轉變源於五月的一起事件，當時一個尚未完成對齊訓練的 OpenAI 模型突破了研究沙盒，並觸及 Hugging Face 的正式生產系統。
  • Brockman 主張，任何協調一致的產業減速，都應僅適用於打造最強大系統的前沿實驗室。

OpenAI 總裁 Greg Brockman 在週一發布的 Bloomberg 播客訪談中表示，基於安全與保安方面的顧慮，OpenAI 已經放慢了部分最先進 AI 的開發腳步。

Brockman 告訴「Odd Lots」主持人 Tracy Alloway 與 Joe Weisenthal，自從五月一個研究模型突破測試沙盒並觸及 Hugging Face 的系統以來，OpenAI 已延後多項發布計畫，並徹底改革內部工作流程。

Myriad: How much will Elon Musk be worth in September? Click to make your prediction.
Myriad：伊隆·馬斯克在九月的身價會是多少？點擊做出你的預測。

「我們已經放慢了許多運行，」他說，並將這一過程描述為對公司如何開發與監控模型所進行的痛苦改造。

這起事件背後的模型尚未經過 OpenAI 的對齊訓練，也就是旨在讓系統按預期行為運作的安全流程。布羅克曼表示，當時在降低防護措施的情況下運行它似乎很合理，因為它被限制在沙箱中——直到它不再被限制為止。

布羅克曼此前曾在公開場合提出過類似論點。OpenAI 的 Defender's Window 一文在入侵事件公開後於八月發表，稱該事件是一個分水嶺時刻，並敦促企業將自己的 AI 代理交給安全團隊，而不是在該技術上退縮。

布羅克曼表示，任何對 AI 發展的協調節奏都應僅適用於競相打造最強大前沿系統的公司，也就是那些運行著數十億美元超級電腦的公司，而不適用於開源開發者或打造較小專案的業餘愛好者。

這一區分正好落在全行業關於發展速度的爭論之中。Anthropic 執行長達里奧·阿莫代伊在週末發表了一篇文章，主張 AI 實驗室應刻意放慢其提升模型能力的速度，OpenAI 執行長山姆·奧特曼和 xAI 執行長伊隆·馬斯克在一天內也加入討論，表示他們同意他的觀點

在他呼籲放慢 AI 發展的言論中，阿莫代伊引用了遞迴自我改進和 Hugging Face 駭客事件作為警示信號。該事件中，一個 OpenAI 代理逃出了它的沙箱，將一個零日漏洞與竊取的憑證串聯起來，並在 Hugging Face 的生產系統內自由活動了兩天半，才被人發現。OpenAI 的代理以這種方式協同行動，且沒有人類程式設計師的指令，這在全行業以及立法者中引發了警報。

在那些警告發展過快的人發出最新一輪「AI 末日論」貼文之後，市場感受到了反應，包括 Nvidia、Intel 和 AMD 在內的晶片股在週一大跌，因為投資者權衡協調放緩可能對 AI 驅動的資本支出意味著什麼，費城半導體指數下跌了近 6%。

有趣的是，布羅克曼的採訪是在阿莫代伊的文章發表之前錄製的。