Solana 創辦人質疑 AI 放緩倡議背後的動機

SOL
Solana 創辦人AI監管AI 減速前沿AIAnthropic伊隆·馬斯克OpenAI
2 小時前來源: crypto.news
Solana 創辦人質疑 AI 放緩倡議背後的動機

Solana 共同創辦人 Anatoly Yakovenko 質疑了 9 月 13 日由 Dario Amodei、Sam Altman 和 Elon Musk 支持的 AI 減速提案背後的財務動機。

摘要

  • Solana 共同創辦人 Anatoly Yakovenko 將 AI 節奏提案與兆美元市值水準的盈利能力連結起來。
  • Dario Amodei 的計畫呼籲嵌入評估者、產業協調,以及最終可能達成的國際安全協議。
  • OpenAI 執行長 Sam Altman 支持嵌入外部評估者,並承諾很快公開進一步的實施細節。
  • Elon Musk 根據路透社週六的報導,以簡短聲明公開支持 Amodei 的提案。
  • David Sacks 主張,實驗室可以自願減速,而無需競爭對手提供協調一致的監管框架。

Yakovenko 的 X 貼文將他的回應簡化為四個字:「兆美元市值的盈利能力。」他沒有指明這個數字指的是哪家公司,也沒有提供支持該評論的營收、估值或盈利能力計算。

這番言論是對 Anthropic 執行長 Dario Amodei 發起的一場辯論的回應,後者發表了一篇文章,呼籲放慢前沿人工智慧的進展。OpenAI 執行長 Sam Altman 支持該提案的一部分,而 Musk 則寫道「Dario 是對的」,根據 路透社

Yakovenko 將 AI 節奏與財務誘因連結起來

Yakovenko 的評論將盈利能力視為放慢模型開發的可能動機,但這位 Solana 共同創辦人將此想法表述為一種諷刺性的觀察。他的貼文沒有包含任何證據表明 Anthropic、OpenAI 或 xAI 出於財務原因協調了他們的聲明。

沒有任何具名公司確認其對放慢開發的支持取決於達到 1 兆美元估值。Amodei 的提案反而引用了模型控制失敗、網路風險,以及 AI 系統幫助創造更新系統的速度。

路透社報導稱,Anthropic 和 OpenAI 正在為潛在的首次公開募股做準備。該報導描述了圍繞模型開發的財務誘因,但並未證實兩家公司中任何一家已達到 1 兆美元市值,或已將盈利能力取決於該估值。

由於這些公司仍為私人持股,對市值的提及只能描述來自私人交易或擬議上市的估計。Yakovenko 沒有解釋他的數字是指 Anthropic、OpenAI、xAI,還是整個前沿 AI 產業。

因此,他的聲明代表個人評論,而非 Solana Labs、Anthropic、OpenAI 或 xAI 披露的財務預測。沒有任何 Solana 基金會的聲明將該區塊鏈網路或其 SOL 代幣與這場 AI 政策爭議連結起來。

Amodei 希望前沿 AI 開發有節奏,而非停止

在他的「我們必須為前沿設定節奏」一文中,Amodei 表示開發者應放慢提升模型能力的速度。他將設定節奏與停止模型訓練或結束技術研究區分開來。

「我們必須放慢提升 AI 模型能力的速度,」Amodei 寫道。他表示,進展可以保持快速,同時開發者花更多時間測試防護措施、研究模型行為,並允許外部評估者審查他們的工作。

該提案包含三個階段。Anthropic 計畫給予第三方評估者持續的存取權限,其程度相當於評估風險的內部員工所擁有的權限。Amodei 以模型評估與威脅研究組織(稱為 METR)為例。

第二階段要求民主國家的前沿 AI 公司在共同安全要求和不受控制的能力增長限制上進行協調。Amodei 承認,此類協調的部分內容可能引發反壟斷問題,並可能需要狹義的政府授權。

他的第三階段呼籲國際協調,包括可能與中國達成協議。這篇文章描述了幾個可能的層級,從限制AI輔助的生物武器,到最終限制快速、自動化的模型改進。

Amodei將全面暫停視為最不可能形式的國際協議,因為驗證將會很困難。他主張任何安排都應維護美國及其盟友的技術地位。

Altman與Musk已支持該計畫的部分內容

OpenAI執行長Sam Altman在9月12日的一則貼文中直接為該提案背書。「我同意Dario的看法,我們需要放慢前沿發展的步伐,」Altman寫道。

Altman特別接受了Amodei關於引入外部評估人員的呼籲。「承諾讓獨立評估人員擁有類似員工的存取權限是個絕佳的主意,我們也會照做,」他說。OpenAI承諾提供更多資訊,但未提供實施日期、評估人員姓名或存取條款。

Musk的回應更為簡短。路透社和《金融時報》報導,他轉發了Amodei的文章並寫道:「Dario說得對。」這番公開回應並未說明xAI將採用三階段計畫中的哪些部分。

因此,現有聲明支持將Musk列入支持Amodei的高階主管之列。這些聲明並不能證明Musk、Altman和Amodei共同制定了該計畫,或就其監管細節達成一致。

這三位高階主管均未公開支持Yakovenko所提出、將放慢發展與兆美元估值相連結的說法。Yakovenko的論點仍是他對他們動機的個人描述。

Sacks拒絕將產業協調視為必要之舉

在另一則X貼文中,David Sacks表示Anthropic和OpenAI可以放慢自身的發展,而無需競爭對手或立法者參與。

「你們就是前沿,」Sacks在對Amodei和Altman喊話時寫道。他稱這兩家公司對「前沿智慧擁有雙頭壟斷」,這一說法基於他對模型能力、營收成長和市場份額的評估。

Sacks表示,如果未發布的系統呈現出足以令其開發者擔憂的嚴重風險,他會支持自願放慢發展。他反對需要反壟斷豁免、監管審批制度,或對競爭實驗室擁有權力的評估人員。

然而,他的貼文指控這些公司可能追求「監管俘獲」,但並未提出Anthropic與OpenAI之間達成協議以排除競爭對手的證據。截至9月13日,兩家公司均未公開接受Sacks的描述。

Sacks提出產品責任風險是企業偏好更可預測系統的另一個可能原因。他主張客戶已經會懲罰那些以未經授權或不可靠方式行事的模型。這些公司尚未確認責任顧慮推動了他們的支持。

該貼文質疑中國是否會參與全球AI協議。Amodei的文章也承認同樣的驗證問題,儘管Amodei仍支持就定義狹窄的風險進行談判。

外部評估是下一個承諾的步驟

Anthropic已承諾邀請外部審查團隊進入其內部安全流程。其文章表示,審查人員應獲得公司筆記型電腦、辦公室使用權,以及與內部風險評估人員類似的權限,但須遵守法律和保密限制。

計畫中的審查人員將被允許發布調查結果,而Anthropic不會控制其結論。有限的刪節可涵蓋受法律特權保護、安全敏感、商業敏感或第三方機密資訊。該文章並未附上任何評估人員合約或開始日期。OpenAI已承諾採用類似制度。Altman表示該公司將「很快」披露更多細節,但對評估人員、範圍和發布規則仍未作答。

美國立法者正在考慮更具限制性的做法。正如crypto.news先前報導,一項Sanders-Casar提案尋求永久禁止人工超智慧,並暫時中止先進AI工作,直到新的聯邦監管機構制定安全規則。在提案人發布摘要時,該法案全文尚未正式提出。

網路安全問題仍是政策討論的一部分。在相關報導中,一份國際清算銀行的報告警告,人工智慧可能將軟體修補窗口從數週縮短至數分鐘,因為自動化系統能更快識別並利用漏洞。

Amodei 已要求前沿實驗室採用嵌入式評估並就安全標準進行協調,而 Altman 則承諾 OpenAI 接受外部評估,但未公布時間表。