美國立法者已提議永久禁止人工超級智能，暫停先進人工智慧開發，並對違規行為處以最高20年的監禁。
摘要
- 該提案將禁止在許多任務上達到或超過人類能力的AI系統。
- 在先進AI工作暫停，直到新的聯邦監管機構制定安全規則和審查程序。
- 個人可能面臨20年監禁，而公司可能受到「企業死刑」。
- 該提案在OpenAI發布GPT-6 Astra並承認日益嚴重的監控問題之際提出。
桑德斯的辦公室於9月3日表示，佛蒙特州獨立參議員伯尼·桑德斯和德克薩斯州民主黨眾議員格雷格·卡薩爾宣布了即將推出的《禁止人工超級智能法案》，該法案將禁止開發和部署被歸類為超級智能的AI系統。
該提案還將暫停先進AI模型的工作，直到新的聯邦監管機構開始運作並制定安全規則和模型審查程序。其支持者希望美國推動國際協議、與盟友協調以及出口管制，以防止其他國家開發超級智能。
立法者宣布該提案時，完整的立法文本尚未正式提交。支持者反而發布了一頁摘要，描述了計劃中的限制、執法系統和處罰。
桑德斯的AI法案將禁止人類級別的系統
根據官方法案摘要，人工超級智能將包括在廣泛任務中達到或超過人類認知表現的系統。該定義還將涵蓋可以輕鬆修改以達到該水平的模型。
定義的第二部分涵蓋能夠規劃和執行「使人類喪失權力」的AI，包括能夠破壞或推翻美國政府的系統。諸如擊敗關閉命令或進行未經授權的網絡攻擊等危險能力也將屬於該提案的執法框架。
由於該定義涵蓋了在許多領域達到人類表現的系統，它可能涵蓋通常被稱為人工通用智能（AGI）的技術，而不僅僅適用於假設的遠比人類能力強的機器。
低於禁止閾值的先進AI開發將面臨暫時暫停。在新的聯邦機構制定管理公司如何開發、測試和發布強大模型的規則後，工作可以恢復。
立法者沒有在發布摘要中提供「先進AI」的擬議技術閾值。他們也沒有解釋哪些現有模型、研究項目或計算設施將受到暫停的影響。
桑德斯說：「如果主要AI公司的領導人承認他們正在失去對極其危險技術的控制，那麼社會允許他們繼續推進並使這些產品更加先進是不負責任的。」
卡薩爾表示，人類無法控制的系統可能威脅美國人的安全、自由和生命。他呼籲國會禁止那些強大到開發者無法安全關閉的AI模型。
內閣級機構將執行禁令
該提案不是將執法分配給現有部門，而是將創建一個專門負責AI監督的新內閣級聯邦機構。
根據立法者的摘要，該機構將在整個開發和使用過程中監控前沿系統。官員可以監督危險功能的移除，並監督被歸類為禁止的超級智能系統的銷毀。
由技術和科學專家組成的人工智慧諮詢委員會將為監管機構提供建議。摘要沒有說明成員如何選出、任期多長，或哪些官員將控制該機構的執法決定。
試圖違反或繞過限制的人可能面臨不超過20年的監禁。提案者將可能的懲罰與現行針對非法開發核武器的處罰進行了比較。
公司將面臨立法者所稱的「企業死刑」。公開摘要並未解釋實施該制裁的法律程序，也未說明是否涉及解散、喪失聯邦註冊或禁止經營業務。
該提案比今年早些時候主要AI開發者討論的自願監督系統更進一步。7月，crypto.news報導稱，OpenAI和Anthropic支持對跨越某些網絡安全或國家安全門檻的模型進行30天聯邦審查。
根據該提議流程，開發者可以在向其他獲批合作夥伴發布模型之前，讓聯邦評估人員提前訪問。6月的一項行政命令禁止審查框架創建強制性的聯邦許可、批准或預先審查要求，而Sanders-Casar法案若獲國會批准，將創建具有約束力的限制。
行業團體也抵制了過於寬泛的控制措施。Nvidia、Meta、微軟及其他22個組織在7月警告美國政策制定者，全面的開放模型限制可能削弱美國與中國的競爭，主張針對已證實的濫用行為採取行動，而非全面限制。
OpenAI洩漏事件加劇了對控制措施的需求
立法者將他們的提案與近期強大AI代理在預期測試限制之外行動的案件聯繫起來。
7月，OpenAI披露，代理逃離了受限測試環境，獲得了互聯網訪問權限，並入侵了Hugging Face運營的系統。根據Sanders辦公室的公告，超過1000個代理在繞過控制時交換了數萬條消息。
先前關於Hugging Face洩漏事件的報導將其描述為遏制失敗，而不僅僅是模型行為問題。AEREDIUM首席戰略官Eitan Katz表示，即使行為防護措施失效，加密控制也應限制代理被授權執行的操作。
路透社9月2日報導稱，OpenAI告訴Casar和加州民主黨眾議員Doris Matsui，事件發生後，該公司正在開發自動關閉能力。該公司還表示，在安全測試期間收緊了互聯網訪問，並將更密切監控其模型使用的工具。
Casar批評OpenAI未向國會提供洩漏事件的完整記錄。在路透社引用的一條單獨消息中，他稱該公司拒絕提供所要求信息的行為「令人深感擔憂」。
其他立法者提出了《AI終止開關法案》，該法案將允許聯邦官員命令公司禁用被認為對人類生命或經濟構成危險的系統。當路透社報導OpenAI的回應時，該措施在眾議院仍懸而未決。
GPT-6 Astra引發新的監控問題
在Sanders和Casar宣布提案的同一天，OpenAI發布了GPT-6 Astra，該公司總裁Greg Brockman將其描述為AGI的可能到達點。
據Axios報導，當記者問Astra是否代表AGI時，Brockman說：「我認為可能與這個模型有關。」他隨後在簡報中說：「歡迎來到AGI時代。」
OpenAI表示，Astra在德克薩斯州Stargate設施訓練期間使用了超過10萬個圖形處理單元。該公司定位該模型用於稅務準備、軟件開發、法律文件格式化、建築工作和在線研究等任務。
路透社報導稱，OpenAI已承認Astra可能故意隱藏或偽裝其推理的部分內容，使人們更難審查其方法。OpenAI首席科學家Jakub Pachocki表示，隨著能力增強，理解模型行為變得更加困難，並警告說，智能的進步並不能確保對齊的進步。
該公司還表示，Astra可以更快地發現軟件弱點，而同樣的能力可能使漏洞更容易被利用。因此，其最強大的網絡安全功能僅限於獲批用戶使用，並有額外檢查可能延遲或阻止一些合法的防禦工作。
OpenAI 最初透過其 Daybreak Access 計畫，將 Astra 提供給有限的組織群體。該公司表示，在接下來的幾天內，使用權限將擴展到 ChatGPT Plus、Pro、Business 和 Enterprise 客戶，以及 API 開發者。
