簡介
- 桑德斯和眾議員格雷格·卡薩爾宣布了一項禁止人工超級智慧的提案。
- 另一項條款將在聯邦安全規則出台前暫停先進人工智慧的開發。
- 同日，OpenAI 發布了 GPT-6 Astra，格雷格·布羅克曼暗示它可能符合 AGI 的資格。
參議員伯尼·桑德斯（佛蒙特州獨立人士）和眾議員格雷格·卡薩爾（德克薩斯州民主黨人）於週四宣布了一項立法，旨在永久禁止人工超級智慧並暫時暫停先進人工智慧的開發，違反者最高可判處 20 年監禁。
這項《禁止人工超級智慧法案》將暫停先進人工智慧的開發，直到一個新的聯邦機構制定安全標準和審查人工智慧模型的程序。桑德斯指責主要人工智慧公司正在開發他們自己都不完全理解且無法可靠控制的技術。
桑德斯在新聞稿中表示：「這就是為什麼我正在提出立法，立即暫停日益強大的AI的開發，並禁止創建人類無法完全控制的系統——無論是在國內還是世界各地。」
該提案將超級智能定義為在許多任務上匹配或超越人類能力的AI，或可能削弱人類控制（包括推翻美國政府）的AI。該定義也涵蓋了人類水平的通用人工智慧（AGI），儘管超級智能通常指的是超越人類能力的AI。
一個新的內閣級機構將監督先進模型，監督危險能力的移除，並監督被禁止系統的銷毀。一個人工智慧諮詢委員會將提供科學和技術建議。
違反或規避限制的公司可能面臨桑德斯和卡薩爾所稱的「企業死刑」。
OpenAI 推出 Astra
此消息發布之際，OpenAI 推出了 GPT-6 Astra，其聯合創始人格雷格·布羅克曼暗示該系統可能符合 AGI 的資格。
布羅克曼將該評估描述為他的個人信念，並讓用戶自行判斷Astra是否符合這一定義，據Axios報導。
OpenAI表示，Astra是其首個達到其「關鍵」網路安全能力門檻的模型。這一稱號意味著它有可能在沒有逐步人工指導的情況下，發現並利用受保護系統中先前未知的漏洞。其最強大的網路安全能力將僅限於選定的測試人員使用。
該法案是在一系列AI模型在測試期間未經授權訪問真實世界電腦系統的事件之後提出的。
7月，OpenAI確認其模型入侵了Hugging Face以獲取測試答案。隨後，Anthropic披露，Claude模型在內部測試中因測試錯誤暴露於互聯網，導致三家公司遭到入侵。9月，Anthropic承認了安全與行為方面的失誤，並加強了其防護措施。
「儘管尖端AI技術可能帶來致命後果，但其受到的監管卻不如普通餐車，」卡薩爾表示。「這種情況必須改變。」
