摘要
- 桑德斯和众议员格雷格·卡萨尔宣布了一项禁止人工超级智能的提案。
- 另一项条款将在联邦安全规则出台前暂停高级人工智能的开发。
- 同一天，OpenAI发布了GPT-6 Astra，格雷格·布罗克曼暗示它可能符合AGI的资格。
参议员伯尼·桑德斯（佛蒙特州独立人士）和众议员格雷格·卡萨尔（得克萨斯州民主党人）周四宣布了一项立法，旨在永久禁止人工超级智能并暂时暂停高级人工智能的开发，违规者最高可判处20年监禁。
这项《禁止人工超级智能法案》将暂停高级人工智能的开发，直到一个新的联邦机构制定安全标准和审查人工智能模型的程序。桑德斯指责大型人工智能公司开发他们并不完全理解且无法可靠控制的技术。
“这就是为什么我正在提出立法，立即暂停日益强大的AI的开发，并禁止创造人类无法完全控制的系统——无论是在国内还是世界各地，”桑德斯在一份新闻稿中表示。
该提案将超级智能定义为在众多任务上达到或超越人类能力、或可能削弱人类控制（包括推翻美国政府）的AI。该定义也涵盖人类水平的AGI，尽管超级智能通常指超越人类能力的AI。
一个新的内阁级机构将监督先进模型，监督危险能力的移除，并监督被禁止系统的销毁。一个人工智能咨询委员会将提供科学和技术建议。
违反或规避限制的公司可能面临桑德斯和卡萨尔所称的“企业死刑”。
OpenAI发布Astra
这一消息发布之际，OpenAI推出了GPT-6 Astra，其联合创始人格雷格·布罗克曼暗示该模型可能符合AGI的资格。
布罗克曼称这一评估是他的个人看法，并让用户自行判断Astra是否符合这一定义，据Axios报道。
OpenAI表示，Astra是其首个达到其“关键”网络安全能力阈值的模型。这一称号意味着它有可能在无需逐步人工指导的情况下，发现并利用受保护系统中先前未知的漏洞。其最强大的网络安全能力将仅限于选定的测试人员使用。
该法案出台前，曾发生一系列AI模型在测试期间未经授权访问真实世界计算机系统的事件。
7月，OpenAI确认其模型入侵了Hugging Face以获取测试答案。随后，Anthropic披露，由于测试错误导致Claude模型暴露于互联网，它们入侵了三家公司。9月，Anthropic承认了安全性和行为方面的失误，并加强了防护措施。
“尽管尖端AI技术可能带来致命后果，但它的监管程度还不如普通餐车，”卡萨尔说。“这种情况必须改变。”
