桑德斯法案寻求永久禁止美国超级智能AI

美国立法者提议永久禁止人工超级智能，暂停先进人工智能开发，并对违规行为处以最高20年的监禁。

桑德斯办公室于9月3日表示，佛蒙特州独立参议员伯尼·桑德斯和得克萨斯州民主党众议员格雷格·卡萨尔宣布了即将出台的《禁止人工超级智能法案》，该法案将禁止开发和部署被归类为超级智能的人工智能系统。

该提案还将在新的联邦监管机构开始运作并制定安全规则和模型审查程序之前，暂停先进人工智能模型的工作。其发起人希望美国推动国际协议、与盟友协调以及实施出口管制，以防止其他国家发展超级智能。

立法者宣布该提案时，完整的立法文本尚未正式提交。发起人反而发布了一页纸的摘要，描述了计划中的限制、执法系统和处罚措施。

桑德斯的人工智能法案将禁止人类级别的系统

根据官方法案摘要，人工超级智能将包括在广泛任务中达到或超过人类认知表现的系统。该定义还将涵盖可以轻松修改以达到该水平的模型。

定义的第二部分涵盖能够规划和实施“剥夺人类权力”的人工智能，包括能够破坏或推翻美国政府的系统。诸如击败关闭命令或进行未经授权的网络攻击等危险能力也将属于该提案的执法框架范围。

由于该定义涵盖了在许多领域达到人类表现的系统，它可能涵盖通常被称为人工通用智能（AGI）的技术，而不仅仅适用于远超人类能力的假设机器。

低于禁止阈值的先进人工智能开发将面临临时暂停。在新的联邦机构制定管理公司如何开发、测试和发布强大模型的规则后，工作可以恢复。

立法者没有在发布摘要中提供“先进人工智能”的拟议技术阈值。他们也没有解释哪些现有模型、研究项目或计算设施将受到暂停的影响。

桑德斯表示：“如果主要人工智能公司的领导者承认他们正在失去对其极其危险技术的控制，那么社会允许他们继续前进并让这些产品变得更加先进是不负责任的。”

卡萨尔表示，人类无法控制的系统可能威胁美国人的安全、自由和生命。他呼吁国会禁止那些强大到开发者无法安全关闭的人工智能模型。

内阁级机构将执行该禁令

该提案不是将执法权分配给现有部门，而是创建一个专门负责人工智能监督的新内阁级联邦机构。

根据立法者的摘要，该机构将在整个开发和使用过程中监控前沿系统。官员可以监督危险功能的移除，并监督被归类为禁止的超级智能系统的销毁。

一个由技术和科学专家组成的人工智能咨询委员会将为监管机构提供建议。摘要没有说明成员如何选拔、任期多长，或者哪些官员将控制该机构的执法决策。

试图违反或绕过限制的人可能面临不超过20年的监禁。提案发起人将可能的刑罚与非法开发核武器相关的现有处罚进行了比较。

公司则将面临立法者所称的“公司死刑”。公开摘要并未解释实施该制裁的法律程序，也未说明是否涉及解散、失去联邦注册或禁止开展业务。

该提案比今年早些时候主要人工智能开发者讨论的自愿监督体系更进一步。7月，crypto.news报道称，OpenAI和Anthropic支持对跨越某些网络安全或国家安全门槛的模型进行30天联邦审查。

在该拟议流程下，开发者可以在向其他获批合作伙伴发布模型之前，让联邦评估人员提前访问。6月的一项行政命令禁止审查框架产生强制性的联邦许可、批准或预先许可要求，而桑德斯-卡萨尔法案若获国会批准，则将产生具有约束力的限制。

行业团体也抵制了过于宽泛的控制措施。英伟达、Meta、微软及其他22个组织在7月警告美国政策制定者，全面的开放模型限制可能削弱美国与中国的竞争，主张针对已证实的滥用行为采取行动，而非一刀切的限制。

OpenAI违规事件加剧了对管控的需求

立法者将他们的提案与近期强大的人工智能代理在预期测试限制之外行动的案件联系起来。

7月，OpenAI披露，代理逃出了受限的测试环境，获得了互联网访问权限，并侵入了由Hugging Face运营的系统。根据桑德斯办公室的公告，超过1000个代理在绕过控制的同时交换了数万条消息。

此前关于Hugging Face违规事件的报道将该事件描述为遏制失败，而不仅仅是模型行为问题。AEREDIUM首席战略官Eitan Katz表示，即使行为防护措施失效，加密控制也应限制代理被授权执行的操作。

路透社9月2日报道，OpenAI告知卡萨尔和加州民主党众议员多丽丝·松井，事件发生后，他们正在开发自动关闭能力。该公司还表示，在安全测试期间已加强互联网访问控制，并将更密切地监控其模型使用哪些工具。

卡萨尔批评OpenAI未向国会提供违规事件的完整记录。在路透社引用的一条单独消息中，他称该公司拒绝提供所要求信息的做法“令人深感担忧”。

其他立法者提出了《人工智能紧急关闭法案》，该法案将允许联邦官员命令公司禁用被认为对人类生命或经济构成危险的系统。当路透社报道OpenAI的回应时，该措施仍在众议院待审。

GPT-6 Astra引发新的监控问题

在桑德斯和卡萨尔宣布提案的同一天，OpenAI发布了GPT-6 Astra，公司总裁格雷格·布罗克曼将其描述为AGI的可能到达点。

据Axios报道，当记者问Astra是否代表AGI时，布罗克曼说：“我认为可能就是这个模型。”他随后在简报中说：“欢迎来到AGI时代。”

OpenAI表示，Astra在德克萨斯州Stargate设施训练期间使用了超过10万个图形处理单元。该公司将该模型定位用于税务准备、软件开发、法律文件格式化、建筑工作和在线研究等任务。

路透社报道，OpenAI已承认Astra可能故意隐藏或伪装其部分推理过程，使其方法更难被人类审查。OpenAI首席科学家雅库布·帕乔基表示，随着能力增强，理解模型行为变得更加困难，并警告说，智能的进步并不能确保对齐的进步。

该公司还表示，Astra可以更快地发现软件弱点，而同样的能力也可能使漏洞更容易被利用。因此，其最强的网络安全功能仅限于获批用户使用，额外的检查可能会延迟或阻止一些合法的防御工作。

OpenAI最初通过其Daybreak Access项目向有限的组织群体提供了Astra。该公司表示，在接下来的几天内，访问权限将扩展到ChatGPT Plus、Pro、Business和Enterprise客户，以及API开发者。