简讯
- 据《连线》报道，OpenAI 已询问立法者，竞争对手 AI 开发者是否可以合法地协调放缓开发速度。
- 专家表示，资金和竞争压力使得企业不愿独立放缓开发。
- 国会的一项法案将保护某些限制 AI 开发以应对安全风险的协议。
OpenAI 已询问国会议员，竞争对手 AI 公司是否可以合法地同意放缓开发，因为其首席科学家敦促行业建立共同的安全标准。
据《连线》援引知情人士的话报道，OpenAI 近几周询问立法者，AI 公司之间放缓开发的协议是否会违反反垄断法。
向立法者进行接触之前，OpenAI 首席科学家 Jakub Pachocki呼吁自愿放缓，直到开发者能更好地证明其系统是安全的。但即使公司自己的研究人员有所担忧，企业仍面临继续推进的压力。
“人工智能领域的商业和地缘政治竞争异常激烈，导致了一种令人担忧的态势：企业被激励在产品风险被充分理解之前就将其发布，”民主与技术中心首席技术官米兰达·博根（Miranda Bogen）对Decrypt表示。
“即使内部员工知道需要更多的研究和测试，他们的公司也面临着巨大的压力，要求他们偷工减料、跳过关键的安全测试，尽管关于行动过快后果的证据不断累积，”她补充道。
一项减缓人工智能发展的协议可能会因限制竞争而引发反垄断担忧。参议员亚当·希夫（Adam Schiff）和吉姆·班克斯（Jim Banks）提出了一项立法，以保护某些安全合作，但须提前通知司法部。
关于减缓人工智能发展的辩论正值美国和中国争夺该技术领导权之际。美国总统唐纳德·特朗普在5月推迟了一项人工智能行政命令，原因是担心它可能削弱美国对中国的领先优势。特朗普后来在6月签署了该命令，为先进模型在发布前建立了一个自愿审查程序。
比国家安全担忧更直接的是，经济激励可能使达成协议变得困难。
“在当前条件下，每一项进步都会带来数百万或数十亿美元的额外资金，并使该进步的创造者处于更有利的权力和影响力地位，”机器智能研究所传播主管邓肯·萨比恩（Duncan Sabien）对Decrypt表示。
萨比恩称这种军备竞赛态势是真实存在的，并表示OpenAI和Anthropic面临着在风险不确定的情况下继续推进的压力，因为每个新系统都有助于构建更强大的后继系统，如果两家公司在没有共同协议的情况下放缓脚步，就会让竞争对手取得领先。
“这一点尤其正确，因为智能的提升具有复利效应；每个新系统都使训练和部署下一个更先进的系统变得更加容易，”他说。“如果没有某种协调机制，退后一步只意味着对方取得领先。
8月，OpenAI因网络安全担忧暂停了缺乏更强保障措施的内部Astra工作。然而，OpenAI和Anthropic都在2月放松了其安全承诺，Anthropic首席科学官贾里德·卡普兰（Jared Kaplan）认为，在竞争对手继续推进的情况下，单独放缓发展意义不大。
本周，关于减缓人工智能发展的辩论愈演愈烈，此前前Anthropic工程师雅各布·考克森（Jacob Coxon）公开宣布辞职，理由是他担心人工智能的持续发展会给人类带来风险。
“构建人工智能的人们真心相信，它可能在这个十年结束前杀死我们所有人，”考克森在X上表示，并称这并非“营销噱头”。
“如果说有什么不同，那就是许多高管和资深研究人员会在媒体上斟酌措辞，让自己听起来通情达理——但我听到同样这些人在私下表达恐惧。没有任何其他人类活动会构成这种程度的危险，”他写道。
然而，萨比恩表示，如果别人只是取代他们的位置，研究人员离开可能收效甚微。
“如果他们中有足够多的人达成共识，认为他们都应该停下来，那么他们就能突破协调障碍，一起停下来，而不是仅仅被下一个稍微不那么谨慎的人取代，”他说。
