简讯
- 卡托研究所认为，政府强制暂停人工智能发展可能会阻碍创新并保护现有公司。
- 杰克·多尔西同样反对由领先开发者协商达成的限制，但接受为应对灾难性风险而实施的限制。
- 立法者和人工智能高管正在推动限制措施，而分析人士质疑自愿承诺能否持续。
自由意志主义的卡托研究所警告称，政府强制暂停人工智能发展可能会使主导企业免受竞争，并延迟有益技术的到来，与此同时立法者和人工智能高管正在推动限制措施。
在周一的一篇博客文章中，该智库的技术政策学者詹妮弗·哈德尔斯顿认为，企业可以通过自愿保障措施和共同标准来应对具体危险，而无需停止整个行业的发展。
“政府强制暂停会引发若干担忧，而且很可能无法实现其所谓的安全改进，”她写道，并补充说政府的规则制定缓慢，修改更慢。“为当今模型构建的监管框架可能会主动阻碍未来的模型，阻止可能更好或更安全的回应。”
哈德尔斯顿承认人工智能的风险，但警告说，围绕领先开发者制定的规则可能帮助他们巩固权力并限制竞争——这是一种市场俘获，会使小公司更难竞争。她还认为，暂停美国的发展可能会削弱网络安全防御，而外国竞争对手则继续前进。
她的评论是在参议员伯尼·桑德斯和众议员格雷格·卡萨尔提出的一项提案之后发表的，该提案要求暂停先进人工智能的发展，直到联邦安全标准建立，并永久禁止人工超级智能，而OpenAI首席执行官萨姆·奥尔特曼则支持放缓发展，并敦促公司在等待他支持的联邦规则的同时加强保障措施。
“这些呼吁中有许多都伴随着科幻小说式的末日情景，描绘可能发生的最坏情况，”哈德尔斯顿写道。“然而，出于恐惧而急于监管，其长期负面后果可能比它声称要应对的风险更为严重。”
Block 的董事长兼联合创始人杰克·多尔西周一在 X 上的一篇帖子中，也对竞争问题表达了类似的担忧。
“引领机器智能的公司理应被倾听。它们拥有专业知识和需要保护的商业利益，”多尔西写道。“围绕它们的资源制定的规则，可能会使它们成为唯一能够参与其中的一方。对安全的真诚关切，仍然可能制造出准入壁垒。”
多尔西表示，他支持开放发布，让研究人员能够检查、修改和测试，并公布评估结果和已知局限，以便外部人士能够质疑开发者的安全声明。
“我支持审查。我反对由当今领导者谈判达成的全行业限制，因为它们可能会把那些可能揭露失败或构建替代方案的人排除在外，”他写道。“维护一家公司的商业优势并不是安全目标。”
多尔西在帖子中还表示，他支持独立测试和可公开问责的执法，包括在有证据表明模型发布将实质性增加灾难性风险、而更狭窄的措施无法充分应对时，暂不发布这些模型。
“算力可以触发审查，而不必限制开发。审查不是来自监管机构或竞争对手的许可，”他说。“我不想要一般性的批准要求或等待期。任何以安全为由对发布施加的延迟，都必须由灾难性风险例外来证明其正当性。”
最近一份大西洋理事会分析认为，竞争压力要求制定可执行的 AI 安全标准，而美中之间的不信任使国际协议变得复杂。合作也引发了反垄断担忧：OpenAI 已询问立法者，竞争对手开发者是否可以合法地同意放缓开发。
