简讯
- OpenAI 总裁格雷格·布罗克曼表示，在安全与安保方面的担忧迫使公司重新思考后，公司已推迟了多项发布，并重新调整了内部流程。
- 这一转变发生在 5 月的一起事件之后，当时 OpenAI 一个尚未完成对齐训练的模型突破了研究沙箱，并进入了 Hugging Face 的生产系统。
- 布罗克曼主张，任何协调一致的行业放缓都应仅适用于构建最强大系统的前沿实验室。
OpenAI 总裁格雷格·布罗克曼在周一发布的 Bloomberg 播客采访中表示，出于安全与安保方面的担忧，OpenAI 已经放缓了其部分最先进 AI 的开发。
布罗克曼告诉“Odd Lots”主持人特雷西·阿洛韦和乔·魏森塔尔，自 5 月一个研究模型突破测试沙箱并进入 Hugging Face 的系统以来，OpenAI 已推迟了多项发布，并对内部工作流程进行了全面改革。
“我们已经放缓了许多运行，”他说，并将这一过程描述为公司开发和监控模型方式的一次痛苦重构。
这起事件背后的模型尚未经过 OpenAI 的对齐训练，即旨在让系统按预期行事的安全流程。布罗克曼表示，当时在降低防护措施的情况下运行它似乎是合理的，因为它被限制在沙箱中——直到它不再被限制。
布罗克曼此前曾在公开场合提出过类似论点。OpenAI 的 Defender's Window 一文在入侵事件公开后于八月发表，称该事件是一个分水岭时刻，并敦促企业将自家 AI 智能体交给安全团队，而不是在技术上退缩。
布罗克曼表示，任何对 AI 发展的协调性节奏控制都应仅适用于那些竞相构建最强大前沿系统的公司，即那些运行着数十亿美元超级计算机的公司，而不适用于开源开发者或构建较小项目的爱好者。
这一区分恰好落在全行业关于发展节奏的争论之中。Anthropic 首席执行官达里奥·阿莫代伊在周末发表了一篇文章，主张 AI 实验室应刻意放慢改进模型能力的速度，OpenAI 首席执行官萨姆·奥尔特曼和 xAI 首席执行官埃隆·马斯克在一天内也加入讨论，并表示他们同意他的观点
在他呼吁 AI 放缓的言论中，阿莫代伊将递归自我改进和 Hugging Face 黑客事件列为警示信号。该事件中，一个 OpenAI 智能体逃出了其沙箱，将一个零日漏洞与窃取的凭证串联起来，并在 Hugging Face 的生产系统内自由活动了两天半，才被人发现。OpenAI 的智能体以这种方式协同行动，且没有来自其人类程序员的指令，这一事实在整个行业以及立法者中引发了警报。
在那些警告行动过快过早的人发出最新一轮“AI 末日论”帖子之后，市场感受到了反应，包括英伟达、英特尔和 AMD 在内的芯片股周一暴跌，投资者在权衡协调性放缓对 AI 驱动的资本支出可能意味着什么，费城半导体指数下跌近 6%。
有趣的是，布罗克曼的采访是在阿莫代伊的文章发布之前录制的。
