陶哲轩警告：AI解决数学难题的速度快于新问题产生

任何人都可以发明无穷无尽的新数学问题；圆周率的第一千亿位数字在技术上是一个无人计算过的开放问题。但这些问题几乎都不重要，因为大多数并不能让我们对更广阔的领域有所了解。陶哲轩写道，真正重要的是要知道哪些问题值得付出努力。

“简而言之，不加选择地使用强大的解题工具可以实现解决眼前问题的短期目标，但代价是牺牲支撑下一波进步的生态系统，或者无法理解已经取得的进展，”陶哲轩写道。

随着推理模型和最新一代前沿人工智能系统的发布，各大实验室开始将大量的计算能力投入到数学和科学问题上。Anthropic 和 OpenAI 已经用那些多年来甚至几十年来一直困扰人类数学家的问题来测试他们的模型。

这些成果涵盖了从量子物理到应用数学和医学等领域。但数学有所不同：真正困难的问题相对稀缺，研究人员通常会仔细选择哪些问题值得花费数月甚至数年的时间去研究。

过去，要弄清楚这一点往往依赖于某个领域的“难度地形”——哪些问题是微不足道的，哪些需要付出真正的努力，哪些在现有工具下毫无希望。新方法总是会夷平该地形的一部分，但它们也会在自身极限之外开辟新的前沿。陶哲轩认为，人工智能打破了这种模式，因为没有人能确切说出一个模型的能力边界在哪里。

从传闻到竞赛

陶哲轩并不是在描述一个假设。今年5月，OpenAI的一个模型推翻了埃尔德什单位距离猜想，这是一个有80年历史的问题，关于平面上有多少对点可以恰好相距一个单位。包括菲尔兹奖得主蒂姆·高尔斯在内的外部数学家验证了这一结果。

同一周内，Anthropic的研究员莱文特·阿尔波格通过Claude Mythos运行了相同的问题，这是该公司未发布的最强模型，离线运行，因此无法复制OpenAI已发布的解决方案。Anthropic工程师肖尔托·道格拉斯称结果为“一个可爱、简洁的证明”，比OpenAI的证明更短。数学家丹尼尔·利特称其比OpenAI的版本“稍差一些”，不过Mythos也找到了OpenAI自己的解决方案。

就在本周，Anthropic形式化了费马大定理的一个有数百年历史的证明，几天后，OpenAI在一位研究员发表自己的证明几小时后攻克了一个有90年历史的问题，并与一位Anthropic研究员合著了一篇论文。

这场竞赛正是陶哲轩所担心的。“我们现在已经看到，即使有人正在研究某个问题的传闻，也可能引发大量由人工智能驱动的努力，在原始研究项目充分发挥潜力之前就将其解决，”他写道。

陶哲轩认为，这最终会逆转数百年的开放科学。

评判过程，而不仅仅是答案

陶哲轩提出的解决方案是，将某些问题标记为“需要分析”，这意味着一个正确的原始答案价值不大，除非它附带的推理能揭示邻近问题的某些信息。他将其比作食品银行不再接受任何仅仅可食用的捐赠。

要么这样做，要么在数学中禁止人工智能，陶哲轩说，这种解决方案“在技术上不可行”。

该提议尚未在任何地方成为政策，而且根据大型人工智能实验室的行为方式，即使这一提议目前也可能在技术上不可行。