我目前正在从OpenAI的数学未来峰会返回多伦多。Sebastian Bubeck让我谈谈我们都希望避免的未来，在这个未来中，人类在数学上被削弱。Jacob Tsimerman建议我们优先考虑细节而非正确性，我无疑在降低正确性优先级方面成功了。我试图找到一个不是太浮夸的标题：研讨会的前提（我们将其当作出发点，而不是辩论的主题，为了进行富有成效的讨论）是：人工智能将在数学方面变得极为超人。我想讲一个故事，尽管如此，数学进展却停滞不前。为了明确，这不是一个预测——我天生乐观，认为我们会找到适应的方法——但我试图想象一个在某些现有趋势持续的情况下，未来可能会是什么样子。2026年，显而易见的是，我们正处于数学成果大爆炸的开始；例如，以下是自2021年末以来，每周在arXiv上发布的组合学论文数量。其他领域也显示出类似但不那么戏剧性的增长。我想想时间序列的关于数学结果的推文也会类似。令人不太清楚的是，这些过剩的研究成果有多有趣或多正确，更别提有多少是与此进行有意义的交流。尽管如此，它仍然包含一些显著且重要的新结果。与此同时，数学界的某些组织正在萎缩。以下是每月的MathOverflow问题和答案的图表；由于MathOverflow的功能正在被Discord等平台蚕食，这些数字已经缓慢下降一段时间，但自2025年初以来的下降很大程度上可能是由于人工智能造成的。我认为这里引人注目的是，问题和答案的数量都在减少。例如，我在这里的统计中没有找到老问题的答案数量有增加的迹象，或者实际上没有任何我可以正面解读的其他统计数据。即使在人工智能产生的最有趣的结果中，奇怪的事情也开始发生。例如，三个团队几乎同时独立地产生了非常相似的Feige的1/e猜想的证明；两个团队披露这一结果是由人工智能发现的。在@__alpoge__发布反例以反驳Jacobian猜想（维数≥3）后，OAI的一个内部模型对此进行了模拟；同样，Anthropic重新生成了OpenAI最近宣布的许多结果。这些模型及其使用者似乎正解决同样的问题。在实践中，这意味着大量重复的劳动，无论是肉身还是计算机，都致力于数学边际价值几乎为零的工作，基本上只是代币的成本和一些指示该问题可以由现有模型解决的信息。2027年，当然这些工作对发布它的人可能有价值（信用、公共关系等）。目前我们试图通过奖励那些生产论文、证明定理和解决猜想等的人员来激励高质量科学的产生。但是这些产出现在被错误定价，激励它们显然不是高质量科学生产的最佳选择。如果我们在接下来的几年继续这样做，会怎样呢？我认为，如果我们这样做，职业成功的主导策略（至少在中期）是猜想的老虎机。事实上，甚至不必选择猜想——你只需要求代码来选择它们并解决它们并检查工作。如果你关心生产正确的论文，你可以通过这种方式每天产出多篇短文（而正在这样做的人也不少）；如果你不在乎正确性，你可以生产更多（人们也在这样做）。增加的价值是什么？代币的成本？当然不是所开发的专业知识——这根本不存在。没有人，甚至连作者自己，也几乎没有人在读这些工作。数学家们不再与基础数学相连。即使是人工验证在模型变得更可靠时，价值也可能减少。此外，这对数学社区造成了严重的负面影响。我们已经接近这样的点，即这些模型可以在给定一些关键思想后重建一篇论文。我们开始看到的一些自主人工智能结果具有“最后一公里”的特征，它们在他人的深度近期工作之后完成了一个问题。在这个世界中，谈论自己的进行中的工作——甚至只是表明模型可以解决给定的问题——越来越危险（至少如果我们仍然以声望、工作等来奖励这样的工作）。我最近被多个同事告知，他们由于这个原因不愿意讨论进行中的工作。2028年，尽管如此，还是有一些亮点。自动形式化变得廉价而高效。许多文献中的差距或错误被发现并修复。许多人声称这里需要人类的判断，以检查陈述和定义是否被正确地形式化。我对此持怀疑态度……