[这是Amit Sahai的客座帖子。这篇博客文章最初是用不同的文件格式撰写的，并通过AI转换而来。—— T.] 当我还是一名本科生时，我记得和几个学生谈过，他们觉得顶尖学生理解新数学概念的速度太快，自己跟不上。他们也能够理解这些想法，但需要花费更长的时间。最终，几乎所有这些学生都放弃了追求研究数学的梦想，找到了其他的出路。在过去几天，我一直在思考这些学生。研究数学社区在很大程度上由那些很少感到这种情况的人组成，或者是那些感到这种情况并通过努力克服它的人。我们有幸在数学中找到一个可以取得进展的地方。但我们现在进入了谦逊的时代：一个我们所有人都将知道无法跟上的感觉的时代。我所使用的AI系统已经产生了美妙的新理念。它们不仅仅是在执行令人印象深刻的计算或迅速进行强大的人类研究者已经理解的论证。我们可能甚至无法想象未来系统能够产生的精彩想法。当我们感到无法跟上时，我们是否会把这当作放弃研究数学的理由，就像我所记得的那些学生一样？随着我们更多人经历这一点，无疑会有一种诱惑，使人得出与他们相同的结论：如果机器能比我们快得多，也许我们应该寻找其他事情做。我们社区如果放弃理解的工作，将是对人类责任的深刻放弃。我们每个人都有权选择不同的生活。我所说的责任属于我们集体：建立一个人类能够理解并参与改变世界发现的未来。一个有意义的人类代理的未来。挣扎对于理解困难的概念至关重要。幸运的是，这种挣扎是可以共享的。我有幸一次又一次地与我的学生和合作者经历这一切。想象一下无数的研究小组，每个小组都有持续的支持，每个小组花一个学期或一年时间努力理解由AI系统产生的非凡一套思想，并利用AI系统的帮助。[1] 这可能在未来几年中成为最重要的数学工作之一，我们应该相应地支持和优先考虑这一点。这项事业将需要全球数学素养的研究者数量的显著增加，因为主要的突破性想法不断累积。社会为什么需要这一点？到目前为止，这听起来可能对我们来说像个乌托邦的幻想——一个专注于深度人类理解的文明，充满数学家和物理学家等。我当然希望生活在这样一个世界中。实际上，社会朝这个方向发展的深层哲学原因。但我认为社会在使这一切成为可能方面也有更加直接的利益。想象一下，未来的AI系统提出了一种全新的设计，用于一台一千亿瓦的核聚变电站。它发现了一种维持和控制聚变的方法，这是人类从未设想的。该设计承诺提供充足、廉价、清洁的电力。机器人已经准备好制造部件并建造电厂。一千亿瓦是一种无法想象的电力。我们将决定是否构建一台利用我们从未设想过的原理处理非凡能量流动的机器。我们需要理解在系统关闭时如何控制故障，已经存储在系统中的能量会发生什么，我们如何确保构成电站的材料按预期表现，以及在继续之前应该问什么其他问题。使提案令人兴奋的全新性意味着我们无法从数十年的类似电站或实验中继承信心。在批准建设之前，我希望人类社区能够理解设计为何有效，以及什么为其安全性提供信心。我希望我们所有人都能。人类的参与并不会自动改善技术决策，我没有理由坚持让人类手动重复AI系统可能更可靠地执行的工作，即使包括证明数学保证。但一个定理只能存在于某个模型内。理解保证意味着理解模型、模型的实验证据以及我们对模型准确性的的不确定性。这是项艰巨的工作，并且必须有数学素养的人来参与其中。有人可能会回应，AI系统也应该处理这些问题，并最终决定电站是否应该建造。这是一个严肃的立场。