我们创建了一个网页游戏，以展示人工智能研发的经济学。你将扮演一个人工智能实验室，从零开始建立一个人工超智能，投入劳动、计算资源和数据进行研发，直到你能够实现自我维持加速。该游戏受到最近一篇论文《递归自我改进的经济学》的启发，以及其他经济学和计算机科学的基础研究论文。游戏基于这些论文的实际经济模型构建，但并不旨在成为一个现实的预测。这些模型高度依赖其参数化，而在游戏中，参数是为了教学目的而进行校准，而非预测准确性。为了理解未来的走向可能如何取决于一些相关参数，我们创建了一个探索工具，以深入研究基础模型。人工智能的发展是复杂的、快速变化的，并且难以预测，但它在某种程度上遵循了一些统计法则（特别是模型训练中的规模法则），展现出惊人的一致性。我们对游戏和模拟器能够帮助我们发现和理解人工智能研究轨迹的新有用模型的潜力感到兴奋。背景 理解人工智能能力的轨迹是预测未来最重要的问题之一。特别是，理解人工智能如何加速人工智能研究——通常称为递归自我改进——可能是最重要的组成部分，因为它可能导致改进速度的剧烈拐点。我们对量化递归自我改进和预测其轨迹的方法感兴趣，并对近期成立的一个经济学家小组（包括METR的Tom Cunningham）所提出的《递归自我改进的经济学》一文特别感到兴奋。我们对他们的方法充满期待，因此创建了游戏和探索工具，以帮助更直观地理解模型及其一些含义。该探索工具提供了一个可视化和互动的界面，适用于论文中的所有模型。该游戏借鉴了论文中的思想，创建了一个动态模型，融合了计算最优训练、基于研发的增长模型、规模依赖的算法进展以及自动化中的弱链等观念。总结 游戏和探索工具是理解递归自我改进的输入和约束的有用工具。在参与上述工作的过程中以及开发这些工具时，我们分享了一些获得的见解：弱链现象占主导地位。人工智能研究使用互补性输入：人类研究者、计算资源和数据。如果智能资源充足，其他因素可能依然会限制进展。递归自我改进可能受限于计算资源或数据。如果算法进展持续依赖于日益增长的规模，那么这一点尤其可能在Gundlach等人（2025）所述的情况下真实存在（该模型也被纳入游戏中）。即使你能够构建出比任何人类人工智能研究者都要优秀的人工智能，它在研究人员的角色上仍然会受到计算资源和数据的限制（至少在当前范式下如此）。递归自我改进可能是间歇性的。人工智能有可能在一段时间内经历自我维持的加速，然后在达到智能的物理极限之前就停止。事实上，如果计算资源持续成为瓶颈，这种情况似乎很有可能。我们可能首先经历“狭义”的智能爆炸。我们可能首先通过“狭义”的能力（特定于人工智能研究或优化）来实现递归自我改进，而这些能力并不能完全概括。预测依赖于参数化。经济模型的输出依赖被称为弹性的参数，这些参数告诉你某一数量对特定输入增加的响应程度。推动递归自我改进的关键弹性是发现速率对当前模型能力的弹性。它是其他弹性的乘积，依赖其他输入，并可能随着时间变化。这使得跟踪这些值的最新指标非常重要。结论 未来的面貌可能会根据人工智能进展速度的变化而大相径庭。为了更好地预测我们前进的方向，理解这一进展是至关重要的。早期工作已经提供了测量递归自我改进的经济模型。然而，关于进展速度的许多问题仍然难以回答。在这些情况下，指标和模型可以提供重要的信息，帮助校准反应。我们对推动递归自我改进建模前沿的工作充满兴趣，并希望我们的游戏和模拟器使递归自我改进动态更加直观。如果你正在研究类似主题，请联系 jw@paradigm.xyz 和 dan@paradigm.xyz！感谢Tom Cunningham、Basil Halperin、Nate Rush和Wil的帮助。