2026年6月 在《霍比特人》的一条支线剧情中，两位霍比特人试图唤醒树木恩人——一棵聪明但迟缓的有感知的树，以保卫他的森林免受砍伐的军队的侵袭。问题是，树木恩人的行动速度与霍比特人大相径庭。他需要整整一天的时间才能向另一棵树打个招呼，因此要让他和他的同伴迅速行动几乎是不可能的。人工智能与我们的政治制度的交集感觉有点像霍比特人和树木恩人。人工智能正在以闪电般的速度发展——仅仅四年内，人工智能模型从几乎无法写出连贯的一行代码，发展到为大型人工智能公司编写大部分代码。生物学、物理学、数学、金融、法律、翻译等多个领域也取得了类似的进展。人工智能的规模法则预测，随着计算能力的提高，通用认知能力会呈指数增长，已有超过十年的实证证据支持这一理论。如果这些规模法则再持续一两年，我们可能会迎来我所谓的强人工智能，或者“数据中心中的天才国”。相比之下，政策——尤其是立法——进展极其缓慢。这往往有其合理之处：政府拥有重大权力，通常来说他们不应该过于仓促地行使这些权力。但是，时局的失调仍然非常痛苦：在国会采取行动可能需要几年的时间，而人工智能则可能从一个有趣的玩具演变成一个充满天才的国家。近年来，自人工智能成为主要的商业技术以来，想要负责任地处理它的我们面临着两难选择。我们清楚地看到指数增长的趋势：我们强烈怀疑，在几年内，人工智能将成为少数几项基本重塑整个政策格局的技术之一，就像核武器重塑地缘政治，工业革命重新塑造每一个经济和社会问题一样。但是，对于那些仅仅关注人工智能当时的能力的人来说，它看起来像是一个更普通的技术——也许与最新的消费应用或者加密货币相似。很难说服大多数决策者和公司采取除了自由放任的态度之外的任何态度。公正地说，人工智能的根本性影响尚未显现，我们也不知道它们将以何种形式出现，这使得即使有意愿采取行动，也难以设计出合适的政策。考虑到这种情况带来的限制，许多安全倡导者（包括Anthropic）至今主要关注倡导能够保留选择性的政策行动，为未来的快速反应做好铺垫，或给世界更好的洞察前景——诸如透明立法、对芯片的出口管制以及对人工智能劳动影响的数据收集。这些还不够，但在当时感觉似乎是唯一可能的。 然而，在过去几个月里，人工智能的强大能力及其风险的证据已经变得不可否认。也许最具标志性的例子是克劳德神话预览，以及发现前沿模型对网络安全构成非常现实的风险，可能导致金融部门、关键基础设施和国家安全的破坏。神话预览颠覆了全球网络安全格局。但其更广泛的意义在于，它毫无疑问地证明了人工智能模型如今已成为具有全球和国家战略意义的工具。神话级模型所带来的网络风险不会是我们必须面对的最后一个。我相信，生物风险可能不久就会随之而来，而严重的人工智能自治风险也不会太远。我们现在必须在全球范围内共同启动一个缓慢而不稳的政策机制，以应对将迅速积累的风险和机遇。许多决策者表现出采取行动的意愿增加，看到我们的同行能够走到与我们在过去几年所倡导的立场上，令人鼓舞。这是好事，但我担心，这些早期行动与人工智能的快速进步至少存在一年的步伐不一致。这篇文章尝试缩小这一差距：明确指数增长现状，以及为了应对这一时刻所需的集体行动。我将重点关注五个在人工智能时代需要重新想象的经典政策领域：监管与公共安全、宏观经济与税收政策、科学创新、国家与社会之间的权力平衡以及地缘政治。我将主要讨论美国政策，因为Anthropic是一家美国公司，但我大部分的建议在世界其他地方同样相关。与这篇文章一起，Anthropic发布了一项有关前沿模型测试的立法提案以及一项关于职位置换的政策框架，我们打算提供大量的财政支持。我们计划在未来做更多，但我们认为这...