观点 詹姆斯·蒂特科姆 2026年6月8日 — 下午5:15 在古巴导弹危机将世界推向核战争边缘后，全球大国发起了一项共同努力，将其拉回悬崖边缘。1968年的核不扩散条约限制核武器的扩散，取得了巨大的成功。如今只有少数国家可以获取这种已有80年历史的技术，而那些拥有它的国家尚未使用它。习近平和唐纳德·特朗普必须合作来遏制AI。自此数十年间，尚无技术像核武器一样需要类似的国际协调，但那些担心人工超级智能的人现在认为，有必要采取类似的全球努力，以防止AI引发灾难。全球最有价值的AI公司Anthropic呼吁建立一套机制，以减缓或暂停先进AI的发展，警告称这一技术可能会比许多人想象的更快失控。“我们认为，世界能选择减缓或暂时暂停前沿AI的发展，从而让社会结构和协调研究跟上技术的发展，将是好事。”该公司研究部门的负责人表示。他们补充称，如果能够推迟开发，“可能会是件好事”。Anthropic最近估值达到9650亿美元（约合1.37万亿美元），表示该公司响起警报是因为他们相信AI的进步速度远远超过我们理解和控制这些系统的能力。在公司内部，机器人不仅是在编写代码，还在指挥其他机器人并进行自己的研究。他们表示，AI不久后可能会自我构建，这一过程被称为递归自我改进。这可能会启动一个反馈循环，使进展呈现抛物线状上升。怀疑者称这只是商业营销。Anthropic上周表示已申请首次公开募股，预计将其估值推高至超过1万亿美元。 在世界领导人需要遏制的强大技术面前，还有什么比这更有价值的呢？自我构建的AI一直是该公司多年来用来筹集资金的推介材料之一。唐纳德·特朗普的前人工智能特使、大力批评Anthropic的戴维·萨克斯（David Sacks）指出，这一警告是试图借助公众救助的迹象，并说道：“你也许是想让你们的前沿AI实验室国有化。”然而，对强大AI的担忧变得越来越突出。Anthropic将其最强大的AI系统Mythos排除在公众手中，原因在于其发现重要计算机系统安全缺陷的能力。英格兰银行行长安德鲁·贝利警告称，AI可能会导致金融系统崩溃，并上周警告称，Mythos意味着“我们认为可能在明年、后年、三年或四年内发生的事情，如今已经变得非常明显”。AI实验室担心下一代模型将足以帮助恐怖分子开发生物武器。如果AI开始自我构建而没有人类的监督，按照定义将变得更难以控制。在安全专家担心的极端场景中，AI的目标与我们自身无关，迫使其消灭人类，以免我们妨碍它。许多人对此观点嗤之以鼻，认为这只是科幻小说的胡言乱语。然而，暂停的支持者表示，即使面临微小的灭绝可能，也应该足以促使我们考虑如何阻止它。“我们无法[减缓进程]的原因是，因为我们有地缘政治对手以相似的速度开发相同的技术。”Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）说。彭博社确立暂停的必要性将是简单的部分，而使其变为现实则是另一回事。如果他愿意，Anthropic的首席执行官达里奥·阿莫代伊今天可以让所有人回家，关闭他的公司。充其量，这将使强大AI的崛起推迟几个月。它的两个主要竞争对手谷歌和OpenAI并未落后多少。开发ChatGPT的OpenAI上周表示，它也看到了“今天系统中递归自我改进的早期迹象”。安全专家担心的极端场景是，AI的目标与我们自身脱节，迫使其消灭人类以避免妨碍它。“我们预计这将增加开发者和国家之间的竞争压力，并产生现有机构无法解决的治理挑战。”该公司表示。 对中国的威胁 即使美国政府命令所有三家公司停止AI工作，这也可能只是让中国获得更大的优势，因为中国的公司通常被认为落后于美国公司三到六个月。“我们无法[减缓]的原因是，因为我们有地缘政治对手以相似的速度开发相同的技术，”阿莫代伊在世界经济论坛上说道。