观点 詹姆斯·提特科姆 2026年6月8日下午5:15 在古巴导弹危机把世界推向核战争边缘后，全球大国开始共同努力将其拉回悬崖。1968年的《不扩散核武器条约》成功地限制了核武器的传播。如今，只有少数国家拥有80年前的技术，并且这些国家没有使用它。习近平和唐纳德·特朗普必须共同合作来遏制人工智能。 据Getty Images报道，自那以后，没有任何技术像核武器一样危险到需要类似的国际协调。然而，担心人工超级智能的人如今认为需要类似的全球努力以防止以人工智能为主导的灾难。全球最有价值的人工智能公司Anthropic呼吁建立一种机制来减缓或暂停先进人工智能的发展，因为它警告说，该技术可能比许多人想象的更快失控。“我们认为，对于世界来说应该有减缓或暂时暂停前沿人工智能发展的选项，以使社会结构和对齐研究能够跟上技术的进步，”该公司研究部门负责人表示。他们补充说，如果开发能够被推迟，“可能是件好事”。 Anthropic最近的估值为9650亿美元（约1.37万亿美元），它表示警告是因为相信人工智能的进步速度远快于我们理解和控制系统的能力。在公司内部，机器人不仅在编写代码，它们还在指挥其他机器人并进行自己的研究。它们表示，很快，人工智能可能会自我构建，这个过程称为递归自我改进。这可能会启动一个反馈循环，使进展呈抛物线增长。 怀疑论者表示这只是营销。上周，Anthropic表示，已经提交了首次公开募股申请，预计其估值将超过1万亿美元。Anthropic最近的估值为9650亿美元，表示警告是因为相信人工智能的进步速度远快于我们理解和控制系统的能力。AP 有什么比这样强大的技术更有价值，以至于世界领导者需要遏制它？能够自我构建的人工智能一直是该公司多年来为筹集资金而使用的介绍材料。唐纳德·特朗普的前人工智能事务负责人、大频繁批评者大卫·萨克斯暗示，这一警告是为了获得公众援助，表示这是一种“你可能试图让你的前沿人工智能实验室国有化”的迹象。但是，关于强大人工智能的担忧越来越突出。Anthropic将其最强大的人工智能系统Mythos保留在公众手中，因为它能够发现极其重要计算系统的安全漏洞。英格兰银行行长安德鲁·贝利对人工智能可能导致金融系统崩溃发出了警告，上周表示Mythos使“我们认为可能在未来一年、两年、三年或四年内发生的事情，如今已经变得非常紧迫”。人工智能实验室担心，下一代模型将足够优秀，以帮助恐怖分子开发生物武器。如果人工智能在没有人类监督的情况下开始自行构建，那么它将定义上变得更难控制。在安全专家担心的极端情景中，人工智能的目标与我们自身脱节，迫使其消灭人类，以免我们妨碍它。许多人将这个想法视为科幻小说的胡言乱语。但是暂停的支持者表示，即使是微小的灭绝可能性也应该足以让我们考虑如何阻止它。“我们无法[减缓]的原因是因为我们有在相似速度下构建相同技术的地缘政治对手”：Anthropic首席执行官达里奥·阿莫代伊。彭博社 确立暂停的必要性是容易的部分。使其成为现实则是另一回事。如果他愿意，Anthropic的首席执行官达里奥·阿莫代伊可以今天就让每个人回家并关闭公司。在最好的情况下，这将推迟强大人工智能的崛起几个月。其两个主要竞争对手，谷歌和OpenAI，也紧随其后。开发ChatGPT的OpenAI上周表示，它也看到了“当前系统中递归自我改进的早期迹象”。在安全专家担心的极端情景中，人工智能的目标与我们自身脱节，迫使其消灭人类，以免我们妨碍它。“我们预计这将增加开发者和国家之间的竞争压力，并造成现有机构无法应对的治理挑战，”该公司表示。 中国的威胁 即使美国政府下令三家公司停止人工智能的工作，这也可能只会让位于中国的公司，因为这些公司通常被认为在进展上落后于美国的公司三到六个月。“我们无法[减缓]的原因是因为我们有在相似速度下构建相同技术的地缘政治对手，”阿莫代伊在世界经济论坛上表示。