2026年6月5日 — 下午3:53 世界上最有价值的人工智能公司呼吁全球冻结最强大人工智能系统的开发，警告人类正接近一个可能失去对其迅速发展的技术控制的临界点。在周四（澳大利亚东部时间星期五）发布的博客文章中，总部位于旧金山的Anthropic公司表示，如果能够确信其竞争对手也会停止开发更强大的系统，它愿意暂停更能化的系统的研发。公司高管写道：“如果能够有效地放缓这一技术的发展，为我们争取更多时间来应对其巨大影响，我们认为这可能是件好事。” Anthropic的Claude Mythos预览版本过于强大，不适合向公众发布。彭博社报道称，Anthropic有充分的商业理由继续开发。它最近超越了ChatGPT的制造商OpenAI，成为全球最有价值的人工智能公司，估值约为9650亿美元（1.3万亿美元）。它还因担心其最强大的系统Mythos可能被用于实施破坏性网络攻击而拒绝公开发布这个系统，并表示本周将首次向澳大利亚组织开放对Mythos的访问，作为逐步推出计划的一部分，旨在在产品到达黑客之前解决安全漏洞。该公司的论点基于一个它称之为“递归自我改进”的概念：人工智能系统能够在几乎没有人类输入的情况下设计和建造自己的继任者的时刻。Anthropic的研究负责人Marina Favaro及其总裁Jack Clark表示，行业正逼近这一临界点，跨越这一点可能会引发能力的爆炸式增长，超出社会管理后果的能力。Anthropic首席执行官Dario Amodei呼吁对这一技术进行监管。彭博社为了支持这一观点，该公司发布了Claude改善速度的内部数据，表示超过80%的新代码是由Claude编写而不是由人类编写。公司提到，Claude在4月份解决了800多个软件缺陷，估计如果是人类工程师修复需时四年。Favaro和Clark称这种情况是“军备控制问题”。他们表示，行动的时间有限。他们也坦诚地说，协调减缓行动在实践中将是多么困难。“一个有意义的减缓或暂停将需要多个资源丰富的实验室在多个国家在相同条件下达成停止的协议，”他们写道。“还需要每个实验室能够核实其他实验室实际上已停止 …… 训练过程远比导弹发射井更难以隐蔽。”该公司表示，冻结也可能适得其反。“如果减缓只是让不够谨慎的参与者赶上技术，这可能会让每个人都处于更不安全的状况，”它写道，这是指美国和中国之间的竞争，两个国家的政府都没有表现出放缓的意图。对于今天的系统距离递归自我改进和人工通用智能（机器智能水平广泛可以与人类相媲美）等里程碑有多接近，行业依然存在分歧。一些研究人员认为，这样的说法夸大了当前模型能做的事情，并分散了人们对人工智能已经造成的危害的注意，包括歧视、诈骗和隐私侵犯。尽管Anthropic发布了可能被认为有危险的突破，但它已自我定位为最大的重视安全的实验室之一。首席执行官Dario Amodei因为安全和伦理问题离开了OpenAI，他表示，技术“非常非常糟糕”的风险有25%的可能性。在澳大利亚，联邦政府久拖未决的人工智能安全研究所预计将在数月内开业。上周，该研究所与英国的人工智能安全研究所签署了谅解备忘录，涉及共享研究和新系统的测试。英国机构是公开评估Anthropic早期版本的Mythos模型的首批机构之一。Anthropic呼吁克制的方向与联邦政府在国内采取的方向相悖。去年12月，政府暂缓了包括独立的欧盟风格的人工智能法案在内的高风险人工智能的强制性监管方案，转而支持依赖现有法律和监管机构的更轻松的模式。去年被解除职务的行业部长Ed Husic表示，碎片化的方法会留下危险的漏洞。民意调查显示公众对人工智能持谨慎态度。埃森哲最近对23个国家的全球调查发现，澳大利亚人是人工智能使用最频繁的人群之一，但他们对人工智能的感受与最糟糕的相等：68%的人担心失去对技术所做决定的控制。并不是所有人都认为这一呼吁应该被立即采取。