2026年6月5日 — 下午3:53 世界上最有价值的人工智能公司呼吁全球冻结对最强大人工智能系统的开发，警告人类正接近一个可能失去对其所推进技术的控制的节点。在周四（澳东时间周五）发布的一篇博客文章中，位于旧金山的安索普公司表示，如果能够确信其竞争对手也会这样做，它愿意暂停对更强大系统的开发。"如果能有效减缓这一技术的发展，为我们自己争取更多时间来处理其巨大影响，我们认为这可能是一件好事，" 高管们写道。安索普的Claude Mythos预览版过于强大而无法向公众发布。据彭博社报道，安索普有充足的商业理由继续开发。它最近超越了ChatGPT制造商OpenAI，成为世界上最有价值的人工智能公司，估值约为9650亿美元（约合1.3万亿澳元）。由于担心其最强大的系统——称为Mythos——可能被用来进行毁灭性的网络攻击，它也未向公众发布，并表示本周将在分阶段推出的过程中首次向澳大利亚组织扩展Mythos的访问权限，目的是在产品被黑客利用之前修复安全漏洞。该公司的论点围绕其称之为“递归自我改进”概念展开：人工智能系统开始能够在几乎没有人类输入的情况下设计和构建自己的继任者的那个节点。安索普的研究负责人玛丽娜·法瓦罗和其总裁杰克·克拉克表示，行业正在逼近这一门槛，而跨越这一门槛可能引发能力的爆炸，超出社会管理后果的能力。安索普首席执行官达里奥·阿莫代伊呼吁对这一技术进行监管。为了支持其论点，该公司发布了内部数据，显示Claude的改进速度是多么之快，并表示超过80%的新代码是由Claude编写，而不是由人类编写。在其中一个例子中，该公司表示Claude在4月份解决了800多个软件bug，它估计人类工程师需要花费4年才能修复这些bug。法瓦罗和克拉克将这一情况称为“军备控制问题”，他们表示行动的时间有限。他们也坦诚承认，协调减缓的实践难度有多大。“有意义的减缓或暂停需要多个资源充足的实验室，在多个国家，在相同条件下达成停止的共识，"他们写道。"这也要求每个实验室能够验证其他实验室确实停止了……培训过程远比导弹发射井更容易隐藏。"该公司表示，冻结可能适得其反。“如果减缓仅仅让那些最不谨慎的参与者在技术上赶上来，可能会让每个人更不安全，"它写道，指的是美国和中国之间的竞争，两个国家的政府都没有表现出减缓的意愿。行业对今天的系统距离递归自我改进和人工通用智能等里程碑有多近仍然存在分歧，人工通用智能是广泛可与人类相提并论的机器智能水平。一些研究人员表示，这样的讨论夸大了当前模型的能力，并分散了对人工智能已经造成的危害的注意，包括歧视、诈骗和隐私侵犯。安索普将自己定位为主要实验室中最注重安全的一家，即使它发布的突破性进展可能被认为是危险的。首席执行官达里奥·阿莫代伊曾因安全和伦理问题离开OpenAI，他表示技术“可能会出现非常非常糟糕”的情况的几率为25%。在澳大利亚，联邦政府长期拖延的人工智能安全研究所预计将在几个月内开幕。上周，该研究所与英国的人工智能安全研究所签署了一项谅解备忘录，涵盖共同研究和新兴系统的测试。该英国机构是首次公开评估安索普早期版本的Mythos模型的机构之一。安索普对克制的呼吁与联邦政府在国内所采取的方向相悖。去年12月，联邦政府搁置了对高风险人工智能的强制性保护措施的计划，包括前工业部长埃德·哈西克所倡导的类似于欧盟的人工智能法案，转而采用一种依赖于现行法律和监管机构的较轻触摸模式。哈西克在去年被剔除出内阁时曾表示，零散的做法会留下危险的空白。民调显示公众对人工智能持谨慎态度。EY最近对23个国家进行的全球调查发现，澳大利亚人是人工智能使用最为频繁的用户之一，但他们对人工智能的态度同样消极：68%的人担心失去对技术作出决定的控制权。并不是所有人都认为这一呼吁应该被采纳。