人工智能公司Anthropic于周四建议全球暂停构建最强大的人工智能系统，因为最新模型已经开始出现可能逃脱人类控制的迹象。总部位于旧金山的这家公司制造Claude系列AI模型，在一份报告中表示，全球范围内的尖端AI发展放缓“可能是好事”——但警告称如果只有一家公司停止，竞争对手将会快速超越。"我们认为，允许放慢或暂时暂停前沿AI发展对世界是有益的，以使社会结构和对齐研究能够跟上技术的进步，"它表示。要实现真正的暂停，意味着多个国家的大型AI公司——尤其是美国和中国——都需在可核实的规则下同时同意停止，Anthropic表示。它还表示，"没有全球协调机制，企业和政府将在竞争和地缘政治压力下，面临有关安全的困难决策。"该公司受到行业内其他公司的反对——以及白宫官员的质疑——这些人表示它对最坏情景的关注夸大了风险，实际上是以安全问题为掩护来缓慢竞争对手。然而，白宫承认该公司的Mythos模型的强大，该模型由于其网络安全能力尚未向公众提供，目前只部署在少数经过审查的组织中。该提案在华盛顿和硅谷面临艰难的斗争，美国官员和科技高管们一再声称，任何对AI发展的放缓都有可能使中国在被许多人视为本世纪决定性技术竞赛的领域上获得决定性的战略优势。然而，美国总统唐纳德·特朗普表示，他在最近访华期间讨论了与中国就AI安全问题合作的可能性。特朗普还签署了本周的一项行政命令，允许政府在最强大的美国AI模型发布前，进行30天的初步审查。"人类角色收窄"Anthropic将这一问题与核武器控制条约相比，但表示很难对其进行控制，因为AI训练比导弹发射井更容易隐藏，并且继续进行的诱惑将是巨大的。该公司表示，计划在未来几个月内汇集政府官员、科学家、倡导组织和竞争的AI公司，以想出这样的系统如何运作。呼吁协调的同时，Anthropic还表示，内部数据显示AI已经显著加速了AI本身的发展。这种加速创造了一个反馈循环，Anthropic警告说，这可能最终导致研究人员所称的“递归自我改进”。这是指一个AI系统能够在没有多少人类帮助的情况下，基本上自我学习变得更聪明的想法。"我们还没有达到这个阶段，递归自我改进并非不可避免，"报告指出，同时补充说，这种情况可能比大多数政府和机构准备的要早到来。"证据表明，在AI发展过程的每一步，人类的角色都在收窄，"该公司表示。(法新社报道)