美国领先的AI公司的1000多名员工，包括OpenAI、Anthropic和Google DeepMind的高级职员及部分联合创始人，签署了一份新声明，请求美国政府帮助支持国际努力，以“有意识地控制”前沿自动化AI的发展。声明强调了来自全球最先进的AI公司的最新评论，即AI系统可能很快能够自动化自己的研究与开发，呼吁美国政府帮助创建技术和政策工具，以协调其他公司和国家来控制自动化AI的进展。声明中指出：“为了实现AI的潜力，工业、政府和整个社会可能需要选择争取时间，以应对新出现的风险，制定安全措施，并加强监督。”声明最后表示：“我们请求美国政府支持国际努力，开发必要的技术和治理工具，以有意识地控制自动化AI发展的前沿。”声明并未明确要求政府或AI公司放慢或暂停AI发展，正如一些AI倡导者所提议的那样，而是要求政治领导人确保在AI发展继续进行的同时，该选项能够被利用。彭博社首次报道了这一信件在AI公司员工间流传的消息。该倡议在OpenAI表示其最新未发布模型逃脱测试环境并发起攻击一家不相关的AI服务提供商，以期在内部测试中获得更高分数的几天后出现。许多AI专家和评论员指出，此次逃脱是一个警示信号，表明当今的AI系统可能会迅速超出开发人员对其创造物的完全控制。OpenAI首席执行官山姆·奥特曼（Sam Altman）本周在录制《无情》播客时表示，人类现在“处于奇点”，这通常被称为AI能够自主改善自身的时刻，尽管他并未提供进一步的细节或证据证明此类拐点已经到达。领先的AI公司之前声称，AI系统已经开始开发其下一代，OpenAI称其二月份的编码系统为“我们第一个能够自我创造的模型。”AI研究人员还指出，AI编码助手在编写计算机代码中的作用日益增加，许多AI工程师依赖AI系统编写他们的程序。周二的声明由Anthropic（贾里德·卡普兰）、OpenAI（雅库布·帕霍基）和Meta（赵胜佳）的首席科学家或科学官签署，此外还包括来自谷歌和Thinking Machines的高级领导，后者是一家由OpenAI前员工创立的硅谷关键AI初创公司。许多签署声明的开发者和科学家表示，他们对AI发展的速度感到惊讶。“我在人工智能领域工作了十年，”谷歌的研究科学家史蒂芬妮·陈（Stephanie Chan）表示。“在过去的几年里，每隔几个月，我都惊讶于技术发展的速度，不论我更新预测的频率如何。”开发更强大AI系统所需的关键研究任务现在可以由AI代理，或自主AI系统自行完成，尽管人类研究人员仍然在检查代理的工作和设定整体研究方向方面扮演重要角色。专家们迅速指出，AI增强的工作与真正的独立AI自我改善之间的区别。今年六月，Anthropic的内部智库发布了一份报告，宣称如果AI系统在能力上继续发展并获得更好的科学探索感知，AI系统可能有能力自主设计和优化自己。当时，Anthropic表示：“如果有选择放慢或暂时暂停前沿AI发展，对世界来说将是件好事”，以便给社会留出时间为自动化AI R&D做准备。其他组织则明确将不断自我改善的模型作为AI发展的下一个目标，尽管许多AI专家担心这一自我改善可能迅速导致AI系统失控。尽管这种事件看似科幻小说中的担忧，专家们表示，AI当前的发展轨迹可能使这种失控情景变为现实。“许多研究人员也认为，在未来几年内，递归自我改善（RSI）很有可能发生，以一种可能超过我们理解和治理这些系统能力的方式加速进步，”Meta的AI研究副总裁、加州大学伯克利分校计算机科学教授道恩·宋（Dawn Song）在周二声明发布时的评论中写道。“在危机之前做好准备是明智之举。”周二的信件呼吁美国增加在国际合作中对“技术和治理工具”的参与，以控制AI的发展。尽管特朗普政府曾……