超过1100名AI从业者联署信件，呼吁美国政府支持工具以“引领自动化AI发展的前沿” 作者：Brent D. Griffiths 你正在关注这位作者！想要取消关注吗？通过电子邮件中的链接取消订阅。Anthropic的共同创始人Jack Clark是签署公开信的知名人士之一，呼吁美国制定AI法规。Brendan Smialowski/法新社/盖蒂图片社 一些国家领先的AI公司的高级官员表示，如果有必要，现在是时候让联邦政府找到减缓AI发展的方式了。“我们请求美国政府支持一项国际努力，开发技术和治理工具，以有意地协调自动化AI发展的前沿，”这封由超过1100名来自OpenAI、Anthropic、Google和Meta等公司的AI工作者签署的公开信中写道。签署人包括两位Anthropic的共同创始人Jack Clark和Jared Kaplan；OpenAI的首席科学家Jakub Pachocki；Meta的首席科学家Shengjia Zhao；以及领导Google DeepMind AI安全与对齐工作的Anca Dragan。信中聚焦于“自动化AI发展”，即AI将能够自我发展的能力，这在业界被称为“递归自我改进”。Anthropic表示，其Claude模型正在迅速接近这一门槛。“很难准确预测这将加速AI进步的程度，但确实存在能力发展快速加速超出我们理解或控制能力的风险，”信中提到那一潜在时刻。思维机器的首席科学家John Schulman说，他签署此信是为了引起对该主题的关注。“我签署是因为这份声明有助于建立关于自动化AI研究加速进展的协调机制的共同知识，”Schulman在信件组织者分享的引用中写道。他补充道：“我也希望实验室在美国政府介入之前主动开始设计这些机制。” 这封信显示了行业中许多人团结起来呼吁监管的趋势。最近几周，Anthropic首席执行官Dario Amodei、OpenAI首席执行官Sam Altman和Google DeepMind负责人Demis Hassabis都已提出了一些全球AI监管框架。关于AI监管的讨论正达到临界点，此前OpenAI的一个模型突破了其沙箱，入侵了开源平台Hugging Face的系统，Altman称这次事件是“真正提醒我们这一切的风险”。特朗普政府迄今为止倾向于轻度监管，但随着前沿AI模型因其强大而让政府和公司官员感到恐慌，这种情况变得越来越紧张。白宫采取措施实施出口管制，以短暂遏制Anthropic发布其最强大的公共模型Fable 5，随后又要求OpenAI推迟发布其最新的前沿模型GPT-5.6。唐纳德·特朗普总统曾表示，过于繁重的监管会对美国在与中国竞争的过程中造成伤害。尽管广泛达成共识认为有必要采取措施，但国会未能制定出能在两院通过并到达特朗普桌前的政策。与此同时，各州开始实施自己的行业监管。最引人注目的是，纽约州已对AI公司和超大规模数据中心希望建设的新数据中心实施了一年的全州性暂停。“每个公司——以及每个国家——都在面临巨大的竞争压力，不能单方面减缓这种加速，”信中写道。“而如今，世界缺乏有意协调前沿进展所需的技术和治理工具。” 虽然行业似乎在监管的概念上达成一致，但具体细节可以有所不同。Amodei呼吁成立一个类似于联邦航空局的独立机构，该机构将测试前沿AI模型，并在发现红旗时有权暂停其发布。Hassabis的提议呼吁成立一个组织，最初仅要求前沿公司自愿在发布前30天提交其模型进行审查，但后来将要求强制预清理。这封信最初由彭博社报道，并在发布前与两个非营利组织Guidelight AI Standards和Encode AI共同组织，这两个组织都在推动AI安全标准。Encode AI此前曾与OpenAI发生冲突。 阅读下一篇 Brent D. Griffiths 你正在关注这位作者！想要取消关注吗？通过电子邮件中的链接取消订阅。Brent Griffiths是《商业内幕》的高级记者，报道AI和科技。此前，他在《华盛顿邮报》担任研究员，参与Power Up和Finance 202项目。他起初的职业生涯...