劳伦·费纳是《The Verge》的高级政策记者，报道硅谷与国会山的交集。她在CNBC工作了5年，报道技术政策，涉及反垄断、隐私和内容审核改革。特朗普总统星期二签署了一项行政命令，建立了一个“自愿框架”，以便人工智能公司在其模型发布前与联邦政府分享前沿模型，以“促进安全创新并加强关键基础设施的网络安全。”该命令指出，美国的人工智能产业部分成功是因为“我们拒绝以过于繁重的监管来抑制这种创新”，但也承认新的AI能力带来了安全风险。因此，它指示多个联邦机构制定一个框架，以“评估AI模型的先进网络能力”，在其向公众发布之前。公司可以自行决定是否在发布前与政府分享其模型，但如果选择这样做，可以获得某些保密保护。它还要求联邦政府为AI准备网络防御，尤其是针对关键基础设施的防御。这项命令是在特朗普最后一刻推迟签署一项早已计划的行政命令后发布的，他担心该命令可能会“妨碍”与中国的竞争。根据《纽约时报》，早前的版本允许人工智能公司在发布前自愿与政府分享模型，时间为14到90天，而当前版本要求公司在公开发布前最多分享模型30天。谷歌、微软和xAI上个月同意允许商务部的人工智能标准与创新中心（CAISI）进行发布前审查。OpenAI和Anthropic早在2024年就已同意在乔·拜登总统的推动下与CAISI分享其模型，作为安全防护措施的一部分。然而直到最近，特朗普政府仍然淡化安全担忧，并采取不干涉的态度。在星期二签署的命令中明确表示，这不应被视为强制许可或预审的形式。尽管如此，它反映了特朗普政府雇用对人工智能公司进行监督的某种意愿。“白宫正式被Mythos影响了。”这种转变的一个因素可能是Anthropic在四月份有限发行其强大Mythos模型，该公司表示该模型已标记出“成千上万的高严重性漏洞，包括每种主要操作系统和网络浏览器中的一些。”Mythos似乎也为Anthropic与政府之间的紧张关系解冻创造了机会，此前该公司曾因其在自主致命武器和大规模监控中使用人工智能而与五角大楼进行法律斗争。新签署的命令迄今也得到了即使是那些倡导反对州人工智能法律限制的团体的赞赏。“白宫正式被Mythos影响了，”美国负责任创新协会主席布拉德·卡森在一份声明中说道，并补充说该命令显示特朗普政府正认真对待人工智能的脆弱性。安全人工智能联盟首席执行官布伦丹·施泰因豪赛也表示，他的组织“很高兴看到特朗普政府认真对待这些模型的风险”，施泰因豪赛和卡森都敦促国会立法制定强制性保护措施。关注此故事的主题和作者，查看个人主页的更多相关信息，并接收电子邮件更新。劳伦·费纳