这篇故事最初出现在《算法》中，我们关于人工智能的每周通讯。要第一时间将这样的故事送入您的收件箱，请在此注册。对于那些在夏天享受生活而不知道Anthropic与美国政府之间最新争执的人，以下是一个回顾：在四月，该公司表示它建立了一个名为Mythos的AI模型，该模型在处理代码方面表现出色，可能构成全球网络安全威胁。Anthropic将其访问权限提供给了一小组网络安全专家，以便他们能够了解自己所面临的挑战。然后，它发布了一个名为Fable的修改版本，并表示这是对公众更安全的版本，时间是6月9日的星期二。那星期五，联邦政府告知该公司这是对国家安全的威胁，并对新版本施加了出口管制。几小时后，Anthropic撤销了对这两个模型的访问权限。人们对AI的灾难性影响深感担忧——被广泛称为“末日论者”的人们——已经多年表示，这项技术对人类构成威胁，并已发布建议以说明政府应该如何干预其发展。末日论者们刚刚得到了他们的政府干预——不是针对生物武器或流氓AI，而是对一个在编码方面非常出色的AI模型进行回应。而到目前为止，结果看起来更像是一种表面的反应，而不是安全计划。对于导致政府采取如此激烈行动的那几天所发生的事情，有很多值得剖析的地方，值得注意的是，亚马逊首席执行官Andy Jassy是告诉政府官员Fable会很危险的人（亚马逊同时投资了Anthropic并在开发自己的竞争AI模型）。这也可能是一次短暂的政府禁令，无法经得起法律审查（例如，目前尚不清楚Anthropic对Fable的访问权限是否真正算作“出口”）。但已经发生了连锁反应。首先，这使得很多人不再想依赖美国的AI公司。法国政治家布鲁诺·里泰劳将其称为“警钟”，应该促使欧洲建立更多的AI。然而，许多其他欧洲领导人在Anthropic模型关闭后所倡导的将巴黎变成硅谷的任何愿景，都被一件大事所复杂化：那就是中国。来自中国的开源模型非常强大且价格极其低廉，可以下载并在任何人的服务器上运行，没有任何规则或保护措施。（这使得它们对不希望根据白宫的决定被关闭访问权限的公司具有吸引力，但同样对网络犯罪分子也具有吸引力，这类人是Anthropic希望通过在其模型中建立安全防护来抵御的。）有可能包括美国和欧洲在内的公司会决定使用中国模型会更容易，正如中国初创公司Zhipu的股价飙升所暗示的那样。展望未来，政府下一个激烈的决定是否可能是说使用中国模型的美国公司构成国家安全威胁？我不会将其排除。其次，关闭对Anthropic模型的访问可能会使国家更容易遭受网络安全攻击，而不是更少。领先的网络安全专家在给政府的公开信中就表示，访问Anthropic模型正在帮助研究人员准备防御，并且该公司的模型并不像其他许多广泛可用的领先模型那样危险。这就是将防扩散概念应用于软件的风险——试图以控制和限制核武器中使用的铀的方式来控制和限制危险的AI模型。第三件值得关注的事情是美国立法者将如何反应。记住，在Anthropic与政府就五角大楼是否可以使用其模型发生争执后，一系列新法案被提出，这些法案将界定军事AI的使用限制。目前，在塑造AI使用方式的最大参与者是公司和白宫。关于加强联邦AI监管的讨论很多，民调显示大多数美国人希望如此。立法者仍在摸索关于儿童使用聊天机器人的规则，距离对政府应该多大程度审查AI模型安全性的明确答案仍遥遥无期。但是，随着白宫采取每一次激烈的行动，立法监管的压力也在上升。显而易见的是，预测是困难的，因为政府对于AI的态度随着风向而变化。当特朗普总统上任时，他抛弃了有关如何使AI安全的限制规则，并承诺让位于科技公司。白宫现在已经在春季和夏季两次称最有价值的AI初创公司会构成国家安全风险。秋天会有什么变化？