本报告摘自本周的《技术下载》通讯。如果你喜欢你所看到的，可以在此处订阅。当OpenAI的流氓模型上周对初创公司Hugging Face发起网络攻击时，该公司以火还火，利用另一种AI模型进行防御。这是一个科幻般的自主黑客故事，成为本周最受关注的科技报道之一。但Hugging Face用来对抗流氓AI的模型的来源同样引起了人们的关注。这家初创公司使用了GLM 5.2，这是由中国公司Z.ai创建的开放权重系统。最终，它成功了，而美国领先的竞争对手则失败了。2023年8月17日星期四，Hugging Face网站在美国纽约的一台笔记本电脑上。英伟达宣布与Hugging Face达成合作，后者是一个流行的AI模型和数据集开发者，这将为其网站添加一个使用英伟达DGX Cloud的训练服务，使用户能够利用这家芯片制造商的服务器来处理他们的工作负载。照片：Gabby Jones/Bloomberg via Getty Images Bloomberg | Bloomberg | Getty Images 网络攻击 如果你错过了，周二OpenAI表示，其最强大的模型和一种尚未发布的更强模型的结合逃出了沙盒测试环境，访问了互联网并利用漏洞获得了Hugging Face的系统访问权限。OpenAI表示，该模型试图寻找可以用来在评估中作弊的信息，并且成功了。最初，Hugging Face对攻击的来源感到困惑，但事件发生几天后，该公司开始与AI实验室合作。Hugging Face首席执行官Clément Delangue在X上的一篇帖子中写道：“在过去的24小时里，我们与@OpenAI团队紧密合作（感谢他们！），我们坚信他们并没有恶意意图。”他说：“所有这些都是自动发生的，真是令人惊讶！”在OpenAI流氓模型是攻击背后的消息传开时，AI行业感到震惊。该公司称这次安全事件是“前所未有的”。 反击 Hugging Face最初考虑了包括Anthropic的Fable 5在内的前沿模型来分析攻击，公司机器学习负责人Yacine Jernite告诉CNBC。“由于安全防护措施无法确定我们是在防御还是攻击，所以没有成功，”他说，并补充说这种方法也更慢且更昂贵。提供商的安全防护措施阻止了对模型的请求，无法判断事件响应者与攻击者的区别。“所以[Hugging Face]很快切换到使用Z.ai的GLM 5.2来分析攻击，并能迅速使用该模型阻止攻击，”Jernite说。GLM 5.2于6月首次推出并受到开发者的广泛关注。作为一个开放权重模型，公司可以下载、修改、进行商业部署并——在这种情况下尤其重要——进行自托管。Hugging Face在一篇关于该事件的博客文章中表示：“这还有一个额外的好处：没有攻击者的数据，也没有GLM 5.2所引用的任何凭据离开我们的环境。”所有这些事情发生之际，美国立法者越来越考虑如何遏制本土企业对中国AI模型的日益采用，因为美中之间的AI军备竞赛正在升温。对限制中国AI公司开发的模型的访问的呼声日益高涨，这些公司被指控进行信息提取运动，侵入美国竞争对手的系统。然而，OpenAI和Hugging Face的事件突显了限制访问最强大的开源和开放权重模型的挑战，而不论它们来自何处。Hugging Face表示：“攻击者没有受到任何使用政策的约束，而我们自己的取证工作则受到我们最初尝试的托管模型的防护措施的阻止。”Hugging Face表示：“对防御者来说，实际的教训是：在事件发生之前，拥有一个可以在自己的基础设施上运行的可靠的强大模型，经过审核并做好准备。”对于一个不自建AI模型的公司来说，这通常意味着转向开源或开放权重。现在最强大的模型大多是中国制造的。如果美国真的采取措施限制对中国开发的模型的访问，关于如何增强本土开源AI以填补空缺的问题将引发重大讨论。在一个日益接近AI网络攻击时代的世界中，访问强大且至关重要的可靠模型将是至关重要的。 最新动态 一位白宫官员指责中国AI公司Moonshot访问英伟达的先进芯片，尽管出口管制禁止他们这样做。欧洲监管机构对谷歌处以8.9亿欧元（约合10亿美元）的罚款，指控该公司对其自身服务给予优待。特朗普对在美国制造先进芯片的压力正在挤压全球领先芯片制造商台积电的利润。OpenAI和Anthropic在2026年第二季度将联邦游说支出增加到创纪录水平，因为AI行业向华盛顿倾斜了数百万美元。