美国政府发给Anthropic的执行信，实际上迫使该公司在周末前将其最新的AI模型下线，应该成为任何美国科技公司的警钟——无论是AI实验室还是其他。让我们来回顾一下新闻闪电：周五下午，美国商务部向Anthropic发送了一封信，引用了一项模糊的出口管制指令，禁止包括Anthropic员工在内的非美国人访问Fable 5和Mythos 5，理由是某种未指明的国家安全问题。Anthropic表示，它认为这封信与模型的防护措施绕过有关，但并不确定，因为信中没有提供具体细节。该信件未公开。对此，Anthropic关闭了其两个顶级模型以确保遵守指令。结果是，美国政府成功地通过迅速且单方面的行动迫使一家科技公司将其模型下线，这似乎并不需要法院批准。特朗普政府周五的干预表明，AI行业并未免疫政府的干预。这也是对更广泛科技行业的警告：遵守，否则我们可以关闭你和你的产品。Axios援引消息来源描述了周末两大参与者之间的紧张局势，称Anthropic与特朗普政府之间的“个性差异”导致了出口指令，而非AI产品的技术问题。周末出现的新细节进一步质疑政府本已不稳的推理。网络安全资深专家和Luta Security创始人Katie Moussouris在一篇博客文章中提到，Anthropic最近向她分享了一份由安全研究人员撰写的纸质副本，描述了Fable 5中所谓的防护措施绕过。（《华尔街日报》报道，论文的作者是亚马逊的安全研究人员。）Moussouris表示，Anthropic联系她是想听取她对这篇论文的看法。Moussouris的博客文章描述了研究人员如何触发防护措施的绕过，但表示这一绕过“根本不应触发出口管制。”这种差别主要在于请求AI模型“审查代码以发现安全问题”和请求它“修复此代码”之间的区别。尽管问题表述略有不同，最终的结果大致相同。“论文中描述的行为无法有意义地修正，任何尝试只会削弱模型的防御能力，”Moussouris表示，批评这一出口管制指令是草率、笨拙和误导性的。Moussouris和其他数十名顶级安全研究人员和专家随后呼吁特朗普政府撤销出口管制命令，称将先进的网络安全能力从美国网络防御者手中撤回是“危险的”。过去的政府曾对知识差距做出宽泛的决定。例如，美国政府在2010年代使用的语言以修正适用于网络攻击的网络安全工具的出口法则是如此广泛，以至于意外地几乎将合法的安全和漏洞研究近乎违法。然而，特朗普政府的指令似乎是出于报复。Tech Policy Press的编辑Justin Hendrix表示，特朗普政府的这一举动“可能会在外国首都引发对美国AI在关键应用中可靠性的警报。”其信息是，美国的AI公司无法在没有美国政府干预的情况下运营。特朗普政府尚未确认为何它引用了出口管制指令。官员们是否误解了报告而感到恐慌？亚马逊首席执行官Andy Jassy是否向高级政府官员说了什么引发了这种反应，出于小心或怨恨？是否在翻译中出现了问题，还是这是施压Anthropic的一种方式，而该政府与其原本关系就不和？白宫可能不知道信件要求的深远后果，官员们正慌忙修复自己造成的损害。引用Hendrix的话，“气候是高级官员基于个人和政治因素选择偏爱的怀疑云。”其后果是，政府设定了一个关于它打算控制多大程度的美国制造软件发布的危险先例。这次政府与Anthropic发生了问题；明天可能与其他任何人发生。通过我们文章中的链接进行购买时，我们可能会获得一小部分佣金。这并不影响我们的编辑独立性。Zack Whittaker是TechCrunch的安全编辑。他还撰写每周的网络安全通讯《本周的安全》。您可以通过加密消息signal上的zackwhittaker.1337与他联系。您还可以通过电子邮件与他联系，或通过验证...