上周五，白宫以未具体说明的国家安全顾虑命令Anthropic限制将其强大的AI模型Fable和Mythos出口到美国以外的任何地方，以及在国内的外国国籍人士。随后，AI巨头迅速暂停了这两个模型，现已暂停一周供任何人使用。此次事件是美国政府能否像对待加密和间谍软件那样，利用出口管制来控制前沿AI的第一次真正测试，之前这些尝试的效果非常不均衡。而且，尽管听起来可能很戏剧化，这场僵局的解决方式不仅可能影响Anthropic在外国市场的准入，也可能影响其他AI实验室需要建立的规则。首先来点背景。自从Anthropic在四月推出Mythos以来，该公司将其宣传为一种末日网络机器，如果过于广泛地发布，可能会对互联网造成破坏——这就是为什么在禁令之前，只有约150家经过审查的公司和政府组织能够访问它。目标是帮助防御者在坏人达到类似Mythos的能力之前保护他们的软件和服务。那么，是什么触发了禁令呢？据报道是两个后续事件。首先：Anthropic通过其有限合伙人计划向一家韩国电信公司提供了Mythos的访问权限，美国官员在确定该公司与中国有联系的疑虑后感到 alarm。（该公司被广泛报道为SK Telecom，否认与中国有任何联系。）亚马逊首席执行官安迪·贾西也据说在亚马逊自己的研究人员发现绕过Fable 5的安全措施后向政府报告了。Anthropic对“越狱”标签提出异议，称这是一个狭窄、已修补的问题，而不是对模型安全措施的全面击败。结果是相同的：商务部发布了出口控制指令，Anthropic在被通知后大约90分钟内匆忙限制了对其产品的访问。据某些报道显示。虽然这些并不是什么新鲜事。政府试图使用出口管制来限制他们认为的危险网络技术的扩散已经几十年了，但他们的战绩充其量只能算是中等。美国政府在1990年代初至中期也许是历史上最壮观的失败的策划者。当时，计算机科学家们正在开发加密技术以保护数据在互联网上传输时的安全。其中一种加密产品名为“非常好的隐私”（Pretty Good Privacy，简称PGP），这是一款流行的软件，可以加密数据，即使在传输过程中被拦截，也几乎无法解密。美国政府最初视PGP为一种危险武器，担心它会阻止情报机构窃听电子邮件的传输。为防止PGP的传播，美国海关服务局对PGP的创始人菲尔·齐默曼（Phil Zimmermann）展开了刑事调查，指控他违反武器出口管制。他通过将PGP的源代码以印刷书籍的形式发布进行了反击，点燃了今天所称的“加密战争”。齐默曼在调查结束时赢得了这一关键战役，为前端到前端加密算法的关键发展铺平了道路，这种算法如今被数十亿的Signal和WhatsApp用户使用。之后，在2010年代初，研究人员开始发现西方制造的间谍软件用于对付中东的持不同政见者。作为回应，几个政府同意扩大“瓦森纳安排”（Wassenaar Arrangement），这是一个限制出口双重用途软件和技术的国际条约，这些软件和技术既可用于民用，也可用于军事应用。其想法是将监控和黑客软件归类为双重用途，从而迫使间谍软件制造商在将其产品销售到国外之前获得出口许可证。联系我们 如果您对Mythos禁令有更多信息？请从非工作设备和网络联系洛伦佐·弗朗切斯基-比基拉（Lorenzo Franceschi-Bicchierai），通过Signal安全联系 +1 917 257 1382，或通过Telegram和Keybase @lorenzofb，或发送电子邮件。但瓦森纳协议一直存在两个内在缺陷。有几个国家不遵守该协议，包括以色列，该国也曾容纳一些全球最活跃的间谍软件制造商。该协议还依赖于各国自行决定将其适用于国内企业的自由裁量权。在一段时间内，意大利政府允许该国当时的顶级间谍软件制造商之一——黑客团队（Hacking Team）获得出口工具的许可证，尽管该公司的记录显示它向压迫性政府出售间谍软件，后者用其入侵记者和人权活动家。此后，欧洲的其他国家在对待间谍软件制造商方面也表现得很宽松。尽管发生了众多丑闻，欧洲作为许多间谍软件和黑客工具制造商的家园，持续未能遏制间谍软件向专制政权的出口。