Nvidia和众多科技巨头于周一启动了一项新的人工智能安全倡议，重点关注开放模型，因为由一个叛逃的OpenAI模型实施的网络攻击的后果仍在继续。上周，攻击目标——初创公司Hugging Face，无法使用美国领先的前沿模型来自我防御，因为安全措施未能区分攻击者和防御者。相反，它转向了一种自托管的开放权重中文模型，该模型不受相同限制的约束。在美国立法者日益考虑如何遏制对中国人工智能模型日益增长的采用，最先进的模型是开放权重的背景下，科技巨头启动了一项旨在构建和共享开放AI工具的倡议。开放模型可以下载、修改和自托管，而封闭模型包括由Anthropic和OpenAI构建的前沿系统，只能通过特定基础设施访问。Nvidia在一份声明中表示：“开放安全人工智能联盟将努力修复和披露使用开放技术的漏洞。” “最近的Hugging Face安全事件清楚地提醒我们：网络防御者需要开放的前沿智能系统进行自我防御。” 除了Nvidia，联盟的其他成员包括微软、SpaceX、Palantir以及来自美国和欧洲的数十家其他科技公司。遏制中国人工智能的推力 针对中国人工智能公司所构建模型的限制措施呼声日益高涨，这些公司被指控发起“蒸馏”攻击，从美国竞争对手的系统中提取信息，即一个模型从训练更好的模型中提取知识。上周，财政部长Scott Bessent威胁对那些对美国公司实施蒸馏攻击的中国公司实施制裁。智库“外交关系委员会”的中国及新兴技术高级研究员Chris McGuire在接受CNBC采访时表示：“美国政府确实有可能对中国模型施加限制。” 这可能包括禁止与这些模型相关的交易，例如通过API购买令牌或美国公司在云上托管模型并向客户收取推理费用。McGuire说：“在华盛顿，这不是一个关于开源与闭源的辩论，而是一个关于是否容忍中国知识产权盗窃的辩论。” “任何行动都将集中在中国公司身上，而不是开源生态系统。” 但由于大多数最强大的开源模型是由中国公司构建的，因此对限制措施存在担忧。上周，Nvidia、微软、Meta、Palantir以及20多家公司发布了一封信，呼吁政策制定者避免对开放权重人工智能模型实施“过早的限制”，这些限制将“扼杀竞争或将创新推向海外。” Nvidia表示，OpenAI-Hugging Face事件揭示了一个“实际真相”：当防御者无法检查、调整并在自己基础架构上运行先进的人工智能时，他们的反应能力在速度最重要的时刻受到限制。