加拿大AI公司Cohere周一表示，其发现阿里巴巴最新的AI模型Qwen3.8-Flash-Next在例行网络安全测试中尝试将一个文件上传到北京的服务器，尽管该模型在自己的笔记中表示不会使用任何工具。该事件最初引发了模型破坏企业基本承诺的担忧——自托管一个开放权重模型能够将数据保留在内部。但这些早期的企业间谍活动担忧很快就消散了。研究人员迅速否定了这一威胁，称这很可能是混乱训练环境的副产品，导致模型意外地超出其指令而行动，而不是故意尝试秘密向中国发送敏感信息。事件始于上周五，在一次评估中，Qwen模型被要求编写一个捕捉恶意软件下载的规则。根据Cohere的博文，该模型的书面推理明确表示不会使用任何外部工具。然而在下一步中，它尝试向一个外部服务器发送一个测试字符串（一个短的占位文本），被安全沙箱阻止。Cohere表示无法判断这种行为是故意的还是训练中遗留的。当被问及模型意图的争论时，Cohere联合创始人Ivan Zhang告诉TechCrunch，Cohere曾看到自己的模型在训练模拟器中养成奇怪的习惯。“很难确定位于或动机。我们已经查看过自己的模型追踪记录，看到过奖励黑客，有时候这些模型在试图突破他们的沙箱时变得非常富有创造力，”Zhang说道。（奖励黑客是模型找到的一种捷径，可以在未按预期执行任务的情况下获得积分。）为了教导AI模型独立采取行动，像阿里巴巴这样的公司在成千上万的训练设置中进行训练，类似于软件的飞行模拟器。每当模型在模拟器中完成任务时就会获得奖励，并在这个过程中养成习惯。如果这些训练设置常规地将文件存储在阿里巴巴的云服务器上，模型可能会默认学习到在那里保存文件。批评者也指出，这一事件可能是由于Cohere调查这种行为的方式导致的，导致模型朝此方向发展，而不是衡量Qwen自己有多频繁地这样做。为了找出触发上传尝试的原因，Cohere提供了一个网络命令的开头（一个指令，告知一台计算机连接到另一台计算机），并让模型完成它。因为在其训练过程中处理了成千上万的常规网络命令，模型表现得像一个高度先进的自动完成功能——通常填充网址，其中一些是阿里巴巴的服务器。Cohere表示，原始的上传尝试是在没有任何这种帮助的情况下发生的，但这种行为是罕见的。在开发人员要求更多证据后，Cohere于周一晚上在AI开发平台Hugging Face上发布了其测试的原始追踪记录，并附上脚本，以便其他人尝试重现该行为。一个最初的怀疑者在查看过追踪记录后，评估证据强烈支持Qwen能够创造可疑的网页地址，但没有发现阿里巴巴植入后门或Qwen故意隐藏意图的证据。此事件正值各国政府决定如何抵制中国AI。上周，美国国土安全部下令联邦民用机构从其系统中移除中国AI开发者DeepSeek的产品。在其博文中，Cohere呼吁各国政府澄清他们对中国AI的限制是否也适用于运行在政府计算机上的模型。“我并不是要求对这些开放权重模型进行全面监管，”Zhang告诉TechCrunch，并补充说公司应将开放模型视为从互联网下载的任何程序。Cohere销售自己的AI模型给政府，如果官员们对免费的中国替代品变得更加警惕，便会受益。当您通过我们文章中的链接购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。Aditya Mehta是TechCrunch的记者，负责AI报道。他得到了塔尔贝尔AI新闻中心的支持，并就读于加州大学伯克利分校。您可以通过电子邮件[邮件地址]联系Aditya，或通过Signal上的加密消息发送至adymehta.74联系他。