一大批智能设备——冰箱、烤箱、吸尘器、割草机、安全摄像头和电视——是否在阴谋接管互联网？不。但它们可能很快会成为自我复制AI模型的无意识宿主，这些模型会在设备之间传播，并证明难以遏制。欢迎进入不安的AI蠕虫世界，在这里，取决于你问谁，模型在家用电器中不受控制地传播的前景要么是迫在眉睫的网络安全风险，要么是AI公司传播末日情绪宣传的又一个案例。在本周发布的博客中，Anthropic警告说，小型AI模型可能距离获得这种能力“只有数月时间”。他们的实验提供了一些支持这一观点的证据，但在研究人员已展示的内容和他们预告的潜在威胁之间留下了巨大鸿沟。尽管如此，与《The Verge》交谈的专家表示，尽管计算机蠕虫和自我复制AI的恐惧不是新鲜事，但最近的进展表明，有充分理由认真对待这些警告。自我复制的机器长期以来一直困扰着AI安全研究者。它们预示着系统可能超越人类控制而扩散，难以关闭。与许多对AI进步的恐惧一样，关注主要集中在越来越强大的前沿模型上，比如OpenAI的Astra或Anthropic的Mythos。但一个关键的限制因素是它们的规模：它们巨大。可能包含数万亿个参数（训练期间学习的值）的前沿模型需要庞大的计算资源，这在很大程度上将它们限制在数据中心，在那里可以更容易监控，并在原则上关闭。然而，小型模型则提出了不同的问题。它们正在迅速改善，可以在消费者级硬件上运行，并且通常可以免费下载。Anthropic的研究人员想知道是否可以在一组小型、较弱的设备上运行。为了验证这一点，他们成功地将Google的Gemma 4——一个拥有260亿参数的模型——分割到15个安卓智能电视盒上，单个盒子没有足够的能力单独运行它。虽然运行速度很慢，但这一尝试是成功的。研究人员在展示了一个模型可以在家用设备上运行后，希望看到AI是否可以在这种环境中执行自我复制所需的步骤。他们构建了一个模拟的计算机网络，旨在像安卓设备那样行为，然后释放了一个由AI驱动的“蠕虫”——一种自动复制并在网络上扩散的恶意软件——它的任务是寻找新机器，将AI模型复制到它们上，并让它在每个机器上运行。值得注意的是，被传播的模型是Meta的80亿参数Llama 3.1-8B，与协调攻击的模型不同，并且小得多。唯一成功传播整个网络的模型是中国Z.ai的GLM-5.2，尽管较小的模型成功执行了单个步骤。基于它们的迅速改善，Anthropic的研究人员预测，较小的模型可能会在年底前达到GLM-5.2的能力。“作为超越我们实验的预测，我们预期未来将充满在各种硬件上运行的智能体，包括一些不在人工控制之下的智能体，”研究人员写道。他们承认，他们尚未展示“一个完全的流氓复制器”，也不知道这样的复制器可能是什么样子（他们建议是“缓慢、分散的‘数字粘菌’”或“一群果蝇”）。但他们表示，他们的发现显示了“AI蠕虫的生命迹象”，并呼吁在许多设备上加强安全措施，以防止复制系统扩散。“我们应该努力增强我们的系统，使得这些复制器难以传播，但也要准备好应对一个它们在这里存在的世界，”他们写道。需要注意的是，Anthropic在进行这些测试时并没有使用自己的模型，并且一再主张，与其AI模型相比，开放替代方案带来了“更多风险”。这一警告引发了熟悉的公关炒作和AI末日论的指责，包括《The Verge》早期报道的读者的指责。毕竟，显示AI可以缓慢地在一堆廉价电视盒上运行与自我复制的AI蠕虫在家用设备中肆虐之间，有相当大的鸿沟。然而，审视一家公司的动机无疑是值得的，但故意散布恐惧的指控很难证实，特别是Anthropic长期以来一直对AI安全表示关注。Anthropic并不是唯一一个调查自我复制AI威胁或呼吁改善连接设备安全的公司。今年早些时候，总部位于加利福尼亚的AI安全研究公司Palisade Research展示了AI模型可以自主复制到其他机器上。“这里新鲜的地方在于，这些模型在参数数量上远小于之前展示过的具有自我复制能力的模型。