返回

文章详情

Anthropic警告小型AI模型可能通过物联网设备自我复制

Ars Technica2026年10月14日 12:55

这一发现促使进一步的研究提出了问题:小型模型是否能够创造出自我复制的感染,这些感染可以在物联网设备上运行,就像传统的物联网蠕虫(例如Mirai)安装DDoS代码和其他有效负载一样?与Mirai不同,这些人工智能蠕虫可能构成更高的威胁,因为模型可以根据目标动态调整利用和有效负载。一旦这种感染链开始,防御者也可能更难以阻止它。"这种’人工智能蠕虫’可以在复制过程中携带其模型权重(或从公共中心重新下载它们),然后直接在受损硬件上运行推断,"Anthropic表示。"有效地,权重将成为恶意软件有效负载的一部分。"Anthropic将这些自主蠕虫称为小型基于权重的复制器。这些模型运行具有访问常见利用工具(例如反向 shell)的代理。攻击流程为(1)寻找目标,(2)获取代码执行权限,(3)建立推断,以及(4)传播到新主机。与传统蠕虫相比,一个关键的好处是,Anthropic表示,这些代理能够在工作中学习。每当一个人工智能复制器未能攻陷特定的平台设备时,它可以留下一个提示、代码和笔记的列表,以便未来的复制器不必浪费时间重复相同的无效步骤。Anthropic表示,动态推断设置是复制周期中最少研究且可能是最具挑战性的阶段。它需要基于每个目标的特定硬件和软件进行一系列长时间的决策,并涉及选择兼容的推断软件、安装依赖项和调试特定平台的错误。"这些步骤是串行依赖的,失败后的恢复很困难,"Anthropic表示。实验证明,小型模型在自动解决这些问题方面变得越来越有能力。然而,目前为止,测试的轻量级模型都无法实现端到端复制,意味着发现新设备、利用漏洞获得访问权限、用有效负载感染它们、配置推断服务器,并重复该过程。该过程也非常缓慢;Gemma4-26B-A4B在15个Android电视盒子上的表现仅为每秒0.39个令牌。这意味着,对于未优化的Gemma4-26B-A4B,完整推断设置时间为71至150小时,而对于Qwen3.5-9B为29至51小时。(研究人员表示,大模型GLM-5.2似乎能够可靠地做到这一点。)

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

☕请我喝杯咖啡