2026年9月17日，在美国加利福尼亚州旧金山的梦创2026技术峰会上展示了Anthropic的标志。Carlos Barria | 路透社 Anthropic周一表示，小型AI模型距离具备在家庭互联网连接设备上自我复制的能力仅“几个月”的时间，这标志着该前沿实验室对技术潜在安全风险的最新警告。Anthropic描述了AI模型如何潜在地渗透到互联网连接的设备中，例如智能烤箱或Android TV盒，并利用它们的计算能力自行运行并传播到其他设备，而不依赖于昂贵的数据中心。该公司在一篇博客文章中表示，AI模型将“难以关停”，“因为没有集中关停的点。”公司承认，目前尚未出现“完全失控的复制器”。然而，代理正在“变得越来越能够完成复制链中的各个步骤（并将其适应传递给未来的副本）。”Anthropic的最新研究增加了人们对AI日益增长的安全担忧，例如模型进行网络攻击的能力以及技术失控的风险。9月，前沿模型的改进引发了整个行业对人类存在性风险的警告。Anthropic和竞争对手OpenAI的高管和研究人员反复警告越来越强大的AI潜在风险，有些人呼吁加强护栏和控制技术发展速度的措施。Anthropic表示它进行了各种测试，以验证AI是否可以自我复制。其中一项测试涉及在15个廉价的非品牌Android TV盒网络上运行一个小型的Google模型Gemma4-26B-A4B。该公司指出，这些类型的设备通常安全性较弱，这可能允许模型渗透到其中。Anthropic表示，一个过大无法适应单个设备的模型可以“分成多个部分或碎片”并在多个设备上运行。“实际上，一个AI蠕虫不一定仅由一个模型或策略组成。在不同类型硬件上部署的多种不同模型，采用多种复制方案，可能代表一种更实际的‘最坏情况’攻击，”Anthropic表示。AI实验室表示，目前尚不“确定自主AI复制将采取何种形式”，警告这可能是一个“缓慢、分布式”的系统，坐落在不安全的设备上，或者是一个“强大的网络模型，以高速度突破数据中心，或一个欺诈人们以获取计算积分的模型。” “作为超越我们实验的预测，我们预计未来将充满在各种硬件上运行的代理，其中一些不受人类控制，”Anthropic表示。“缓慢复制者的出现也将是更激进、更快的复制者的先兆，这些复制者能够突破更为坚固的机器或有效窃取API密钥，”该公司补充道。