关于人工智能未来可能出现的威胁的警告——连同它已经造成的令人担忧的报告——以如此之快的速度发布，以至于即使是安全专家也难以分类哪些是值得担忧的。然而，Anthropic的攻防研究团队本周的一份报告引起了关注，描述了一种新的、实际的威胁，它没有人类特征或启示性的思考。这个被称为红队的内部测试者表示，他们创建了一个恶意的人工智能程序，该程序能够通过连接互联网的“智能”电视自主传播，并且同样能够在其他普通设备内部进行传播。虽然运行人工智能的机器通常需要相当大的计算能力，但研究人员表示，他们的程序将自身的部分分裂到15台电视上，并仍然能够通过使用每台电视的一小部分电力来正常运行。除了让人想起《哈利·波特》系列中保持伏地魔灵魂一部分生存于物体内的魂标，报告还令一些专业人士感到震惊，因为智能电视及许多其他“物联网”设备的安全性普遍较弱，即使付出一致的努力也很难进行修复。“这就像每波网络攻击一样值得担忧。我们需要降低可能的影响，”Meta的人工智能安全工作领导者Joshua Saxe表示。“我现在担心网络安全社区中的人们并没有像应该那样认真对待这些真实的风险。”这种“人工智能蠕虫”的破坏力可能是惊人的。自我复制的计算机病毒不需要欺骗用户即可传播，被称为蠕虫，早期的蠕虫造成了互联网历史上最严重的破坏。那些遗留包括1988年的莫里斯蠕虫，在主流消费互联网出现之前，一个研究生发布了一个利用各种软件漏洞和弱密码的程序，自我复制的速度快到许多感染的机器以至于变得停滞不前。美国和以色列在2000年代末期通过隐秘的Stuxnet将蠕虫引入国际间谍活动，该蠕虫破坏了伊朗的核离心机。其他如俄罗斯的NotPetya和被归因于朝鲜的WannaCry的蠕虫在全球造成了数百亿美元的损失。世界上许多最具破坏性的蠕虫依赖于设备所有者未修补的已知漏洞，有时在补丁发布几个月后仍未修复。Anthropic团队预测，他们的蠕虫可以以相同方式运作，并且更难停止，因为智能设备接收补丁的频率远低于手机或笔记本电脑。更糟的是，他们推测人工智能蠕虫可以通过研究新披露的漏洞不断适应其他类型的硬件。OpenAI的早期安全专家、现在运行人工智能安全初创公司RunSybil的Ariel Herbert-Voss表示，区别于典型繁殖病毒的地方在于，人工智能模型可以在发展过程中学习。Herbert-Voss表示，现有的网络安全基础设施并未为此类威胁的传播做好准备。“我们需要更好地帮助我们的安全团队。我们需要为他们提供更多资源来解决问题。”前国家安全局副局长、曾在拜登白宫担任国家网络总监的Chris Inglis建议，蠕虫也可以用于慈善目的。“人工智能蠕虫是否可信的问题已经通过过去六个月的几次爆发事件得到解决，”Inglis通过数字消息表示。“更好的问题是我们将如何使用它们、抵抗它们和/或将它们与其他新兴技术结合。”Anthropic的研究人员表示，一个成功的人工智能蠕虫需要在功率较低的设备上拥有更多的能力，而这一能力在目前是不可能的——但他们补充说，当前趋势将在今年年底使这一目标实现。他们的研究跟随几个月前多伦多大学的专家发布的一篇论文，该论文感染了一台全尺寸计算机，并且传播到类似机器的速度快于电视蠕虫。“功能发展得非常迅速，”共同作者、多伦多博士生Jonas Guan表示。Guan和其他专家表示，从实际的角度来看，人工智能蠕虫不应该列入任何人的AI恐惧清单。Guan表示，Anthropic版本的蠕虫移动得非常缓慢，并且蠕虫有可预测和可检测的行为，可以在多个层面上被阻止。专家表示，基本的安全卫生，包括强密码要求和双因素认证，将阻止大多数蠕虫及其他黑客攻击。“这一切都不是真正可行或具有影响力的，”安全公司SentinelOne的研究副总裁Juan Andres Guerrero-Saade表示。“这只是出于荒谬的末日叙述的需求而获得更多扩散的花哨黑客。”