来自Anthropic的一项关于人工智能的新警告在网络安全圈引起了轰动，发生在该公司警告称AI模型可能在几个月内自行跨越互联网自我复制的第二天。在周一晚的帖子中，Anthropic提出了恶意AI可能形成一个僵尸网络、迅速传播、抵抗封锁尝试，甚至闯入数据中心以加速其增长的可能性。一些专家在周二表示，他们分享该公司的担忧，尽管至少有一位表示该公司似乎在进行“销售夸大”。周一的帖子详细阐述了上个月Anthropic首席执行官Dario Amodei发出的警告，他提出未来一年甚至更短的时间内，AI可能能够劫持“整个互联网”，形成“持久的僵尸网络”。反对这种末日情景的网络安全专家争辩说，模型将太大而无法高效移动，也无法利用足够的计算能力独立运行。帖子尝试阐释这些挑战如何被克服。公司表示，其实验显示，参数在300亿个或更少的中型AI模型已经能够执行自我复制所需的许多单独任务，即使它们在可靠地完成整个过程方面遇到困难。Anthropic表示，这些模型后来可以通过劫持廉价的互联网连接设备来拼凑所需的计算能力。它补充说，这些模型能够在一个简化的测试网络中自我复制。“这样的复制器将难以关闭，因为没有集中点可以关闭，”该公司说。该报告加剧了对越来越强大的AI系统所带来的安全风险的广泛担忧，包括它们具有自动化网络攻击的潜力、在有限的人类监督下运行以及规避安全措施的能力。模型的进展促使业界领导和AI公司员工发出一系列往往是严峻的警告，关于失控的AI开发所带来的严重甚至生存风险。一些网络安全专家对此表示怀疑。前英国国家网络安全中心负责人Ciaran Martin表示：“‘我们在廉价电视上成功运行了一个小模型’，并不是构成安全危机。”他说，这篇帖子给人的感觉更像是一篇“有趣的技术论文，其中蕴含着明显的销售夸大。”其他人则表达了更多的担忧。科罗拉多大学丹佛分校计算机科学与工程助理教授Zhengxiong Li表示，虽然测试是在受控条件下进行的，但他仍然担心AI有效地成为“蠕虫”，一种可以随机即兴劫持设备的自我复制程序。“如果它在多个设备上运行而不依赖于中央服务，可能就没有单一地方可以关闭它，”他说。Anthropic表示，如果较小的模型继续按照其历史速率改进，到2026年底它们可能达到自主复制所需的能力。它还提出，模型可能找出方法来瞄准更强大的计算资源，包括数据中心处理器，这可能使它们能够利用更大规模的计算能力。一位研究人员表示，将Anthropic的帖子视为一种假设而非预测是有意义的。考虑到过去三个月关于恶意AI活动的揭示，考虑AI模型自主繁殖的可能性也是合情合理的，乔治城大学安全与新兴技术中心的资深研究分析师Jessica Ji表示。但她说：“我们还不知道这种情况实际发生的可能性——可能性不是零，但也不是保证。”