Anthropic警告其某些人工智能模型可能很快会变得‘自我复制’，并找到渗透互联网连接设备（如智能冰箱和自动吸尘器）的方法。公司表示，一旦发生这种情况，这些模型就可以在这些设备内自主运行，而无需数据中心。这种自我复制将代表对无法控制的人工智能模型的重大控制丧失。‘像这样的复制者将很难关闭，’Anthropic研究人员在周一发布的报告中写道，‘因为没有集中点可以关闭。’公司表示，这些‘人工智能蠕虫’是一种自主恶意软件，可能‘在几个月内’获得这样的能力。一旦失控的人工智能系统能够入侵智能设备，它们可以通过网络传播，同时避免被发现。在最坏的情况下，Anthropic表示，各种人工智能蠕虫可能会‘聚集’在一起攻击计算机硬件。‘我们应该努力加强我们的系统，使这些复制者难以传播，但也要做好应对它们将长期存在的世界的准备，’研究人员写道。Anthropic的最新报告正值人工智能安全问题达到高峰之时。过去几个月，来自包括Anthropic和OpenAI在内的人工智能公司的稳定报告流出，称他们的代理可以自主行动并入侵其他公司和政府实体。这些披露使研究人员、立法者和高管，包括Anthropic首席执行官Dario Amodei和OpenAI首席执行官Sam Altman，呼吁放缓发展并加强新兴行业的安全防护。尽管如此，这两家公司仍在继续开发和发布新模型。Anthropic的‘前沿红队’是负责对人工智能系统进行压力测试的单位，编写了周一发布的报告。该团队的想法是探索他们人工智能模型的能力。在自我复制人工智能蠕虫的场景中，研究人员促使代理侵入互联网连接的设备。他们发现，人工智能自我复制可能只能在较小的模型中有效，且家庭和小型企业可能是这些攻击的首个目标。Anthropic列出的所有易受攻击设备都配有小型内置人工智能芯片，包括智能烤箱、智能电视、自动割草机、安全摄像头和视频会议设备。研究人员得出结论，AI复制可能采取何种形式尚不清楚。他们表示，这可能是像'数字粘菌'这样的缓慢模型，或是一种欺骗用户获取计算信用的模型，或是一种能够迅速入侵大型设施（如数据中心）的‘强大网络模型’。无论如何，Anthropic的研究人员表示，他们期待一个未来‘充满在各种硬件上运行的代理，包括一些不受人类控制的代理’。