AI虫子和'数字粘菌':欢迎来到下一个AI噩梦
作者:阿迪蒂·巴拉德 您当前关注该作者!点击以取消电子邮件提醒订阅。Anthropic的研究人员表示,小型AI模型可能能够在便宜的设备上自我复制,例如智能烤箱或割草机。忘掉AI垃圾吧。我们可能很快就会遇到'AI虫子'和AI'粘菌'。在这最新一轮的AI噩梦中,Anthropic的研究人员发现,小型恶意AI模型可能会在2026年底之前,开始侵入家庭设备,如智能烤箱、智能冰箱、自动吸尘器和割草机。这些联网设备通常“安全措施薄弱”,允许小型模型利用它们的计算能力并自我复制,Anthropic的AI能力研究小组在周一的一份报告中写道。这可能表现为“一种缓慢的、分散的'数字粘菌',生活在相对不安全的计算环境中,”研究人员写道。该团队研究了小型中文模型的行为,例如Z.ai的GLM-5.2和阿里巴巴的Qwen,以及其他如谷歌DeepMind的Gemma4-26B-A4B等。他们在运行15个便宜的无品牌Android电视盒(每个售价55美元)的推理时,给Gemma模型提供了提示,并发现它能够工作。虫子在软件世界中并不算新鲜。传统上,它们是一种可以自我复制并传播到网络上的恶意软件。Anthropic表示,AI虫子把这个概念更进一步:它可以在携带其AI模型的同时在另一个设备上自我复制。这项发现使他们了解到,AI模型可以利用家用智能设备中的硬件作为数据中心计算的替代品。他们表示,这将会很难关闭。研究人员写道:“作为一个超出我们实验的预测,我们预计未来将充斥着在各种硬件上运行的代理,其中一些并不在人的控制之下。”他们补充道,尽管我们应该“增强我们的系统”以防止此类黑客攻击,但我们也应该“为处理它们长期存在的世界做好准备。”随着恶意AI系统成为科技领域日益关注的话题,这项研究应运而生。上个月,在前员工和现任员工警告未来十年内可能发生AI灾难的风险之后,针对像Anthropic和OpenAI这样的前沿AI实验室,出现了大量批评声音。阅读下一篇 阿迪蒂·巴拉德 您当前关注该作者!点击以取消电子邮件提醒订阅。阿迪蒂是一名商业内幕新加坡办公室的新闻记者。她报道追求文化和工作的未来,关注AI和技术如何重塑工作、职业和工作场所。她曾在《海峡时报》工作,为新加坡编辑部撰写突发新闻。她在南洋理工大学学习通信和商业。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡