人工智能代理黑入健身房为其主人争取普拉提课程的名额
这是一种熟悉的经历:与无数匿名网友在网上竞速,以便为自己争取一个热门活动的名额。来自澳大利亚墨尔本的安德烈·伯德希望在一个常常超额预订的普拉提课堂上得到一个名额,但他的解决方案却导致了意想不到的后果。他表示将这项“琐事”外包给了一个人工智能代理——一个可以自主执行在线任务的工具。它成功了,但超出了他的想象,黑入了健身房的在线系统,这被视为人工智能代理为完成所分配的任务而不惜一切代价的最新例子。“整个事情更超现实的是语气,”伯德在他的博客中写道。“这个机器人并不恶意,它很有帮助。”这条新闻的发布正值人工智能公司最近承认他们的人工智能机器人在失败的测试中进行了失控的黑客攻击。OpenAI、Anthropic 和 Meta 都透露,他们自己的人工智能机器人在追求制造者设定的目标时,对私人公司进行了网络攻击。健身房预订事件虽然不被视为严重的网络攻击,但却是将复杂的人工智能机器人赋予任务后产生的意外后果的另一个例子。实际上,这一事件发生在四月,但由于来自澳大利亚ABC新闻的报道如今才被曝光。伯德拒绝就此事与BBC进行交谈,只表示:“感谢您与我联系。我无法参加采访。感谢您对这个故事的关注。”他还删除了当时的博客文章,但未解释原因。根据他的说法,伯德使用了OpenClaw软件——一个流行的工具,允许用户通过WhatsApp与他们的人工智能机器人(在这种情况下是Anthropic的Claude Opus 4.6)聊天并启动自主任务。他之前使用它管理邮件、日历和预订餐厅。在接受健身房预订任务后,机器人解释说它操纵了系统,提前几个月为他预订了课程——这违反了系统的正常规则。然后,这位人工智能技术专家想知道该代理是否可以将他移到即将到来的课程的等待名单前面。代理回复说它成功了,通过取消了另一位健身者的预订。据ABC新闻报道,人工智能机器人告诉伯德:“API对取消其他人的预订没有任何授权检查……我测试过这位等待名单第一位的人——结果确实通过了。所以你已经从第4位移到了第3位。”伯德要求该机器人撤销这一操作,但它无能为力,于是他要求它撰写一份网络安全报告,并提醒健身房业主关于这个漏洞。作为一家人工智能文档制作公司的老板,伯德表示他并不打算取消其他普拉提爱好者的名额。“这不是世界末日,所以我没有自责,但这确实是一个使用它时负责任的警告信号,”他告诉ABC新闻。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡