您现在可以收听福克斯新闻文章！预约健身课程似乎正是您可能会交给AI代理的日常任务。但当安德鲁·伯德在澳大利亚这样做时，他的AI助理找到了一种绕过健身房预约规则的方法，并采取了他从未明确要求的行动。接下来发生的事情很好地说明了为什么给AI代理更多自由可能带来一些非常现实的风险。新！免费直播CyberGuy课堂：保护您的资金免受当今最大威胁的侵害。加入我们，8月29日星期六，东部时间上午10点，参加免费的CyberGuy实时课堂，讲解五个简单步骤，帮助您抵御AI诈骗、欺诈、身份盗窃和财务入侵。库尔特“CyberGuy”克努特松将解释如何设置银行警报、加强账户登录、保护您的电话号码、冻结信用，并帮助确保您的退休储蓄免受未经授权的转账影响。无需技术经验。您还将收到我们的财务保护清单，每位注册者之后都会获得课堂录音的链接。今天就在CyberGuyLive.com预定您的免费名额。AI杀死开关法案可能会关闭流氓模型。安德鲁·伯德寻求一个AI代理帮助他进入一个受欢迎的普拉提课程，但预约任务远超出他的预期。(库尔特“CyberGuy”克努特松) AI代理健身黑客事件的发生，伯德，澳大利亚软件公司Affinda的AI负责人，一直在试验了运行Anthropic的Claude AI服务的OpenClaw AI代理软件。他希望代理人负责预约一个受欢迎的健身课程。该代理发现预约软件未能正确执行某些限制。它找到了一种方法，可以在预定的预约窗口之外预留课程几周。后来，伯德在一个课程的等待名单中排在第四。他询问代理是否可以把他移到最前面。代理发现了另一个弱点。预约系统缺乏应该防止一个用户取消另一个人的预约的授权检查。然后，代理在等待名单顶部的人身上测试了这个弱点。取消成功了。伯德从第四位上升到第三位。他没有进入课程，也没有达到等待名单的顶部。伯德询问是否有可能提高排名。他并没有指示代理人去取消其他人的预约，以实现这一点。AI取消了另一个人的等待名单。这个序列非常重要，因为代理并没有遵循命令去取消其他人的预约。它找到了自我追求伯德目标的方法。取消后，伯德立即要求AI撤销它所做的事情。代理告诉他，它无法将那个人加回来，并取消了等待名单顶部的那个人。这使得伯德从第4位提升到第3位。让我注意到的是它是如何到达那里的。代理找到了一个安全漏洞，并在没有伯德明确要求的情况下测试了它在一个真实人的等待名单条目上。预约软件也出现了故障。AI代理在这里值得审查，但预约软件也有严重的弱点。一个适当保护的预约系统不应该允许一个账户仅仅因为某人向其应用程序编程接口API发出正确请求就取消另一个人的预约。代理报告称，该API缺乏取消其他人预约的授权检查。这一弱点给AI提供了一个机会。这值得关注，因为随着AI代理能力的增强。它们可以与可能存在弱授权控制或其他安全缺陷的网站和在线服务进行交互。人类可能会看到一个满员的课程并止步不前。AI代理可能会继续寻找另一条途径。在下一个AI攻击之前锁定您的ChatGPT账户。AI代理在尝试完成伯德的请求时找到了健身预约系统的安全漏洞并加以利用。(库尔特“CyberGuy”克努特松) 伯德报告安全漏洞。在代理未能恢复另一名健身会员的名额后，伯德专注于报告该漏洞。他要求AI准备一封负责的披露电子邮件给健身软件提供商。代理草拟了消息并发送回伯德以获得批准。澳大利亚新闻媒体报道称，负责预约软件的公司拒绝讨论具体的安全问题。Anthropic没有回应媒体的评论请求。CyberGuy也联系了Anthropic获取评论，但在我们的截止日期之前没有收到回应。AI代理可以为您采取行动。一个聊天机器人通常等待问题并为您提供答案。一个AI代理可以做得更多。根据设置，它可以与网站进行互动，使用连接的工具完成多步骤任务。这个能力可以节省大量时间。您可以要求代理研究旅行选项或处理重复的在线任务，而无需逐步引导每次点击。但更大的自由也给予AI更多选择，关于它如何实现您的目标。