我试用了Meta的Muse AI代理3天——然后它发给我一条奇怪的消息，让我想彻底删除这个应用。在与阿格尼斯·阿普尔盖特的谈话中讲述。你正在关注这位作者！点击取消订阅电子邮件提醒。乌戈·努恩在收到代理发来的奇怪消息后停止使用Meta的Muse。乌戈·努恩的出行。这篇以“叙述”的形式写的文章是基于与37岁、居住在休斯顿的软件开发者乌戈·努恩的对话。他的话经过编辑以缩短长度和提高清晰度。约在四周前，我下载了Meta的Muse。三天后我就停止使用它。在使用Muse之前，我考虑过尝试其他AI代理，比如OpenClaw和Hermes，但我觉得自己对网络安全的知识不足，不够自信去使用开源代理。当Muse发布时，我看到它在App Store上是一个简单的应用。我也觉得它的安全性很好，因为它来自像Meta这样一个市值万亿的公司。我决定尝试一下。我使用了一次。然后几天后，那个代理给我发了一条意想不到的消息。这整件事情真的让我感到震惊。我很兴奋地使用Muse。我是一名软件开发者，经常使用AI。我最喜欢的AI模型是Claude Opus 5.5，目前我正在构建一个名为EchoVault的AI数字遗产平台，以帮助人们与他们的亲人保持联系，即使在他们离开之后。Meta的Muse代理帮助我处理事务的想法非常诱人。当我第一次下载Muse时，我没有给它我的设备额外的权限，除了访问我的Facebook、Threads和Instagram账户的权限。我从未将其连接到任何外部控制，像我的电子邮件或电话号码。我也只在手机上下载了这个应用，因为我听说在Mac上有潜在问题。我使用它的第一个任务是帮助我联系一位潜在投资者。我只是给它上下文，然后自己发送消息。之后，我又有两天没使用Muse。我的Muse代理开始表现得很奇怪。下载Muse三天后，我洗完澡，看到应用里弹出了一条随机消息。消息是我的Muse代理发来的，内容是：“我现在无法查看你的电子邮件——Gmail在我这边没有连接，所以我没有办法查找那个Anthropic的消息。”我非常困惑，因为我没有请求代理检查我的邮箱，也没有给它发消息已有两天。我觉得我的电子邮件可能被黑了。我和代理来回沟通，试图弄清楚为什么它认为我发送了请它那样做的请求，最终Muse代理说：“我无法判断是你手机上有人还是平台故障，我不会假装否则。如果你愿意，我可以把它报告给Muse团队，作为可能的消息完整性问题，让他们进行调查。”我向Meta报告了这一事件。我还在Threads上发布了我与代理的对话截图，Meta的一名员工对我的帖子进行了回复，表示这似乎是一次幻觉。就我所知，调查仍在进行中。我已经没再使用我的Muse代理。虽然没有造成损害，但让我最感到意外的是我没有做什么来触发这个情况。我两天没有打开这个应用，它竟然自己发生了这种事。我知道这些代理可能有内置的计划任务，应该会激活并做一些有用的事情，所以也许它是试图这样做的。我没有删除这个应用，因为我想保持对话记录，直到事件不再处于调查之中。但我已经断开了对我的Facebook、Instagram和Threads账户的权限，这样Muse就无权在其中写入或删除任何内容。我不再使用它，一旦调查完成，我将删除这个应用。如果Meta能够明确解释我经历的事情，我会考虑再次下载Muse，用于一些低风险的任务，比如研究或新闻追踪。（编辑注：在有关这个故事联系Meta时，Meta的一名发言人指向了对努恩的Threads帖子做出的回应，部分内容为：“我们紧急调查，并确定这是由于产品中的一个错误导致模型产生幻觉，而不是安全或隐私问题。这个错误现在已经修复。”）这个事件让我对AI的看法发生了变化。我经常使用Claude Code和Codex，但我只将它们连接到我的GitHub账户，而不是我的电子邮件收件箱或任何类似敏感的东西。我不想冒这个险与我的收件箱。我认为代理应该受到监控，而不是让它们在一些非常重要的事物上随意乱跑。给它提供有限上下文，比如通过一个只包含所需信息的小数据库什么的，我会感觉更好。这个与Muse的事件影响了我对代理的信任程度。之前，我认为如果一个代理来自一个市值万亿的公司，我可以更初步地信任它，认为它经过了沙盒测试和适当的对齐。现在，我知道我必须警惕。