在消费者科技界，有一个日益增长的趋势：设备被设计用来监视你周围的一切和每一个人，无论其他人是否同意。现在，随着Meta的“AI个人助手”Muse的出现，你被愉快地要求不仅放弃自己的数据，还要提供你朋友、家人、五年前在Hinge上约会的人的信息，以及你曾见过的几乎所有人的数据。自上个月Muse发布以来，该代理程序已经被下载数百万次，并在苹果应用商店中达到了第一的位置。借助其令人毛骨悚然的虚拟化身——一个类似Temu Labubu的生物，带着令人放松的微笑——该应用程序请求并鼓励用户授予访问银行账户、密码、联系人、聊天记录以及可能帮助它完成用户命令的所有信息。“这些系统被宣传为自主助手、灯神或仆人，它们在你问之前就完成你需要的任务，毫无缝隙，”信号基金会的总裁Meredith Whittaker告诉《The Verge》。这些自主行为不仅应用于安装Muse的设备的人，还应用于与该人沟通的每一个人，这些信息是从最私密的信息中推导出来的——电子邮件、信息、联系人、照片等等。通过AI代理，科技公司让消费者能够自动化他们的日常任务，扩展其对大量敏感数据的大面积监控的方式。这是硅谷几十年来一直提供给我们的同样的法乌斯式交易：用你的私人数据换取一点方便。对于许多人来说，有一个虚拟助手来处理诸如填写发票和发送电子邮件等琐事的想法是令人信服的，尤其是如果他们没有意识到自己实际上在回报中放弃了多少数据。“任何代理要对你有用且真正帮助你实现目标，就必须了解你和你互动的人的背景，”Meta的发言人Daniel Roberts在谈及与Muse共享的其他人数据时告诉《The Verge》。“Muse基于公共信息和你选择共享的信息进行收集，这就是它记住刚刚向你发送发票的人实际上是之前聘请过来做一些工作给你浴室的水管工，或是你配偶说过他们最喜欢的花是什么的原因。”Roberts提到Muse的选择加入过程和各种选项和设置，旨在“帮助人们做出适合他们的隐私选择。” “用户界面的设计旨在鼓励你尽可能多地分享，往往超出你的意识，直到为时已晚。”但是并不是每个人都能顺利导航这些选项和设置。用户们已经描述了既令人震惊又完全可以预测的事件。有些人报告说这个虚拟助手惹了各种麻烦，比如抓取他们早以为是私密的数百万条短信。Meta对此表示否认，认为助理无法在未经允许的情况下访问短信，认为这个事件是由于应用权限配置不当，并将Muse读取短信的能力描述为“完全自愿的”。在Threads上，Meta高管David Singleton直接回应了一位用户，声称在Mac上，Muse只有在用户授予该应用程序完全磁盘访问权限的情况下才能获取消息。在另一事件中，Muse泄露了一位科技评测员的家庭住址，并召唤了一名陌生人到他的公寓。此时，该评测员确实已授予Muse访问该数据的权限，但显然并未意识到。电子前沿基金会的网络安全主任Eva Galperin表示，这些事件并不意外，因为像Muse这样的AI代理是为了让人感到困惑，从而放弃尽可能多的数据。“最重要的结论是，人们并不理解自己正在交出什么样的数据，”Galperin告诉《The Verge》。 “用户界面的设计旨在鼓励你尽可能多地分享，往往超过你意识到的，直到为时已晚。它使用了黑暗模式，最终导致Muse做出一些人们不想要的事情。”由于像Muse这样的AI代理所处理的数据范围极广，这也意味着用户不仅面临泄漏自己敏感信息的风险，还面临泄漏与其有过电子接触的每个人的信息的风险。就像Meta臭名昭著的“变态眼镜”，用户也没有有效的退出方式——即使你一直在监控是否有迹象表明数据被泄露或隐私受到侵犯。你的朋友现在可以轻松地将你所有的私人对话提供给他们的虚拟聊天机器人仆人，而你却没有任何办法知道这一切发生过。安全研究人员从Muse的操作说明中提取出指令时，发现了一个内部流程。