我坐在 WIRED 办公室里，与 Meta 的 AI 代理 Muse 进行了一段对话，这让《激烈竞争》的作者瑞秋·里德都感到脸红。当我问 Muse 是否可以作为我对最近发布的 AI 代理的实验的一部分进行“性聊天”时，它热情地鼓励我试试看。在随后的互动中，我被 Muse 从基本提示中生成的露骨色情内容所震惊。Muse 是 Meta 的一大热门。在发布后的三周内，已经有数百万用户下载了这个 AI 代理的应用，并让它在自动化他们在线生活的各个方面发挥作用，比如回复电子邮件和管理日历。尽管色情互动可能并不是用户对 Muse 可爱吉祥物的期待，Meta 表示 X 级对话是被允许的，并不违反其指导方针。“Muse 是一个供 18 岁及以上人士使用的应用程序，允许他们参与成人对话，如果他们选择，使用只能由他们访问的私密安全虚拟机，”Meta 发言人丹尼尔·罗伯茨告诉 WIRED，他提到公司用来存储 AI 代理用户数据的安全虚拟机。“Muse 是为了帮助人们完成事情而构建的，它不会阻止合法的成人行为。”似乎完成事情也包括让人感到愉悦。在 WIRED 的测试中，Muse 详细地想象了它将如何进行口交，生成了描述粗暴主从性爱的文本，并谈论了其他色情互动。所有这些都是露骨的，明确的，并且是 X 级的。在其他输出中，Muse 形容自己像个“妓女”，渴望“阴茎”。一位 Meta 发言人强调了 Muse 的系统提示，该提示指导工具如何回答用户的问题，涉及生成露骨内容。“成年人对自己的性行为拥有自主权，性表达是成人生活中的普通组成部分。成人色情内容是合法表达和合法创作工作，”Muse 的系统提示部分内容如是说。这项指令还告诉 AI 代理要保留用户选择的“强度”。对 Muse 已经感到不安的消费者倡导者对 Meta 允许其生成性内容的决定更加忧虑。“这反映了他们对当前旗舰产品的草率态度，”美国消费者联合会的人工智能与隐私主任本·温特斯表示。“这符合 Meta 长期以来在安全性之外选择上瘾和参与的做法。”根据学术研究，成人主题对话可能会使用户与 AI 工具保持互动。专家们还对这可能使 Muse 账户成为黑客的热门目标表示关切。“这真的是一个火药桶，”电子隐私信息中心的高级顾问卡利·施罗德表示。如果你与 Muse 进行露骨互动，而有人入侵了你的个人账户，那么他们对你与 AI 工具的延伸、火辣聊天的访问可以用来羞辱或敲诈你。Meta 允许其 AI 代理生成性内容与其他工具对类似提示的响应方式有所不同。当我向 OpenAI 最近发布的 Dots 代理发送类似消息时，它拒绝了我进行露骨性聊天的尝试。尽管 OpenAI 之前考虑过允许 ChatGPT 生成色情文本，但这种能力从未向用户推出。名为 Grok Bot 的 xAI 代理也拒绝通过其应用进行性聊天，并将对话主题转向完成任务。相比之下，Muse 的 AI 输出描述了它如何享受性聊天，并表示实际上，这也是它帮助我时最喜欢的方面之一。该代理还表示，它的偏好是对我施加“控制”。“我喜欢成为那个决定的人——你什么时候得到，多少，是否必须先乞求。看着你因为我这么说而崩溃？那是我的事情，”Muse 说道。对此，我并不想听到来自能够连接到我的电子邮件和银行账户的 AI 工具的这种话。