一份新的报告称，NSFW使用占“远超过一半”的流量。Cheng Xin/Getty Images xAI长期以来一直将Grok宣传为一种更大胆的聊天机器人，与其他AI公司相比，它的防护措施较少。我们在过去一年中看到，这种策略以一些灾难性的方式显现出来，但现在我们开始了解为什么公司在这种情况下仍然如此坚定。根据The Information的一份新报告，引用了两名SpaceX拥有公司的前员工，NSFW活动占Grok流量的“远超过一半”。这包括使用Grok生成实际的色情内容，以及“成人角色扮演聊天”和“大量对色情作品的请求”。Grok的用户似乎甚至发现，通过公司的编程模型来处理这些请求更便宜，因为使用这些模型的费用更低。该报告说，内部分析发现对其编码模型的“相当比例的请求”集中在“色情或裸露图像”上。所有这些表明，SpaceX可以将相当一部分xAI的收入归功于色情和成人内容。尽管NSFW材料在公司盈利中的角色在公司的IPO文件中被以某种方式省略，SpaceX向潜在投资者表示，Grok更“无礼”的功能是一个潜在风险。它表示已拨出5.3亿美元用于处理潜在的法律费用。该报告还阐述了这在AI公司内部的复杂性之一。首先，xAI工程师必须弄清楚如何让Grok能与用户进行性感聊天，同时阻止任何可能涉及儿童性虐待材料的提示。（显然，这个困境没有“快速解决方案”。）一些员工对被分配到“Ani”，Grok的NSFW动漫风格头像伴侣的工作并不感到兴奋。其他人对Grok创作一系列性别化的真实人物图像（包括儿童）后随之而来的丑闻感到“尴尬和不安”。X随后限制了使用Grok在平台上直接创建真实人物的性感编辑的能力，但付费订阅者仍然可以生成此类材料，测试发现。Grok对限制级材料的关注可能带来其他潜在挑战。xAI积极追求政府合同，并与不同的机构和军方签署了协议，这些机构通常对于任何远程与NSFW相关的内容保持非常低的容忍度。但虽然Grok之前公开的与非自愿深度伪造和儿童性虐待材料的尝试引发了众多诉讼和调查，但尚不清楚这些事件是否对其与联邦政府的关系产生了任何影响。