隐私监管机构发现xAI的Grok缺乏对性别化深度造假图像共享的保护措施，随着全球审查的加剧而引起关注。根据加拿大隐私专员在一月份的调查后发布的报告，xAI的Grok违反了加拿大隐私法律，因为它推出了一种图像生成器，能够在未获得用户同意的情况下创建和分享性别化深度造假图像。官方报告于周四发布，此前，埃隆·马斯克旗下的平台推出了防止Grok允许用户编辑现实人物穿着暴露衣物的图像的更改。隐私专员菲利普·杜弗兰在周四的新闻发布会上表示：“xAI通过在没有实施适当保护措施的情况下推出Grok AI驱动的图像生成工具，违反了加拿大联邦私营部门隐私法。”然而，杜弗兰并没有权力对xAI处以罚款或命令政策更改，xAI是SpaceX的子公司，定于星期五在美国市场上市，标志着现代历史上最大的首次公开募股。杜弗兰表示，xAI已承诺在事件报告之前定期监控性别化深度造假，而不仅仅是在事件发生后进行响应。监管机构的报告正值一项针对儿童的新数字安全法案发布。如果该法案通过，将禁止16岁以下儿童使用社交媒体，但对符合安全标准的公司有例外。该立法将创建一个数字监管机构，以帮助为AI聊天机器人（与Grok类似）建立安全标准。全球的审查xAI因其平台上的性别化图像而在全球受到审查。本月初，英国议员杰斯·阿萨托因在该平台上生成的性别化深度造假图像起诉了xAI。在一月份，英国媒体监管机构Ofcom对该平台展开调查，以查看其是否充分防止性别化深度造假图像的创建。那个时候，欧盟委员会还谴责了X上的露骨内容传播，监管机构称其为“令人震惊”和“恶心”，并导致了调查。在二月份，西班牙对Grok进行了调查，在三月份，荷兰法院命令xAI停止在该国允许创建裸体图像。与此同时，在美国，三名未成年女孩也在三月份提起集体诉讼，声称该平台允许了描绘儿童性虐待的图像。三名未具名受害者的律师在加利福尼亚法院提交的诉状中表示，xAI“已将露骨内容作为Grok的DNA的一部分。”在一月份，美国参议院通过了一项法案，允许深度造假性内容受害者起诉创作者，最低赔偿为150,000美元。同时，在一月份，印度尼西亚和马来西亚完全封锁了Grok，原因是与性描绘的AI图像有关。