苹果商店上的裸体化应用允许用户创建强奸和性侵犯视频
《独立报》可以透露,允许用户上传自己的照片以生成强奸和性侵犯图像的AI“裸体化”应用程序在苹果的App Store上可免费下载。这种性暗示深度伪造的创建在英国是违法的,因为埃隆·马斯克的Grok AI工具被用来“数字脱衣”受害者,引发了愤怒。自2015年以来,在英格兰、威尔士和北爱尔兰,描绘强奸和性侵犯的色情内容是非法的。但《独立报》发现几款APP允许用户在苹果应用商店“脱衣”照片,包括一款允许用户将图片上传到“卧室强奸”场景中的应用。这些描述伴随着场景的图像视频。该应用程序可以从苹果应用商店下载(PA Archive)。我们选择不透露名字的这款APP列出了数十个其他的AI生成场景供用户上传照片,并允许用户在提供创建图形场景的指令后生成图片。它可免费下载,但随后每月收取10.83美元的会员费。该应用还鼓励用户通过每天“签到”来获得“礼物”。该应用在被举报给苹果后已被移除。该公司未对此作出直接评论,但表示其指南禁止明显的性或色情内容。其他应用提供类似于在真实图像中“脱衣”并使用这些图像生成性化场景视频的功能。苹果表示,多个被举报的应用在审核后添加了违反其服务条款的功能。这些揭露是在今年早些时候,技术透明度项目调查发现47款AI“裸体化”应用可在该科技巨头的美国应用商店下载后披露的。随后,《独立报》调查显示,几款类似的应用以及在TTP调查中提到的应用在英国的应用商店中也可用。苹果应用商店政策规定,应用“不得包含冒犯性、不敏感、令人不安、旨在令人作呕、极其低俗或仅仅令人毛骨悚然的内容”。该政策还表示禁止“明显的性或色情材料”,定义为“针对刺激性而非美学或情感感受的性器官或活动的明确描述或展示”。裸体化应用在X的Grok被用来创建未获得同意的女性深度伪造图像后受到抨击。今年早些时候,在英国,创造或请求未获同意的成年深度伪造图像已成为非法。工党议员杰斯·阿萨托(Jess Asato)遭到性化深度伪造图像的制作并在网上广泛传播,她现在正在起诉xAI索求赔偿。杰斯·阿萨托正在起诉xAI(英国议会)。阿萨托告诉《独立报》,女性和儿童在线上被“侵犯、虐待和伤害”,这是“因为应用程序创建者允许这种情况发生”。她说:“有很多具有强大保护措施的工具,不接受裸体化或性化的请求,因此当它们这样做时,就像Grok一样,这并不是偶然,而是选择,我们需要问责。”她继续说:“没有人应该生活在恐惧中,担心他们的形象可能被性化并由AI工具传播到全球,这就是为什么我正在追求法律行动以证明责任并制止AI滥用。”结束针对女性暴力的妇女联盟(EVAW)的临时主任贾纳亚·沃克(Janaya Walker)表示,在这些应用中看到的“暴力和有害”内容可能会鼓励个人“角色扮演针对女性的暴力和非人化行为”,并导致“脱敏效应”。她说:“像苹果和谷歌这样的科技公司在法律上有责任处理暴力和有害内容,特别是在涉及非法内容的情况下。然而,我们知道各类行动者-从数十亿美元的公司到这些贬损应用的小规模创作者,继续以女性和女孩的虐待获利。“这些应用生成的虐待图像允许甚至鼓励个人角色扮演针对女性的暴力和非人化行为。这具有脱敏效应,正常化了针对女性和女孩的暴力。创建的图像也被直接用来对女性进行恐吓、威胁和骚扰。”她呼吁政府和监管机构Ofcom加强对“支持和牟利于”女性和女孩的虐待行为的平台的监管。“我们需要看到对这些平台施加更大的压力,以防止这些已知和可预见的伤害,包括通过具有法律约束力的要求来实施安全设计。”Ofcom发言人表示,他们正在“积极评估”一系列生成AI情色网站和应用程序是否符合《在线安全法》,并“不会犹豫”在发现失误的情况下采取行动。他们继续说道:“新的规则将于2025年7月底生效,所有允许色情材料的服务需要实施有效的年龄检查,以防止儿童接触这些内容。”
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡