
没有人能从名人AI深度伪造中安全逃脱
事后看来,Instagram上的帖子本应引起更多的警觉。图片声称显示了女演员米娅·高斯(Mia Goth),她刚刚在与演员和制片人希亚·拉博夫(Shia LaBeouf)提交离婚申请几天后,穿着T恤 pose,传达出一种直接的信息:我的前任是我最大的粉丝。为了强调这个观点,帖子还加入了碧昂丝的歌曲《Single Ladies (Put a Ring on It)》。对此明星米娅·高斯来说,这显然与她的性格不符,因为她的社交媒体存在感并不强。如果说这张帖子来自一个账号 @miagoth_,这个账号有超过一百万的粉丝,并被标记为蓝色“已验证”标志。那么在几天之内,这张图片就获得了近 50 万个点赞,包括娱乐圈同行的赞赏,尽管该页面被标记为粉丝账号。正如《The Verge》报道的那样,该图像是AI生成的,发布的账户是高斯的代表称他们曾向Instagram投诉过,因发布了“伪造的、AI图像”的账号。Meta允许用户购买蓝色“认证”标记,即使该账号并非由知名人物管理或不是一个官方页面。“这个粉丝账号满足了Instagram的标准以获得‘蓝色勾选’这一事实,从根本上说是令人不安的,”高斯的代表克里斯汀·特里皮基奥在给《The Verge》的邮件中表示。“更进一步,令人难以理解的是,Instagram显然优先考虑传播伪造和操纵的图像,而不是保护和维护公共人物的肖像的完整性。”由于她离婚的新闻,该帖子在名人八卦媒体之间传播,这一报道又通过Google搜索传播了该帖子的内容。对女演员及其T恤的搜索触发了一个AI生成的概述,称高斯在提交离婚申请后“明确对其前任希亚·拉博夫进行了攻击”,并引用了上述博客。在Google搜索结果中,有一部分标题为“米娅·高斯在Instagram上以穿着挑衅性的‘我的前任是我最大的粉丝’ T恤吸引眼球”,显著展示,并附上了谈论该图像的社交媒体帖子链接。最终,Instagram因虚假冒充公共人物而删除了该账户。随着消费者生成AI工具在几年前就已经可用,一些更为人知的——以及有争议的——使用案例涉及到名人。此类人类主体历史上对以数字方式克隆并作为玩物使用的反应一直不好:一首AI生成的像德雷克(Drake)一样的音乐因版权问题而从YouTube上被删除。斯嘉丽·约翰逊(Scarlett Johansson)在OpenAI发布一个听起来像她的ChatGPT语音而未征得她同意后,招聘了法律团队。传闻亚莉安娜·格兰德(Ariana Grande)在去年封锁了一个发布她AI生成内容的账户。泰勒·斯威夫特(Taylor Swift)公开支持卡马拉·哈里斯(Kamala Harris)竞选2024年总统,并表示在唐纳德·特朗普(Donald Trump)发布假图像暗示她支持他后,她被迫澄清自己的立场。曾经有一段时间,甚至富人和名人都在努力适应新技术的规范。现在,网络上AI内容的数量只在不断增长——尚不清楚是否有人在尝试或能够阻止这一现象。描绘女性公众人物的AI内容往往极具性暗示。一个专门发布约翰逊AI生成图像的账户——通常突出展示裸足——包含了公司的广告联系方式,并附上了销售订阅的Patreon和Telegram频道链接。该平台外的内容使用约翰逊的名字和(AI)图像来推广成人内容。另一个账户则发布米莉·波比·布朗(Millie Bobby Brown)、赞达亚(Zendaya)和格兰德的现实主义AI生成图像,通常穿着不多或处于性化姿势。一些账户则拥有自己的小众,如“陌生事物演员彼此结婚”。在《The Verge》询问Meta关于八个发布名人深度伪像内容的账户时,发言人亚历克斯·兹兹达(Alex Dziedzan)表示公司已删除了一些账户。其中两个——高斯和约翰逊的账户——似乎已被撤销。“我们不允许账户使用某人的肖像假冒该个人,无论内容是真实的还是AI生成的,”兹兹达在一封邮件中表示。泰勒·斯威夫特手中拿着一杯饮料,跟着德雷克的“Burning Bridges”饶舌,一切粗口都不放过。“我在上一颗[Quaalude]/让我全身发麻,”她边唱边穿着2009 MTV颁奖典礼上那条意味着命运的裙子。这个视频显然是AI制作的。它在Instagram上有180万的观看次数。“我不认为她的公关团队会喜欢她说N字,”有人评论道。Instagram上充满了这样的短视频,通常莫名其妙地遵循非常具体的格式。一段AI史瑞克(Shrek)做同样事情的视频也有310万次观看。这是史蒂夫·乔布斯(Steve Jobs),手拿香槟瓶,摇摆着,配合另一首德雷克的歌曲(37.1万次观看)。还有一个相同的梅西(Lionel Messi)版本(210万次观看)。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡