谷歌地球的新AI图像生成功能在用户深度伪造灾难后不到一天就被撤下 作者：凯瑟琳·李 你正在关注这位作者！想要取消关注吗？可通过电子邮件中的链接退订。谷歌地球的AI编辑工具创造了一只怪兽袭击洛杉矶市中心。谷歌在推出不到24小时后就撤下了这一新的AI图像编辑功能。该公司于周四推出了该功能，允许双子座的Nano Banana 2图像模型访问谷歌地球，并使用文本提示来转换地点。然而，这一功能很快失控。例如，AI研究员亨克·范·埃斯创造了极其逼真的深度伪造图像，包括美国与墨西哥边境的虚假难民营和伊朗的一座核电厂。其他用户则利用该工具生成了不存在的洪水和类似911袭击的AI图像。到周五，谷歌已改变了方针。谷歌的一位发言人在X上发布的声明中表示：“我们看到地理空间专业人士出于多种有用目的使用这一功能，但我们也看到有人分享生成图像的截图，这些内容似乎违反了我们的政策。因此，在我们努力实施更强的保护措施时，我们将撤回谷歌地球中的这一功能。”谷歌补充说，AI生成的图像带有水印，且从未出现在公众可访问的谷歌地球体验中。谷歌并不是唯一一家最近推出AI功能后迅速撤回的公司。Meta于7月7日推出了Muse Image，其中一项功能允许用户使用所有未更改设置以选择退出的成人拥有的公共Instagram账户上的图像生成AI图像。但Meta在不到一周的时间内就撤回了这一功能，并表示自己“失误了”。