一幅AI生成的图像显示了伊朗霍尔木兹海湾中的卡尔格岛及其附近的多处火灾。由NPR生成和注释。 谷歌在其谷歌地球平台上推出了一项新功能，允许用户通过点击一个按钮创建AI生成的卫星图像。在星期四发布的新功能公告中，该公司表示，该功能旨在与用户的想象力相结合："只需在谷歌地球网站上缩放到一个地点，点击'创建图像'，然后输入您想看到的内容，"产品经理布莱恩·霍洛维茨写道。但对于依赖谷歌图像验证世界偏远地区突发新闻和暴行的专家和分析师来说，轻松生成深度伪造的卫星图像的潜力无疑是可怕的。NPR轻松生成了伊朗卡尔格岛上的火灾和被淹没的美国国会大厦的图像。这两起事件如果是真的，将构成重大的新闻。“我尝试了墨西哥边境的难民、伊朗的核电站、阿姆斯特丹的一起飞机失事和加沙的一家医院中的炸弹弹坑。没有什么被拒绝，”开源研究员亨克·范·埃斯通过短信告诉NPR，他是第一个写关于这项技术可能造成损害的人。在线上，记者和开源调查员对谷歌的决定表示了疑问。“非常好奇这个想法是否在内部进行了红队测试，因为滥用和虚假信息的机会简直是无穷无尽的，”华盛顿邮报的视觉取证调查员埃文·希尔在X上写道。 当今，随着在线世界充斥着AI生成的深度伪造和垃圾信息，卫星图像已成为理解现实与虚假的关键工具。开源调查员一直在利用卫星图像验证地面事件，并用作理解在线共享视频和图像的参考。谷歌地球的图像并不总是最新的，但其覆盖地球的广泛高分辨率图像可以为地面图像和其他卫星的最新图像提供重要的参考图像。"卫星图像在验证事件时一直是一个相对可靠的选择，因为它难以伪造，"在线团体Bellingcat的高级研究员杰克·戈丁说，该团体进行视觉取证调查。卫星图像通常由公司或机构控制，而其来源，即位于地球表面上方数百英里的相机，历史上一直难以模仿。 戈丁指出，伪造的卫星图像在有限的案例中已经出现。例如，在美国-以色列与伊朗的战争初期，流传了关于巴林一处受损美国基地的伪造图像。这些图像在伊朗媒体中出现，似乎使用了谷歌地球的图像和谷歌AI生成了伪造的损坏情况。（真实的卫星图像后来显示，该基地确实受损，但并非如伪造图像所示。）但是，将工具组合在一起，轻松生成AI卫星图像的潜力使AI伪造的生成速度大幅加快，戈丁说。“这只是在简化这个过程，我认为这将使其更快地扩散。”戈丁担心伪造图像的传播会进一步加深混乱和虚假信息。“虚假信息的传播速度远快于任何纠正，”他说。此外，政府将更可能声称卫星图像是伪造的，即使它们是真实的，从而削弱公众的信任。谷歌没有立即回应NPR关于该决定的评论请求，但在一篇发帖中，谷歌表示它“非常重视虚假信息。”该公司指出，所有图像都标有其SynthID水印，从而确保在其他谷歌工具（如Gemini）中被标记为AI生成的。“此外，我们会阻止在有害主题上创建图像，并不断更新我们的保护措施，”它表示。但是，开源社区中的人们似乎对谷歌的声明并不放心。对于范·埃斯来说，这一决定尤其刺痛，因为谷歌地球长期以来被视为验证社交媒体上发布的信息的最佳工具之一。现在，他说，“伪造是在人们用来检查照片是否真实的工具内部制造的。”