返回

文章详情

Viral AI fakes flood social media as Iran mourns Khamenei

病毒式AI伪造泛滥社交媒体,伊朗哀悼哈梅内伊

France 242026年7月7日 21:09

伊朗在德黑兰为前最高领袖阿亚图拉·哈梅内伊的葬礼游行吸引了大量人群,国际新闻机构对此进行了记录。但在真实的哀悼者图像旁,声称展示该事件的AI生成视频和照片在网上广泛传播。一些视频夸大了人群规模,而另一些则包含明显的AI错误和虚构的地标,以获取点击量和参与度。周一,德黑兰聚集了大量人群,伊朗为前最高领袖阿亚图拉·哈梅内伊举行葬礼游行。国际新闻机构记录了密集的人群在街道两旁排成行,哈梅内伊的灵柩经过首都,灵柩在大清真寺静置两天后出殡。但在经过验证的游行和人群的图像旁,一波误导性的AI生成视频和照片在社交媒体上蔓延,虚假声称展示了该事件。一段由支持政权的账户广泛传播的视频被观看了数十万次,声称描绘了“历史上最大的葬礼”。然而,几个线索表明这是使用人工智能生成的。视频中的波斯文字符是没有意义的胡言乱语,清真寺本身的建筑风格与德黑兰的大清真寺不同:病毒视频中描绘的是一个白色圆顶,而在现实中——正如我们FRANCE 24记者报道的图像所示——实际清真寺的圆顶是蓝色的。在网上其他地方也出现了同样的模式。另一幅病毒AI生成的图像虚假声称展示了聚集在德黑兰的阿扎迪塔周围的人群。OpenAI的图像检测识别到了一种SynthID水印,表明该图片是使用其AI工具制作的。该图像还包含地理不一致之处,包括在最近的阿扎迪广场卫星图像中没有出现的树木和建筑的排列。另一段观看次数超过一百万的AI生成视频似乎展示了数百万哀悼者在拥挤的街道上抬着哈梅内伊的灵柩。但视频中包含多种常见的AI伪影,包括扭曲的手部、不真实的人群移动和缺乏明显的面部特征。围绕重大新闻事件的误导性内容通常分为三类:旧视频作为新视频呈现,真实图像被断章取义,或完全是一种AI生成的媒体。在哈梅内伊的葬礼中,网上传播的许多病毒性错误信息都是合成的。Vedika Bahl在《真相与虚假》中区分事实与虚构。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡