一段假的Jimmy Kimmel视频。ALAMIN_TUBE / NPR 截图 隐藏标题切换标题 ALAMIN_TUBE / NPR 截图 Jimmy Kimmel目前正在ABC的深夜脱口秀节目中享受暑假。但普通观众可能会误以为他还在节目中。社交媒体视频似乎显示他评论各种事件，从特朗普总统在会议中睡着，到特朗普总统对密歇根参议员候选人Abdul El-Sayed的攻击。社交媒体上关于Kimmel和其他深夜电视节目主持人的伪造视频正在迅速增加。这些使用生成性AI制作的视频在某种程度上比其他类型的名人伪造更容易创建，并且可能造成更大的干扰。 为什么人们容易上当 Jed Rosenzweig，在线刊物LateNighter.com的创始人和编辑，一直在调查这些伪造视频的兴起。他说，深夜电视节目主持人尤其容易被伪造成社交媒体上的视频模拟，因为观众接受他们呈现的上下文是如此简单。Rosenzweig说：“Jimmy Kimmel确实会在电视上谈论政治，这些片段确实每天都会被发布在社交媒体上。”他补充说：“所以如果你看到与特朗普昨天做的事情相关的Kimmel缩略图，这里已经存在一种内置的上下文和信任，给它一种伪装的效果。它只需要看起来像是信息流中一个又一个的Jimmy Kimmel片段。” Rosenzweig指出，这些独白有一些明显的迹象表明它们并不真实。“姿势很奇怪。写作听起来并不像现场独白。而且大约十秒后，Kimmel消失了，复制的声音仅在新闻片段上播放，”他说。然而，这些视频的观看量达到数十万，并引起评论，表明至少有些人认为内容是真的。一位观众在YouTube视频中评论： “谢谢你Jimmy，讲述真相。” 威胁言论自由 Rosenzweig表示，尽管其他主持人如Jon Stewart也受到这些AI模拟的影响，但Jimmy Kimmel Live!的伪造视频尤其令人担忧，因为这位主持人与特朗普政府的关系特别紧张。特朗普总统多次呼吁解雇Kimmel。Rosenzweig说，这些假视频中，许多取笑或批评特朗普的内容，可能在联邦通信委员会和ABC因言论自由权利而进行法律斗争的情况下，增强了特朗普政府的决心。“ABC每晚都面临关于Jimmy Kimmel所说内容的审查，”Rosenzweig说。ABC没有回应NPR的评论请求。 制作简单 这些类别中的AI生成的脱口秀主持人在某种程度上比其他类型的名人伪造更具威胁性，比如歌手和演员：它们通常更容易制作，因为这类主持人通常只是在一个地方站着或坐着对着摄像机说话，而且很容易在线获取高质量的音频录音来进行模仿。“在许多情况下，我可以从某个晚间节目主持人那里提取一张单独的图像并进行动画处理，”达特茅斯学院的计算机科学教授Hany Farid这样说道，他专注于分析伪造视频。“这里有一个声音，十五秒。这里有一个剧本。开始吧。”此外，Farid还表示，深夜电视是许多美国人获取新闻和验证他们观点的地方。“我们所看到的伪造视频本质上是信息战役，现在似乎来自我们习惯于收听的那些人的声音，”Farid说。“所以它们非常有效。” 深夜的吸引力……在线 尽管观众正在下降，但大约四分之一的美国人仍然定期观看深夜脱口秀节目。根据2025年由美联社-NORC公共事务研究中心进行的调查，大多数这些观众是民主党人，并且更多人在线观看片段而不是传统电视上的完整节目。Farid和Rosenzweig都表示，这可能解释了为什么在社交媒体上很难找到右倾脱口秀主持人的AI伪造独白。“我看到的东西更多的是诈骗和欺诈，”Farid说。“就像，“Sean Hannity说你应该购买这个加密货币！””代表Jimmy Kimmel、Jon Stewart、Sean Hannity和Greg Gutfeld的主持人未回应或未对NPR的评论请求做出回应。一小部分制作脱口秀主持人伪造视频的创作者没有回应NPR关于他们动机的问题。Farid说，他们可能是出于意识形态原因，或者是为了赚钱。“这纯粹是点击诱饵。吸引眼球。获取广告。就是这样，”Farid说。 平台的回应 托管这些AI伪造视频的平台正在尝试进行管理。TikTok，以及拥有YouTube的Google，和拥有Instagram的Meta，都向NPR发送了声明，试图回应这一问题。