根据专家的说法，在11月的美国中期选举之前，社交媒体动态充斥着前所未有的AI驱动的虚假信息，专家警告称许多帖子可能会“在漏洞中滑倒”。随着数千万美国人准备投票，社交媒体公司已缩减保护选民免受操纵选举谎言的努力。尽管剑桥分析丑闻后对Facebook的强烈反对促使社交媒体巨头加强了其信任与安全业务，但来自右派的反击，因对言论限制的担忧而加剧—这种担忧在埃隆·马斯克收购X（前身为Twitter）及2024年唐纳德·特朗普当选后愈演愈烈—导致相关团队的大量裁员。人工智能使得发起虚假信息运动比以往更容易。平台越来越多地依赖于AI，而不是人工干预来做出反应。“现在你可以以在2016年不可能实现的质量来进行信息操作，成本超级低廉，”前Facebook数据工程师、现为维权者和大型科技透明度与问责倡导者的弗朗西丝·霍根说。从事肮脏把戏的操作人员可以绕过内容审核规则，“因为你可以在每次创建帖子时稍微调整一下，某些帖子就会通过，”她说。宾夕法尼亚州到德克萨斯州的运动正争先恐后地应对在线传播的谎言。而与以往选举不同的是，他们发现自己陷入了困境：当捏造和虚假信息传播时，他们到底该向谁求助？Meta Platforms，Facebook和Instagram的拥有者，以及X未回复评论请求。谷歌旗下的YouTube表示，所有用户均受相同指南的约束。德克萨斯州参议院的高调民主党候选人詹姆斯·塔拉里科本月早些时候暂停了竞选活动以恢复流感。但许多社交媒体动态传播了另一个错误的原因：称他在俄亥俄州的精神健康设施接受治疗。这个说法是完全捏造的，由一位右派“挑衅者”推动，他发布了一段经过欺骗性编辑的与医院工作人员的通话记录。塔拉里科的竞选团队发布了监控摄像头录像，显示他在德克萨斯州的家中，并公开澄清他甚至从未去过俄亥俄州。但这个谎言持续传播，并在几天内被助长。参议院候选人詹姆斯·塔拉里科在德克萨斯州韦斯拉科的Voto Latino“准备、开始、投票”集会上与与会者交谈，照片来源：迈克尔·冈萨雷斯/美联社 美洲数字民主研究所（DDIA）追踪了其传播，以及虚假信息在保守派西班牙语媒体中的变异。起初关于塔拉里科在俄亥俄州住院的病毒性谎言，演变为一个西班牙语的虚假声称，指控他曾试图自杀。DDIA的研究人员写道，该案例“说明了应对选举虚假信息的一个反复出现的挑战”。谎言在传播过程中演变和变化，“使得最初的更正不足以应对故事的每种版本”。根据罗伯塔·布拉加，DDIA的创始人兼执行董事，社交媒体平台在英语中的服务条款执行“更一致”，而在西班牙语等其他语言中则执行得不够好。“在处理西班牙语时，公司的保护措施要少得多，尤其是现在他们已经收缩了很多在内容审核方面的投资，转向社区为中心的内容审核，比如社区备注风格的东西，”布拉加说。“现在他们使用AI进行大量内容审核时，更多的内容可能会滑过漏洞。”塔拉里科在德克萨斯州的共和党对手肯·帕克斯顿今年早些时候也推出了一则广告，使用AI生成的塔拉里科画面—一名长老会神学生—假装在重写圣经。“我认为德克萨斯人对我们政治中的这些谎言感到厌倦，”塔拉里科在9月告诉NBC新闻。“这些AI深度伪造广告对我们的公民对话没有任何帮助。它们没有任何作用来阐明选民面前的选择。”曾经在边缘运作的在线攻击小组在选举虚假信息背后，如今，他们的工作可能会被官方政府来源放大。当X和右翼博客上的病毒性帖子声称，在宾夕法尼亚州中部被捕的无证移民是一名民主党贾内尔·斯特尔森国会竞选活动的活跃现场工作者和拉票者时，工作人员们正在迅速澄清真相，试图赶上谎言。然而，国土安全部的官方声明却放大了这一说法。