南卡罗来纳州副州长帕梅拉·埃维特在一个阴郁的房间里看起来很痛苦，她正在进行一项测谎测试，而测谎仪最终着火。尽管视频澄清这则政治广告中的“戏剧化”是用人工智能生成的，但一些选民仍然问她他们看到的是否真实，埃维特告诉 Noticias Telemundo。起初，埃维特表示她想，“这太荒唐了，对吧？就像，没有人能相信这个吧？”后来，在她竞选成为共和党州长候选人的过程中——她在六月输给了检察长阿兰·威尔逊——她表示她遇到了对视频真实性感到困惑的选民。“在竞选路上，常常会有人问我，‘哦，我的天，他们真的让你做测谎仪吗？’”埃维特说。于是她不得不向他们解释，这从未发生过，这是一则人工智能生成的假广告。“所以你几乎觉得这是一个玩笑，并且对此感到好笑，直到你意识到外面有一群人分不清真伪，”她说，“然后开始怀疑他们所说的可能是真的。”埃维特并不是在中期选举前唯一一个形象被操纵的人。韦斯利安媒体项目，一群追踪政治宣传的专家，确定这一选举周期内至少有220个由候选人或政治行动委员会生成或增强的广告，花费接近1.37亿美元。这是与2024年相比，使用这种技术的显著跃升，当时总统选举期间对人工智能的投资不到5万美元。到今年5月，用于这些人工智能广告的支出已经达到2000万美元。“我们确实看到了夏季人工智能广告的增长，”华盛顿州立大学的一位教授及该项目的负责人特拉维斯·里达乌特告诉 Noticias Telemundo。“其中许多与激烈的初选比赛有关。”南卡罗来纳州副州长看到两段用人工智能或深度伪造技术生成的视频，但她也分享了一段错误地描绘她的对手阿兰·威尔逊拒接唐纳德·特朗普总统电话的视频。根据埃维特的说法，她的竞选在这些广告发布后使用了人工智能。“但是我们说了，‘这则广告是AI生成的，’”她说。针对埃维特的视频据信由一个政治行动委员会支付；针对她对手的那则广告则由副州长的竞选资金资助。向威尔逊发送的置评请求没有立即得到回应。在回应 Noticias Telemundo 的社交媒体查询时，近40人表示他们见过用人工智能生成的政治广告。有些人承认他们有困难区分这些广告。“这可能会造成误导；选民可能在这种情况下基于谎言做出决定，”里达乌特说。“我认为，这在民主的角度上是最令人担忧的。”里达乌特表示，在没有联邦法律对此进行监管的情况下，责任落在地方政府上，他估计约有30个州在政治竞选中对人工智能有某种规则或要求。韦斯利安媒体项目分析的220个广告中，只有27%表明他们使用了人工智能工具。可能性“是无尽的”预算较少的候选人依靠人工智能与竞争对手竞争，里达乌特建议。“我认为它会长期存在。我不知道它是否会消失，”埃维特说。她指出，竞选“非常昂贵”，而人工智能降低了许多录音和编辑成本。这些工具也可以“释放”政治广告中的更多创意，里达乌特说，“这在世界上并不是最坏的事情。”他说，可能性几乎是无止境的，包括讽刺。在他分析的广告中，他看到候选人从沼泽中浮现，和特朗普拳击，或者与1955年去世的物理学家阿尔伯特·爱因斯坦一起出现。“我确实担心这些图像的持久影响，即使人们知道它可能不是真的，”里达乌特说。他指出，这些图像可能会在他们投票时浮现在他们的脑海中，甚至可能引发误导潮流，触发暴力。布伦南法律中心，一家对这一技术对民主可能产生的影响进行分析的非营利机构，在一篇文章中表示，人工智能可以“重新定义”现代政治竞选。该中心选举与政府项目的法律顾问兼主任梅凯拉·潘迪萨拉特内表示，如果没有披露，“在政治广告中使用生成性人工智能有可能扭曲对候选人的看法，使候选人看起来光鲜亮丽或对手看起来负面。”在明尼苏达州初选期间，一段深度伪造流传，显示副州长佩吉·弗拉纳根，民主党美国参议院候选人，面带微笑坐在一堆现金中。