乔纳森·里纳尔迪，纽约皇后区市议会候选人，在床上用iPhone进行操作，促使一个人工智能聊天机器人生成假新闻报道和 endorsements。他在去年10月的竞选中分享了其中一个故事，这个故事被伪装得像真实的CNN标志，发布在他的Facebook和Instagram上。故事中称他的对手、现任民主党人林恩·舒尔曼因一系列严重失误“被迫退出竞选”。但舒尔曼并没有退出她的竞选，并且在11月以压倒性优势获胜。里纳尔迪认为这些帖子是“艺术”，并绝对是受保护的政治言论。“我做的是表情包和政治讽刺；我所做的没有任何虚假。”他说。然而，当地官员指控这位47岁的疫苗怀疑论者和连续精子捐赠者欺诈选民。6月24日，他因轻罪伪造被捕，这似乎是候选人使用人工智能进行政治信息传播后可能面临刑事处罚的首次案例之一。“竞选充满了谎言，好的，”里纳尔迪在接受《卫报》采访时说。“我想说的是，我没有做任何与别人不同的事情。”虽然这类执法相对罕见，而对里纳尔迪提出的指控所用的法律早于人工智能的使用且不要求使用人工智能，但案件核心的欺骗行为象征着关于在政治传播中管制人工智能的激烈国家辩论。里纳尔迪争辩说他没有违反任何法律，并担心因在线活动被捕对言论自由的影响。“警方不能在社交媒体帖子投诉的基础上逮捕你，这一点非常重要，”他说。这个选举季，人工智能生成的广告随处可见。它们多数夸大候选人，或嘲笑对手——通常由与候选人无关的外部团体支付。但其广泛使用以及偶尔的不当行为引发的担忧是，虚假政治内容可能操纵选民，并在11月的中期选举前放大错误信息。在全国各地的国会初选中，引人注意的人工智能生成广告已经引发争议。一段视频展示了德克萨斯州民主党参议院候选人詹姆斯·塔拉里科（James Talarico）打扮成《音乐之声》中的玛利亚，并唱出关于跨性别儿童的《我最喜欢的事情》的版本。另一个则暗示保守派肯塔基州国会议员托马斯·马西“与进步派‘小组’成员处于三人关系”：展示这些立法者在登记酒店时手牵手。洛杉矶市长候选人斯宾塞·普拉特（Spencer Pratt）则化身蝙蝠侠，把他的对手卡伦·巴斯（Karen Bass）表现成小丑，在一场奇异的数字展演中获得了数百万的观看，帮助他从边缘外部人物成长为严肃竞选者。里纳尔迪的Instagram帖子，@jdrfornyc，于2025年10月24日东部时间上午8.32发布。照片：皇后区检察官办公室。“这些广告大多数并不试图说服人们，”哈佛肯尼迪学院的研究员布鲁斯·施奈尔（Bruce Schneier）说。“它们是关于社会信号的。重要的是：我的团队可以在你的团队上面灌篮。”即使是总统也是粉丝。唐纳德·特朗普（Donald Trump）严重依赖AI“垃圾宣传”——将自己描绘成加冕的国王，登上《时代》杂志封面，一个教皇和一个挥舞光剑的绝地。他还分享了一个种族主义视频，描绘前总统巴拉克·奥巴马和他的妻子米歇尔为猿类，引发强烈反响。特朗普后来删除了该帖子。在2024年的总统大选中，他和埃隆·马斯克（Elon Musk）分享了人工智能生成的喀马拉·哈里斯（Kamala Harris）在共产主义集会上的图像。就在上周，特朗普发布了一个AI视频，自己扮演医生，脖子上挂着听诊器——声称已经治愈他最著名的“特朗普妄想症”批评者。其中一些人工智能使用更具误导性。在2023年总统初选中，佛罗里达州州长罗恩·德桑蒂斯（Ron DeSantis）发布了一个看似人工智能生成的图像，显示特朗普拥抱安东尼·福奇博士（Dr. Anthony Fauci）——后者已成为共和党对其疫情响应策略愤怒的目标。2024年1月，一位政治顾问在州总统初选前两天向数千名选民发送了模拟乔·拜登的人工智能生成的机器人电话；假冒的拜登建议人们在11月的选举中投票，而他们的选票在1月不会有任何影响。专家警告说，复杂的新人工智能工具使得制造和放大错误信息变得更加容易。公众同样对此表示担忧。PBS新闻、NPR和Maris在2026年3月进行的调查显示，85%的美国人认为人工智能生成的政治内容可能会传播关于11月选举的错误信息。各党派之间的信任度差异较小。在正义布伦南中心正在推动联邦选举委员会果断采取行动，处理“故意欺骗”的事务。