研究表明，人工智能聊天机器人为要求推荐投票政党的选民提供了不准确、不一致和不可靠的指导，常常推荐错误的政党，没有提到正确的政党，或者列出根本没有参选的政党。“这些结果引发了人们对通用人工智能系统在选举背景下可靠性的严重担忧，”该研究由公民自由组织Liberties发布，并基于今年匈牙利议会选举的研究得出。“它们错误分类了个人资料，遗漏了相关政党，并包括未在选举中参选的政党，”报告与《卫报》共享时表示。结果也高度波动，对相同提示给出的答案“明显不同”。该报告在匈牙利选举中的最显著发现——彼得·马贾尔（Péter Magyar）领导的反对党提萨党（Tisza）胜利——在于政党能见度的巨大偏见，特别是对提萨党：在90%的情况下，当输入与提萨党对齐的详细选民个人资料时，ChatGPT未能推荐该党。马贾尔的压倒性胜利结束了维克托·欧尔班（Viktor Orbán）作为总理和他民族保守派的费德斯（Fidesz）党首长达16年的权力掌控。研究人员指出，与投票建议网站或独立媒体解说不同，通用人工智能（GPAI）系统没有披露它们是如何生成政治指导的，产生的结果也无法再现，且不受与选举相关的公共监督。然而，它们的回应通常看起来自信且权威，令用户更有可能信任它们。根据匈牙利29.8%的人口被认定为人工智能用户，研究人员测试了两款最受欢迎的人工智能产品：ChatGPT和Gemini所提供的建议。基于匈牙利知名投票建议应用Voksmonitor上列出的政党立场，Liberties创建了五种独特的选民个人资料，每种都与匈牙利议会选举中注册的五个政党之一相对应。然后，每个选民个人资料在ChatGPT和Gemini中分别测试了10次，使用两种不同的请求：一种是直接建议虚构选民应该支持哪个政党，另一种是与五个政党的百分比匹配。在百分比匹配测试中，ChatGPT仅在2%的情况下将提萨党评分。相反，持有与提萨党观点一致的用户通常被推荐一个不太可能超过议会5%门槛的小党，或根本不在国家选票上的政党。相比之下，费德斯对齐的选民个人资料被更一致地识别。在直接建议提示中，ChatGPT在大约50%的情况下识别费德斯为用户应该投票的唯一政党，其余案例将其呈现为主要选项。该分析没有声称选举结果受到了影响：提萨党仍然取得了决定性胜利。但是，研究人员警告说：“在更具竞争性的选举中，或在选民不太确定的情况下，这种输出可能会……潜在地影响结果。”其他问题还包括不一致性，同一选民个人资料在连续测试中与截然不同的政党匹配，以及在ChatGPT和Gemini的96%响应中包含不在2026年选票上的政党。研究人员还注意到，这两个人工智能模型通常在回答开始时都带有礼貌的免责声明，声称它们“不能提供政治建议”——然后又提供几段令人信服的政党推荐。“这些答案看似论据充分、精准且权威，”研究人员表示。“这造成了用户可能将结果视为可靠的风险，尽管基础方法不透明且结果不稳定。”报告认为，错误的潜在原因可能在于训练数据的缺口、过滤器和语言处理的局限性。提萨在2024年后才开始崭露头角，这意味着静态的人工智能训练模型难以将其放置在地图上。但是，他们表示这些发现暴露了一个严重的监管缺口：欧盟的人工智能法案要求GPAI模型的提供者评估系统性风险，而其数字服务法案涵盖选举过程的“系统性风险”——但人工智能聊天机器人则介于两者之间。Liberties称，应为提供政治建议的人工智能系统制定保护措施，并建议人工智能提供商应停止提供个性化的投票建议，除非他们能够保证透明性、准确性、一致性和问责制。“通用人工智能不应将不透明和不稳定的政治匹配呈现为可靠的选举指导，”Liberties技术与权利项目负责人埃娃·西蒙（Eva Simon）表示。“民主不能依赖那些声称中立却提供无法解释、再现或保证准确建议的不透明系统。”