关键联邦议会委员会的主席警告说，汹涌而来的AI生成材料正在对政策制定引入不正确甚至是“幻觉”信息，提醒议员们要警惕材料的真实性。《卫报澳大利亚》本周的分析发现，调查研究正被大量由AI生成的内容淹没，它发明了研究并将不存在的研究归因于真实的学术界和作者。在某些情况下，委员会的报告甚至引用了大多数来源似乎是AI生成的幻觉的提交材料——当大型语言模型（LLMs）制作或提及看似真实但实际上不存在的内容时，就会发生这种情况。自由党参议员保罗·斯卡尔表示，报道表明提交材料中包含幻觉内容的数量增加带来了明显的危险。“最大的风险是，无论决策者是在议会、商业或其他地方，都会基于错误的信息做出决策，”他说。“这个风险与提交材料的个人或实体的地位成正比，大家都需要对此保持警惕。”他补充道：“我们已经被警告。我们确实需要检查，并在检查脚注、来源和在提交中提出的声明时多做一点努力。”斯卡尔还提到，他在2023年的一个委员会中收到了包括虚假指控的提交材料，涉及KPMG。他表示，咨询公司向委员会投诉，而一位学者对此负责。斯卡尔说，由于委员会必须考虑所有提交材料，“你希望如果有少数提交包含这些错误，整体情况能够有所平衡，但危险依然存在。”工党议员、社会政策和法律事务委员会主席路易丝·米勒-弗罗斯特表示，该委员会曾收到一个包含幻觉引用的提交，委员会对此问题变得越来越敏感，但不应废弃使用AI生成的提交材料。米勒-弗罗斯特表示，包含幻觉内容的提交发现与提供给调查的其他证据并无不同。“我认为，如果他们提交了一些不寻常或非常重要的内容，那么你就得深入调查并了解关于该特定提交的更多信息，然后查看引用的资料，之后就会很明显他们的引用是不存在的。”她说：“我认为委员会……以及委员会秘书处现在对此更加警惕。这些委员会正处理大量数据，这使得检查每一个引用变得有些困难。”米勒-弗罗斯特还指出，AI可以帮助那些可能在提交材料方面遇到困难的公众成员。“其中一些提交来源于机构、学者和政府部门，他们拥有大量资源。但我们也会接收一些来自社区中个体的提交，尤其是在社会服务领域，他们可能没有时间、能力和条件来写下他们想表达的内容。”参议院院长苏·莱恩表示，参与议会调查的议员始终会验证呈现给他们的信息，但她指出，提交者对内容的真实性负有责任。“毫无疑问，随着AI的广泛采用，委员会的工作方式也会继续发展，包括应对此类AI工具增强了提交数量的可能性——这在参与性方面是有益的，但也会影响到处理提交材料的任务和资源。”她说，“委员会还明确表示，如果某个调查参与者意识到自己提供的任何证据具有误导性，他们有责任纠正这些信息。”参议院对于调查提交的建议警告称，使用AI可能对信息的质量产生风险，准确性是提交者的责任。去年，在咨询公司德勤被披露其AI工具包含虚假引用和虚假法庭引用后，向联邦政府发放了部分退款，其报告金额高达440,000澳元。