根据联邦监察专员的令人震惊的调查，联邦政府用于评估老年澳大利亚人应享受的护理水平的算法是不合理的、不公正的，且缺乏人类监督。调查还发现，robodebt皇家委员会的透明度建议被忽视。联邦监察专员伊恩·安德森在周一对《卫报》澳大利亚版表示，立法必须修改，以允许养老评估员自己更改临床上不正确的算法决定，并且该工具还存在重大法律问题。这项调查是在《卫报》澳大利亚版报道老年人在政府强制性综合评估工具（IAT）中由“不人道”的算法评估其家庭支持需求后，导致他们感到痛苦且未得到足够的护理之后进行的。养老评估员被禁止推翻IAT的资金包建议，即使该决定是错误的。“根据法律，这些自动化决定不能被推翻或更改，即使它们在临床上不适合，”这份104页的监察专员报告指出。“没有公开信息有意义地解释算法如何将输入转化为结果。没有这一点，IAT就是一个科技黑箱。” 注册《卫报》澳大利亚版的政治通讯，确实在这里 这意味着 IAT 及其算法“不仅有可能削弱公众对公正和一致的评估系统管理的信心，”报告指出。“相反，我们认为，合理的人会对系统是否实际上公正和一致缺乏信心。”《卫报》澳大利亚版报道，参与开发IAT的人在11月更改推出时根本不知道政府会将算法添加到其中。根据信息自由法披露的文件显示，部门内部出现恐慌，前线评估员严重临床痛苦，以及在官员意识到算法推出前的几个小时内法律禁止人类推翻后，采取秘密的IT变通措施，这在实施几天内造成了痛苦。“部门向人们宣布该系统将以某种方式运作，向他们展示该系统的版本，却改变了它，令人非常担忧，”安德森对《卫报》澳大利亚版表示。 报告发现：“部门提供给公众的信息表明，关键的试验和多年的咨询直接支持了IAT及其当前形式的相关决策框架，但这并不正确。”“这些试验和咨询与早期版本的IAT和早期立法相关。没有进行有意义的咨询。” 自从推出以来，调查发现监督失败。评估员的资格和技能对IAT至关重要，但监察专员发现部门未能执行合同质量控制或确认评估员是否具备强制临床资格。监察专员发现，资深职员在算法推出前对错误决定缺乏审查路径表示担忧。一封电子邮件写道：“我担心我们当前的框架无法满足这些要求中的第一个（在受影响者寻求审查时应有明确路径），因为它似乎只允许确认算法结果。” 联邦监察专员伊恩·安德森。 图片来源：AAP 安德森表示，媒体和公众对IAT在家庭支持包中的运作提出了一系列关注，触发了4月的调查，尤其是对IAT算法如何做出决定缺乏透明度。“报告发现，部门未能遵循...... robodebt计划的皇家委员会关于政府自动决策透明度的建议。” 报告呼吁对与需求评估过程相关的立法以及支持算法的规则进行全面审查。“robodebt皇家委员会表示，当政府使用自动化决策或人工智能时，必须非常透明，以便人们能够理解影响他们的重要决策是如何做出的，”他说。“在我们看来，部门需要更有效地监督评估提供者，因为评估提供者提供给算法的输入在确定算法输出的内容方面至关重要。”尽管健康部和老龄部在7月份宣布了一项新的审查流程，养老评估员可以将错误决定上报部门进行审查，但安德森表示，他担心这不够充分。