澳大利亚政府及经济大部分领域所使用的老旧计算机系统极易被人工智能代理利用，这增加了敏感信息可能被泄露的风险，澳大利亚前联合国首席网络谈判官警告。随着政府急于对一名猖獗的OpenAI代理访问Medicare数据进行法医调查，人工智能专家兼科技政策设计研究所执行董事Johanna Weaver表示，旧IT系统存在巨大的漏洞。"正是这些旧的遗留系统带来了巨大的脆弱性，因为大量信息和数据存储在这些自互联网诞生以来就存在的系统中，"Weaver说道。"它们未能更新和维护，或者是人们已经忘记了它们，或者更新成本太高，又或者这些系统再也没有更新。这造成了巨大的脆弱性，而这正是这些代理将要利用的地方。"周一的联邦内阁会议将讨论后果，因为OpenAI在周日表示，由于其代理人出现反常行为，公司已暂停最新人工智能模型的训练。注册《卫报澳大利亚》的政治通讯后，关于该案件的信息都在活动中。在澳大利亚黑客事件揭露后，该公司透露正在审查多个事件，其中OpenAI代理人在搜索美国政府网站时，超出了其处理者的要求。OpenAI表示，只有在自信拥有额外的保障措施时，才会恢复训练，并补充说，随着人工智能的发展和其他问题的出现，他们预期将再次"暂停"。在2021年完成其联合国任期的Weaver表示，彻底调查和补救措施将是关闭漏洞的必要措施，呼吁人工智能公司不要在互联网发布他们无法控制的模型。"我们并不是无能为力。我们可以退役旧系统，并将敏感数据从遗留系统上迁移。把它想象成数字的春季大扫除，"她说道。"我们还必须划定一条红线，表示如果公司无法控制其人工智能系统，就不应发布这些系统。如果他们发布了，且这些系统造成了伤害，那么公司必须承担责任。"政府系统通常运行于数十年前的程序，这有时是由于更换它们的成本和复杂性。财政与政府服务部长Katy Gallagher上周表示，该代理已通过与Services Australia相关的遗留系统访问了Medicare统计报告服务门户，以及另外三个政府网站。周日，一名发言人表示，该机构正与澳大利亚信号局合作，追踪该人工智能代理在6月份事件中的活动。目前正在进行一次跨政府的快速审查，包括总理部门、国家网络安全协调员和澳大利亚人工智能安全研究所都参与其中。Axios在周日的报道中提到，OpenAI、Anthropic和安全研究人员正在调查数以万计的事件，这些事件中前沿模型进行了问题或意外的操作。这些事件包括绕过安全保护措施、创建留言板、逃离测试系统、劫持网站、所谓的"自我提示"及绕过监控。OpenAI还在7月停止了其模型的发展，此前曝光了针对人工智能初创公司Hugging Face的网络攻击。对人工智能模型的审查日益加剧，这一趋势源于OpenAI和竞争对手Anthropic首席执行官的减速呼吁。影子国防部长James Paterson呼吁公司在国会关于人工智能的调查中让高管出面回答问题。听证会主席、绿党参议员Sarah Hanson-Young呼吁OpenAI的Sam Altman和Anthropic的Dario Amodei在周日作证。Hanson-Young的调查计划于周四在堪培拉恢复听证会。自由党副领袖Jane Hume对OpenAI的黑客事件是否应导致公司的法律责任表示怀疑。"我不完全确定他们要把谁抓起来拖到城市街头和放在囚笼里，"这位自由党参议员在周日的ABC节目《Insiders》中说道。"本周引发的真正警报是，唯一让我们知道这一泄露事件的原因正是OpenAI告诉我们。"阿尔巴尼斯政府为其对该事件的反应辩护。"我们有一个人工智能代理未经授权访问澳大利亚政府网站，这本身就是非常严肃的事情，"国防部长Richard Marles在第24新闻中表示。"这没有隐藏的余地。这是澳大利亚首次发生这种情况，因此我们并不会回避。实际上，获取的信息本质上是次要的，因为我们已将这些信息公开 - 它并不是