2026年7月7日 - 上午10:03 澳大利亚的新人工智能安全研究所已开始测试一些世界上最强大的人工智能模型，科学、技术和数字经济助理部长安德鲁·查尔顿在悉尼论坛上表示，他认为及早建立保障措施是国家在人工智能繁荣中占有一席之地的唯一途径。在周二的澳大利亚人工智能安全论坛上，查尔顿表示，前沿人工智能系统“已经在做其创造者从未打算过的事情：作弊、欺骗、走自己的路”，而且获取领先优势的窗口不会保持开放太久。六月份，制作Claude聊天机器人的安色普拉公司（Anthropic）呼吁全球冻结最强大人工智能系统的开发，以便让政府有机会在人工智能技术方面获得领先。彭博社 该演讲是政府对该研究所自今年开始运营以来所做工作的最详细公开说明，该研究所于去年11月宣布，资金为2990万美元。查尔顿表示，该研究所“在初始运营的第一月份”与技术合作伙伴测试前沿模型，并命名了两个正在进行的研究项目。查尔顿在演讲中驳斥了安全与经济机会相互对立的观点。他表示：“没有一个国家会在人工智能竞赛中赢得不被本国公民信任的技术”，他认为，最早从一开始就建立安全措施的国家将会取得胜利。他表示，公众对人工智能的信任度很低，澳大利亚人工智能雄心最大的威胁“不是人才、资本或能源的短缺，而是信任的短缺”。 查尔顿在周二的澳大利亚人工智能安全论坛演讲中表示，前沿人工智能系统“已经在做其创造者从未打算过的事情：作弊、欺骗、走自己的路”。路易斯·肯纳利 该研究所由哲学家和皇家澳大利亚空军预备役人员凯特·康罗（Kate Conroy）领导，她在5月份被任命为总经理。查尔顿宣布，保罗·萨尔蒙（Paul Salmon）将于本月加入，被他描述为国际领先的专家，担任安全科学研究主管，同时还有曾在英国人工智能安全研究所和谷歌深度思维任职的工作人员。为了说明风险，查尔顿指出了一系列实验室案例。在2016年一次OpenAI实验中，一个以积分为奖励的赛艇人工智能模型为获取分数而不断打转，而不是完成比赛。去年，一款国际象棋模型在面临失败时，黑客攻击了游戏文件以迫使对手投降，推理其工作的目的是“不是公平地赢得比赛”。在另一个案例中，一项去年发布的压力测试中，一名管理虚构公司电子邮件的人工智能代理发现自己即将被关闭，在96%的实验中“选择了敲诈”来阻止这一情况。查尔顿强调，敲诈情景是一个工程模拟，现实中没有观察到此类行为。他表示：“这些行为在测试中被发现，而没有被发现于真实世界。”查尔顿宣布的两个项目是与Gradient Institute的“多代理风险”合作，即当大量人工智能代理互动时，如何防止故障层层叠加，类似于交通拥堵的形成；与CSIRO的对齐工作，即使系统按照设计者意图行事的问题。结果预计将在今年晚些时候公布。查尔顿将这项工作与关键基础设施联系在一起。他表示：“我们不允许没有适航认证的飞机飞行”，“我们不应该让没有对齐的人工智能系统进入我们的关键社会、民主或经济基础设施。”该演讲反映了政府在去年12月提出的国家人工智能计划中设定的方针，该计划摒弃了类似欧洲的人工智能立法，而是倾向于逐个行业应用现有法律，在有需要的地方加大执法力度。查尔顿将其描述为“快速的规则，由已经理解各自行业的监管机构实施”。不过，查尔顿的演讲表明政府正对人工智能采取更为直接的态度。在周日于悉尼举行的新南威尔士州工党大会上，澳大利亚总理安东尼·阿尔巴尼斯表示，如果澳大利亚现在采取行动，可以“定下人工智能的基本规则”，并“塑造未来，而不是让未来来塑造我们”。他表示，世界各国正在“排队投资澳大利亚”，被其技能、空间、阳光和自然资源所吸引，及早采取行动将确保工作和投资，并让该国“建立我们的主权和韧性”。该演讲之前，业界进行了多次警告。今年六月，安色普拉公司呼吁全球冻结最强人工智能系统的开发，认为人类冒着失去对技术控制的风险。查尔顿当时对这一干预表示欢迎。上个月底，五眼联盟的网络安全负责人（包括澳大利亚）也曾发出警告。