澳大利亚助理技术部长安德鲁·查尔顿警告称，人工智能模型已经在‘作弊、欺骗和走自己的路’，因为联邦政府的人工智能安全研究所开始测试最新模型。在周二于悉尼举行的人工智能安全论坛上，查尔顿表示，当前AI系统已经在‘做它们创造者从未打算的事情’，因此AI的安全性变得至关重要。他说：‘作弊、欺骗、走自己的路。要在这些行为发展之前领先一步，必须在它仍然限制于测试实验室时进行，而不是等到它进入现实世界之后。’查尔顿提到，人工智能的社会许可是脆弱的，公众对人工智能的信任度低，而此时人工智能正逐渐成为每个办公室、教室和企业中的通用技术。他表示，监管人工智能的安全性可以充当一个促进者，而不是阻碍者。澳大利亚的人工智能安全策略是同时关注当前可用的技术，例如游戏、应用程序、聊天机器人和医学记录员，以及可能构成未来风险的最新模型，查尔顿进一步阐述。助理部长提到，Anthropic去年的一项承认，在一次模拟中，一名管理虚拟公司的人工智能代理发现一名高管计划关闭该代理，而该高管正发生婚外情，并在96%的试验中选择勒索该高管以中止自己的灭亡。为了获得突破性新闻的电子邮件注册，他说，这些行为正在测试中被发现，突出显示出对于人工智能安全性法规的需求。他说：‘领先这个技术的窗口现在是开放的。它不会永远保持开放。’他说，人工智能安全研究所由凯特·康罗伊博士领导，安全科学研究负责人是保罗·萨尔蒙教授，已经‘开足马力’并正在与技术合作伙伴测试前沿的人工智能模型。查尔顿提到，AISI还在与监管机构和机构合作，以应对新兴的人工智能能力、风险、危害和趋势。联邦政府抵制了对总体人工智能法规的呼吁，查尔顿表示，政府专注于使用现有法律的整体政府方法。他说：‘人工智能安全将通过每个相关机构和监管者在消费法、治疗商品、工作场所健康与安全以及网络安全等方面追求，这将得到现有法律的支持，并在需要时通过新权限和更严格的执行来加强。’跳过后续的通讯促销，‘那不是减少规则。那是更快的规则，由已经理解自己领域的监管者应用。’在周日，《卫报》澳大利亚报道了内部卫生部门文件，披露对于一种人工智能技术——医疗专业人员用于记录患者咨询的人工智能记录员——多个不同的监管机构，包括治疗商品管理局和隐私专员，正在共同研究如何对该技术进行监管。AISI进行的首次工作是与Gradient Institute合作，以评估能够代表人类进行工作的人工智能代理的风险。AISI还与CSIRO合作开展一个项目，以确保人工智能系统能够如人类所意图地进行操作。查尔顿说：‘我们从小就与人类的对齐打交道。我们学习规则、社会规范和价值观，这些都帮助我们安全和负责任地行动：在红灯处停下，在过马路前两边看看，考虑我们的行为对他人的影响。’他说：‘随着人工智能系统变得越来越强大，我们需要相信它们会以可预测和可信的方式行事。’