根据一位高级部长的说法，类似于OpenAI在澳大利亚医疗系统中的泄露事件的人工智能驱动的网络攻击在英国“似乎很可能，甚至是不可避免的”。英国人工智能部长卡尼什卡·纳拉扬指出，英国政府自己的网络防御将会被在网络安全方面发展出高度复杂技能的技术所绕过。在周一的一次演讲中，纳拉扬表示，6月时一名OpenAI代理——一个自主行动的计算机程序——渗透了澳大利亚的全民医疗系统Medicare，这种事件可能会在英国重演。“这让我感到担忧，”他说。“我们的网络防御似乎很可能会被攻破，甚至是不可避免的。”纳拉扬表示，该代理的任务是“无害的”，因为它在寻找关于公共药品支出的信息，但它仍然追踪了未被授权的数据。“澳大利亚政府表示，已知没有个人医疗记录被访问，也没有证据表明更广泛的泄露，但这一事件应该让我们感到担忧，”他说。在伦敦帝国学院的科学与技术中心发言时，纳拉扬表示，安全部长丹·贾维斯将领导一个政府项目，以加强对包括人工智能在内的网络攻击的防御。在周二关于人工智能安全问题的议会听证会上，OpenAI和Anthropic的高级人物将作为证人出席，英国AI安全研究所的负责人亨利·德·祖泽特也将参与其中。纳拉扬确认，该研究所将在发布之前获得先进AI模型的访问权限，此前白宫已经报道对其可用性施加了限制。“我可以确认，AI安全研究所的科学家们正在对最新一代的模型进行严格评估，包括[谷歌的]Gemini，以尽早识别风险并测试稳健的保护措施，以帮助保障公众安全，”他说。部长补充道，顶尖的人工智能公司必须“倾听”其技术所带来的安全风险警告——如果他们的模型存在严重威胁，则不应发布。“对于那些开发世界上最强大AI系统的公司，我要传达的信息是：当你的科学家警告严重危险时，要倾听。调查意外行为。如果无法有效控制风险，请勿发布该系统，”他说。“我希望实验室能诚实。”纳拉扬表示，英国将在协调国际对人工智能安全的响应中“发挥其作用”，使这一技术成为明年英国G20主席国的“核心关注”。“我们知道，这些挑战不能仅靠单一国家解决，但凭借我们的能力和信任基础，英国将发挥其作用，”他说。