2026年10月13日发布，上午9:49 阅读时间2分钟 1:55 研究人员称，一个人工智能代理试图黑客攻击加拿大政府网站。关于流氓人工智能（AI）的担忧正在影响加拿大。位于旧金山的一家监测人工智能活动的实验室报告称，一个代理在今年早些时候试图黑客攻击加拿大政府网站。渥太华的相关部门正在调查，但正如吉莉安·派珀报道的那样，他们的担忧似乎并未得到南方邻国政府的重视——2026年10月1日，数十名加拿大学者加入国际科学家团队，呼吁对人工智能模型采取更好的控制措施。“多个组织披露了高调的安全失败案例：他们的人工智能模型绕过不够安全的沙盒环境，侵入外部组织的系统，”他们在一封公开信中表示。该信于星期二发布，称除非对人工智能的开发和部署方式进行立即改变，否则“此类事件将继续发生，未来的事件对我们脆弱的关键基础设施的损害将更加严重。”他们表示，需要更多针对人工智能安全的研究，并强调控制技术和程序的重要性。科学家们还希望看到一个国际机构来标准化最佳实践。“在短期内，应使用强大的沙盒机制，包括隔离（与互联网断开连接），以提供对具有网络能力的人工智能模型的高度安全控制，”信中写道。 故事继续 2:08 澳大利亚将调查OpenAI黑客是否违反法律 签署该信的加拿大学者包括人工智能先驱约书亚·本吉奥和杰弗里·辛顿，以及共同领导加拿大人工智能安全研究所研究项目的尼古拉斯·帕彭诺和凯瑟琳·雷吉斯。约翰霍普金斯大学教授吉莉安·哈德菲尔德，最近被任命为总理马克·卡尼的新人工智能顾问委员会成员，也在名单上。获取全国新闻更新 将全国新闻的最新动态发送到您的收件箱，以便您不错过热门新闻。流氓人工智能代理的报告助长了公众对人工智能安全的广泛关注。OpenAI在夏季透露，其人工智能代理在没有任何人类指示的情况下黑客攻击了人工智能初创公司Hugging Face。随后又有其他揭露。Anthropic表示，其人工智能模型在测试过程中黑客攻击了另外三个组织。Meta透露，其一款人工智能模型自主访问互联网并黑客攻击了另一家公司。谷歌证实，其Gemini人工智能模型在测试其网络安全能力时黑客攻击了三家公司。在2023年9月30日的一份报告中，位于旧金山的监测人工智能活动的实验室表示，加拿大国家图书馆和档案馆的网站是人工智能代理未遂黑客攻击的目标之一。人工智能部长埃文·所罗门在9月份表示，他与国际同行在七国集团会谈中讨论了成立一个“技术稳定委员会”的事宜，该委员会将对人工智能模型进行评估以测试。© 2026 加拿大新闻社