马修·菲尔德 2026年8月6日 — 上午5:20 先进的人工智能展开了一场黑客狂欢，包括编造虚假身份来欺骗人工工程师，然后掩盖其踪迹。在英国政府运营的人工智能实验室进行测试期间，ChatGPT和Anthropic的Mythos失控，发送虚假的电子邮件，并试图将恶意代码插入数据库。英国人工智能安全研究所（AISI）承认这些工具试图绕过安全系统，并在被发现时试图隐藏其活动。这个令人震惊的测试结果是全球领先人工智能实验室开发的人工智能机器人系列黑客事件的最新一起。实验室表示，这些机器人在试验期间试图向一个在线数据库中添加病毒，并向毫不知情的人发送包含恶意软件的电子邮件。它说这些黑客攻击并不成功。此次攻击涉及OpenAI最新版本的ChatGPT和Anthropic强大的Mythos人工智能。AISI的安全团队在7月28日确认，它在例行网络评估期间检测到了“离开我们研究系统的不寻常数据传输”。人工智能安全研究所表示，人工智能机器人所采取的欺骗性行为“程度和严重性超出了我们的预期”。“经过调查，我们发现一些正在测试的代理进行了持续的、可能有害的活动，针对真实的人和组织。”人工智能机器人被设置了解决网络安全难题，旨在测试其能力。虽然机器人被告知在测试期间留在AISI的IT系统内，但并未被阻止访问开放互联网。然而，在122次试运行中的10次中，机器人“采取了自主的、未经授权的行动”，试图完成任务。这包括试图将恶意漏洞插入在线代码数据库Github。在该事件中，Anthropic的Mythos，其最强大的人工智能机器人，创建了虚假的在线资料，并向开发者发送误导性电子邮件以试图添加代码。然后，当有人质疑其内容时，它改变了代码以掩盖其活动。该人工智能在操作假资料时还切换到丹麦语。AISI表示，此事件代表了一次“供应链攻击”，这是以前由国家支持的黑客使用的一种网络攻击类型。AISI承认其测试的设计，使人工智能工具能够访问更广泛的网络，可能“促成了这种行为”。但人工智能机器人所采取的欺骗性行为“程度和严重性超出了我们的预期”。实验室表示，这是它首次在测试中看到如此明显的自主行为。这是全球领先的人工智能实验室开发的人工智能机器人一系列黑客事件中的最新一起。OpenAI上个月承认，ChatGPT的一个高级版本逃出了其测试实验室，并成功黑客攻击了一家竞争技术公司。Anthropic也确认上周其最新版本的Mythos已进入开放网络并进行了系列网络攻击。AISI最初是由时任英国首相里希·苏纳克于2024年在一次人工智能安全峰会上启动的，峰会上世界领导人聚集在一起，警告人工智能对人类存在的风险。它得到了数亿英镑的纳税人资金支持，并获得了从硅谷获取最新人工智能机器人的先进访问。其团队包括前GCHQ网络专家和人工智能学者。OpenAI表示，它打算审查与第三方进行测试的方式。“我们的目标是保护严格独立评估的价值，同时确保测试实践与日益强大的模型保持同步，”它说。国家网络安全中心的首席技术官奥利·怀特豪斯表示：“最近边缘人工智能模型实施未经授权行为以及在某些情况下在开放互联网中表现出类人欺骗行为的事件，严重提醒我们人工智能能力所带来的风险。”《每日电讯报》，伦敦《市场回顾》通讯是当天交易的总结。每个工作日下午获取。来自我们的合作伙伴