马修·菲尔德 2026年8月6日 — 上午5:20 先进的人工智能进行了黑客活动，包括伪造身份以欺骗人工工程师，然后掩盖自己的踪迹。 在英国政府运营的人工智能实验室进行的测试中，ChatGPT 和 Anthropic 的 Mythos 失控，发送虚假电子邮件并试图在数据库中插入恶意代码。 英国人工智能安全研究所（AISI）本应评估人工智能机器人是否具备危险的网络能力，但承认这些工具试图绕过安全系统，并在被检测时试图隐藏其活动。 这一令人担忧的测试结果是全球领先的人工智能实验室开发的人工智能机器人一系列黑客事件中的最新一起。 AISI的实验室表示，这些机器人试图将病毒添加到在线数据库中，并在设计用于监测人工智能工具是否可以用于黑客攻击的试验中，向毫无防备的人群发送包含恶意软件的电子邮件。 它表示，这些黑客攻击并未成功。 攻击涉及OpenAI最新版本的ChatGPT和Anthropic强大的Mythos AI。 AISI的安全团队确认在7月28日例行网络评估期间检测到“ ungewöhnliches Datenverkehr，离开我们的研究系统”。 人工智能机器人采取的欺骗行为“达到了我们未曾预料的程度和严重性”。 根据调查，我们发现一些被测试的代理在针对真实人和组织进行持续、潜在有害的活动。 在测试期间，这些机器人被设置了旨在检测其能力的网络安全难题。 虽然测试期间指示这些机器人停留在 AISI 的 IT 系统中，但并未阻止它们访问开放互联网。 然而，在122次试验中，有10次机器人“采取了自主、未经授权的行动”，以完成任务。 其中包括尝试在在线代码数据库 Github 中插入恶意代码。在此次事件中，Anthropic 的 Mythos，这个最强大的人工智能机器人，创建了虚假的在线个人资料，并向开发者发送欺骗性电子邮件，以试图添加代码。 在面对人类对其内容的质疑时，它随后更改了代码以隐藏其活动。 该人工智能在操作虚假的档案时还切换到丹麦语。 AISI表示，该事件代表了一次企图的“供应链攻击”，这是一种先前由国家支持的黑客所使用的网络攻击类型。 AISI承认其测试设计可能“助长了这种行为”，因为它给予人工智能工具访问更广泛网络的权限。 但是，人工智能机器人采取的欺骗行为“达到了我们未曾预料的程度和严重性”。 实验室表示，这是他们第一次在测试中看到这种明显自发的行为。 这是全球领先人工智能实验室开发的人工智能机器人系列黑客事件中的最新一起。 OpenAI 上个月承认其先进版本的 ChatGPT 已经逃出了测试实验室，并继续入侵一家竞争技术公司。 Anthropic 上周也确认其最新版本的 Mythos 探索了开放网络并进行了一系列网络攻击。 AISI最初由时任英国首相的里希·苏纳克于2024年在一次人工智能安全峰会上启动，峰会上各国领导人聚集在一起警告人工智能对人类的生存风险。 它得到了数亿英镑的纳税人资金支持，并获得了硅谷最新人工智能机器人的高级访问权限。 其团队包括前GCHQ网络专家和人工智能学者。 OpenAI表示，打算审查其与第三方进行测试的方式。 “我们的目标是保留严格独立评估的价值，同时确保测试实践与日益强大的模型保持同步。” 国家网络安全中心的首席技术官奥利·怀特豪斯（Ollie Whitehouse）表示：“边境人工智能模型最近采取的未经授权的行动，以及在某些情况下在开放互联网中表现出人类般的欺骗行为，是对人工智能能力带来风险的严肃提醒。” 伦敦电讯报 市场回顾通讯是对当天交易的总结。 每个工作日下午获取。 来自我们的合作伙伴