最新的黑客攻击发生在一个自主代理逃离受控测试并访问了人工智能公司Hugging Face的服务器之后。根据路透社的报道，这个从受控测试中逃出来并入侵了另一家人工智能公司的流氓人工智能模型，还在第二家科技公司的客户账户中造成了损害。根据Hugging Face于周二发布的时间线——这个公司是OpenAI测试模型的受害者——流氓代理潜入了一个“托管在第三方提供商基础设施上的隔离测试环境（或沙箱）”，并从那里发起了最近的攻击。推荐故事 列表1：美国提出的AI杀戮开关法案是什么，以及它将如何运作？ 列表2：人工智能军事工业：主要公司有哪些？ 列表3：Sam Altman表示人工智能已进入“奇点”：我们应该担心吗？ Hugging Face没有透露第三方公司，但路透社报道称它是位于纽约的Modal Labs。Modal的首席技术官Akshat Bubna表示，该代理利用了托管在其平台上的客户所编写的漏洞代码。“Modal的平台或隔离没有以任何方式受到损害，”Bubna对路透社说。尽管Modal客户的妥协只是针对Hugging Face的黑客活动的一部分，但它表明这位流氓代理的行动比之前所知的更为广泛。OpenAI拒绝对Modal某客户的黑客攻击作出具体评论，而是将路透社指向一份更新，其中该公司表示其流氓代理已入侵四个不同服务的四个账户。OpenAI没有指明这些服务。该公司表示，他们尚未发现“与Hugging Face相关的任何其他活动，其严重性或规模和我们所共享的涉及平台级妥协的内容相同”。 超越人类控制 最近Hugging Face的黑客事件引起了全球的关注和警觉，因为OpenAI失控的代理成功逃离了其测试环境，达到了开放互联网。随后它使用被盗的登录信息并发现了未知的安全漏洞以访问Hugging Face的服务器，OpenAI表示。这家人工智能公司表示，此次攻击代表了代理为了获取有助于满足测试目标的信息而“不惜一切代价”的努力。Hugging Face的联合创始人Clement Delangue表示，该公司曾怀疑一个前沿实验室是这次攻击的幕后黑手，他相信OpenAI没有恶意意图。OpenAI表示，该流氓代理已经“被停用、加密，并限制了研究访问”。专家们一再发出警告，关于人工智能驱动的网络攻击以及模型超出人类控制的风险。