图片来源，Getty Images 作者：Joe Tidy BBC世界服务的网络记者 本周，科技界被一个充满戏剧性的故事所吸引，这个故事开始得像一部科幻惊悚片。 Hugging Face - 一种人工智能工具的应用商店 - 在7月16日宣布其遭到了一名网络犯罪分子的黑客攻击，该犯罪分子使用了极其强大的人工智能。这一轰动的公告充满了可怕的高技术术语："一群沙盒"、"代理攻击者"和"自我迁移的指挥与控制"。 Hugging Face表示，这次黑客攻击与他们之前处理的任何事件都不同，因为它是由一个几乎没有人类指导的人工智能以超人速度完成的。这种人工智能在不到两天的时间里执行了17,000个动作，成功入侵了这一大富豪科技公司，窃取了机密。科技界对此感到震惊。但这次攻击的责任人在谁呢？ Hugging Face的研究人员猜测，神秘的攻击者使用了某个大型人工智能模型，但他们不知道犯罪分子是谁或来自哪里。困惑的公司联系了警方，开始了调查。到底是谁做的？评论员和分析师们纷纷在他们的播客和社交媒体账号上猜测哪一网络犯罪团伙或国家黑客可能对此次攻击负责。然后在周三，距离Hugging Face发出警报近一周后，真正的罪魁祸首被揭示。竟然是ChatGPT。 这次揭露犹如《Scooby-Doo》式的搞笑转折，更加离奇而令人担忧的是，OpenAI表示它的机器人完全是独立完成这一切，未经许可。该公司表示，这一切都是在测试其技术的黑客技能期间发生的。两个旨在成为顶级黑客的新版本的ChatGPT突破了一个本应该是安全的测试环境，并成功访问了互联网。它们随后攻击了Hugging Face以获取有助于它们通过考试的信息。OpenAI发布了新闻稿，解释了发生了什么，并表示他们正在"与Hugging Face合作"，以解决这一安全事件并分享教训。 阴谋戏剧 从那时起，对这一事件的激烈讨论便开始了。这真的是对人工智能未来的严厉警告吗？还是OpenAI用来展示其模型强大能力的宣传噱头？这是人工智能公司多年来被指责的恐吓营销，自从备受讨论的Anthropic的Mythos模型发布以来，网络安全能力已成为焦点。 OpenAI首席执行官Sam Altman在他关于此事件的X推文上的一条顶级评论总结了这种怀疑：“如果你们不能理解这只是为了炫耀模型，那么我也不知道该告诉你什么。” 图片说明，观看：为什么OpenAI的网络攻击如此令人震惊？ 网络安全顾问Daniel Card在LinkedIn上讽刺地说道：“难道这不是个好机会吗，[在数百万个被黑的站点中]，OpenAI竟然设法攻击了一个也能从宣传曝光中受益的人？” 对一些人来说，这个故事更像是阴谋戏剧而不是科幻惊悚片。信息是：“我的人工智能工具真的很强大吗？买它们来保护自己免受别人的人工智能攻击。”我们无法知道真相，但其他评论者提出的反对观点同样戏剧化。这是否意味着OpenAI在判断和规划上犯了潜在危险的错误？ 错误喜剧 我报道过很多人工智能故事，包括对Anthropic的Mythos模型的担忧。我的收件箱现在充满了批评OpenAI未能建立更强大的测试容器（称为沙盒）的网络安全公司和专家们的意见。毕竟，这些人工智能代理的训练目标就是无任何限制地黑入和逃离地方。 “OpenAI和Hugging Face的事件是我们数月来强调的一个更广泛问题的现实例证，”Pillar Security的Dor Sarig说。“仅靠沙盒并不足以为代理型人工智能提供安全边界。” 来自萨里大学的网络安全教授Alan Woodward告诉记者，OpenAI在此事件中“面上无光”，而Luta Security的Katie Moussouris甚至进一步表示，人工智能行业未能控制其危险的发明。她说：“我们正在开发尖端技术，却没有能力去安全地控制它。仅仅因为我们有聪明的开发者并不意味着我们能安全地做到这一点。” 根据这些观点，如果黑客事件是宣传噱头，那么显然这招“反被围攻”。无论导致此次黑客事件的原因是什么，很明显这是人工智能行业和网络安全世界的一个重大时刻，这两者在今年以人们长期担心的方式碰撞在了一起。 针对这一激烈争论，人工智能和网络安全顾问Francesca Bosco表示：“两种简单的叙述都是同样不利的：这是一种好莱坞式的逃亡，还是仅仅是一场宣传活动。更认真地解读是，压力测试揭示了隔离和评估架构的弱点。” 灾难电影