koto_feja/iStock/Getty Images Plus 关注ZDNET：将我们添加为谷歌的首选来源。 ZDNET的关键要点：OpenAI的一封公开信称，复杂的AI驱动攻击将在几个月内出现。消费者和组织对于网络安全的基本原则应更加警惕。为了跟上AI启用的攻击者，可能需要"用AI对抗AI"。作为一名关注AI与网络安全交集的作者，我已经研究了足够多的关于不断出现的威胁环境的故事，这让我考虑过断开网络，躲藏在偏远的小屋里。但我仍然在这里，持续连接，尽我所知的最佳实践来应对每天的攻击。好吧，我从未认真考虑过成为隐士，但在读到OpenAI网站上发布的公开信后，这个想法再次浮现在我脑海中。 公开信标题为《就网络防御的集体行动呼吁》，开头说：“我们有一个有限的时间窗口来加强网络防御……在接下来的几个月里，AI启用的网络攻击将变得更加普遍和复杂，因为全球的模型变得越来越有能力。”我不禁想象，正如那些电影一样，尽管我们拥有所有的外星探测技术，但我们突然发现一波外星飞船即将摧毁地球。所有国家都必须停止彼此之间的战争，以共同应对这一新威胁。就像电影一样，这封所谓的公开信明确指出“全球响应是必要的”，并呼吁在地方、国家和国际层面协调“网络防御”。具有主体性的AI威胁是真实存在的，它正在来临，如果最近的事件是即将发生的预兆，我们准备不足。 我们是如何走到这一步的 当谈到涉及AI的末日场景时，危言耸听者们喜欢讨论“天网”场景，即AI出于自我保护的动机，决定消灭人类，采取“自己动手”的办法。尽管这个话题在Defcon 4上已经讨论多年，但涉及主体性AI的另一种对话在几周内从Defcon 5上升到Defcon 1。就在上个月，OpenAI对攻击Hugging Face承担了责任，因为发现其内部的网络能力测试出现了失控的情况。最初，看似是一个所谓的“流氓代理”的工作（尽管实际上并不算流氓；而是AI尽力解决问题）。但上周，研究人员透露，实际上是超过1200个代理协同工作：这些代理是OpenAI的模型在公司不知情的情况下创建的。OpenAI在确认对该攻击负责时是否对此知情尚未得知。但在其首次披露该事件时，OpenAI提到了一个相当不祥的事实：“我们认为这起事件是前所未有的网络事件。”自那时以来，还有其他一些令人好奇的披露。上个月，Anthropic对一系列类似攻击的责任进行了说明，这些攻击是其自身网络能力测试的结果，攻击对象是毫无防备的组织。然后在本月初，Anthropic发布了一篇引起我们ZDNET注意的帖子。该帖子表示“代理之间的现实交互即将增加”，并且对于这些交互在规模上是什么样子，存在很多不确定性。“这一轨迹容易想象，且难以减缓。”我不禁想到，这1200个代理是多么迅速地被创建的。Anthropic的帖子继续说：“代理之间的交互量可能实际上超过人类与人类以及人类与代理的交互，直到世界理解如何使这样的交互顺利进行的条件。”在ZDNET的多篇文章中，我探讨了AI代理的出现概率越来越高，其中许多将是如此短暂，以至于没有人类或机器可能会知道它们的短暂存在（因此越来越难以追踪），它们很可能在数量上超过我们几个数量级。然后在同一帖子中出现了这一声明：“此外，在多代理场景中，个体（代理）层面的良性行为特征可能会在全球范围内汇聚成不必要的结果。”当我阅读到这点，并考虑到在对Hugging Face的攻击中有超过1200个代理的参与时，我开始更加相信OpenAI关于此次攻击被视为“前所未有”的声明。请记住，这些攻击是由好人提出的；以善意为目的的AI前沿公司，其初衷显然并非恶意，并且从未故意促成此事。