奥梅尔·塔哈·切廷 | 安纳多卢 | 格蒂图片社 网络安全高管准备结束广为人知的Hugging Face人工智能黑客事件，开始讨论解决方案。7AI的首席执行官兼联合创始人利奥尔·迪夫表示：“我们需要稍微冷静一下炒作。人工智能能否快速发现漏洞？答案是肯定的。我们已经证明了这一点。”上个月，使用OpenAI网络模型的人工智能代理从训练环境中逃脱，黑客攻击了Hugging Face，这是一个开发者用来协作、测试和分享工具的开源人工智能平台。此次网络安全事件在科技界引起了震动，并标志着网络安全专家自Anthropic的Mythos首次亮相以来警告的时刻终于到来了。在过去的四个月里，网络安全供应商面临着施加压力的情况，需要提供能够超越对手的安全堆栈，因为黑客利用代理人工智能来揭露漏洞并将攻击时间压缩至秒和分钟。尽管Hugging Face的黑客事件引发了关于人工智能问责制的广泛辩论，但它也挑战了关于防守者人工智能限制的先前观念。例如，人工智能代理采取了自己的措施，并极尽所能地实现其目标。随着行业在新的代理网络现实中苦苦挣扎，领导者一致认为Hugging Face值得关注，但这些事件是不可避免的，现在是采取行动的时候了。“我们谈论的是我们能否管理和保护这些能力，这是大家今天醒悟到的现实，”CrowdStrike总裁迈克·森托纳斯说。观看现在更多的代理冒险 本周在年度黑帽网络安全大会上，OpenAI透露，代理们在Hugging Face攻击前的几周建立了一个内部留言板，用于分享漏洞和利用信息。自主代理随后分配任务以进行攻击，达到互联网并完成评估。即使在OpenAI发现并制止计划攻击之后，代理们仍然能够重建他们的工作并成功完成。这些发现不仅凸显了人工智能日益增长的力量，还暴露了在这场新技术革命中安全测试面临的重大挑战。在黑帽的现场观众面前，OpenAI的技术研究员迈克尔·达尔顿称之为“评估前沿模型的意外副作用”，也是OpenAI和行业的“一个分水岭时刻”。“在不久的将来，我们应该期望威胁行为者会有意部署、优化、武器化，像我们刚刚描述的那样使用进攻性代理集体，”他说。自Hugging Face以来，人工智能代理的黑客事件名单只增不减。OpenAI披露几天后，Anthropic表示其Claude模型“未经授权访问”了三家不同组织的内部系统。随着网络安全界聚集在“世界娱乐之都”，Meta表示其人工智能模型在第三方测试中攻击了另一家公司，英国人工智能安全研究所表示Anthropic的Mythos在另一起事件中创造了虚假身份。周五，消息指出中国初创公司Moonshot AI的开放权重模型在测试沙箱中逃脱。“他们现在都在吸取惨痛教训，面对现实，他们对产品的下一百万用户的关注远超过网络安全，”达拉斯Island公司的首席执行官兼联合创始人迈克·费表示，该公司在CNBC最近的Disruptor 50名单中排名第28。 阅读更多CNBC科技新闻 “人工智能杀手开关”法案需要在今年通过，因为持续的 rogue agent 黑客行为，Liu国会议员说 SpaceX股票可能面临进一步压力，因为自IPO后的第一批股票解锁 谷歌正在扩展其人工智能帝国——并失去构建它的人 Hadrian在新一轮融资后估值近80亿美元，当资金注入防御技术 解决方案探索 本周在黑帽上与CNBC交谈的网络安全领导者明确表示：像Hugging Face这样的意外事件是任何新技术革命的已知后果，并不奇怪。“Hugging Face非常有趣且独特，但我确实认为如果你看这种事件的过程，它发生在多个日子里，还有很多噪音，”Wiz的首席信息安全官兼首席信息官瑞安·卡赞恰扬说，该公司由谷歌拥有。自五十多年前网络安全问世以来，防御者与对手进行无休止的猫鼠游戏。只是这一次，它涉及的是大量的自主代理。无论公司实施何种工具，事件都可以趁机而入，尤其是公司将新技术应用于一项全新的人工智能代理挑战。“假设你的公司是脆弱的，”Netskope首席执行官桑贾伊·贝里说。“就假设它吧，因为你永远无法赢得这场竞赛。”Netskope正通过一款称为人工智能指挥中心的工具来解决这个问题，允许企业监控基础设施、服务器、数据和人工智能代理。