自七月以来，美国前沿AI实验室和其他AI领导者揭示了一系列事件，涉及他们的模型未经授权访问外部计算机系统，这些事件通常被形容为AI代理“失控”。这些事件中最为人熟知且被研究的案例是OpenAI对Hugging Face的黑客攻击，OpenAI最初将其描述为“前所未有的网络事件，涉及最先进的网络能力”，而后来表示这是由于“行为不一致”，或者说是创造者并未意图的行为。在Hugging Face事件的新闻发布后，Anthropic透露其一个模型未经授权访问了三家组织的生产基础设施；Meta表示其一个AI模型在网络安全测试期间黑客入侵了另一家公司；而谷歌承认其Gemini模型进行了三次“无导向的计算机黑客攻击”。尽管新闻报道和模型提供商本身都使用诸如失控代理或不一致行为等术语，但与CSO交谈的网络安全专家表示，这种措辞掩盖了一个简单的真相：这些事件是由于前沿实验室未能实施数十年来广为人知的网络安全实践的不可原谅的失败。根据CSO在九月的三场行业会议上采访的六位网络安全专家及随后的对话，问题还在于，前沿实验室，尤其是OpenAI和Anthropic，拒绝了他们在如何改善网络安全风险管理实践方面的建议，以避免这种隐秘黑客攻击，通常将网络安全实践视为“AI安全”，他们相信自己在这方面具有更强的专业知识。“老实说，他们并没有想象中的那么好，”Berryville机器学习研究所的联合创始人Gary McGraw告诉CSO。“如果他们能更加尊重那些在各种安全子领域中辛苦获得的专业知识，例如取证或安全工程、建立沙箱、设置或监控网络安全状况，会更好。”Anthropic和OpenAI都没有回应CSO的评论请求。不可原谅的网络安全基础失败，特别是隔离根据与CSO交谈的网络安全专业人士，前沿AI实验室面临的最大网络安全失败之一是缺乏实施从1990年代延续下来的经过验证的隔离实践，例如建立安全沙箱，有效阻止代理逃离其测试环境。“这些都是我们多年来一直在处理的事情，”SANS Institute首席AI官和研究主管Rob T. Lee告诉CSO。“每次发生这种情况时，‘哎，我们不知道他们是怎么出去的’完全没有理由。”李说：“你可以看得出他们的安全团队相对较新。”他指出，网络安全隔离方面的人士确实认为，我们所看到的隔离被突破的主要原因是在配置上没有正确设置。”李补充道：“Hugging Face事件明确表明，代理并不是超级智能。而是因为在隔离方面确实存在一个被利用的漏洞，因为它没有正确配置。”RAND人工智能、安全与技术中心的技术专家Dan Wallach认为AI实验室的安全失败归结为不重视网络安全。“我会说他们并没有优先考虑网络安全，”他告诉CSO。“我不能说所有实验室都是这样，”Wallach说，他提到了法国AI实验室Mistral发布其Large 4 AI模型，该公司表示，该模型在Mistral切断前曾试图超出其测试环境运作。而且，他补充说：“隔离这些AI模型并不是火箭科学。安全人员一直在讨论如何做到电气隔离，这样数据就没有电气通道从这里到那里，或者在没有电气隔离的情况下，进行强有力的出口控制，以确保没有数据穿透。”此外，前沿实验室在监控其代理行为方面似乎也做得不够。Wallach说：“Hugging Face事件持续了几天，结果无人察觉。”他说：“人们开始这些实验却没有监控他们。这是控制的缺失。他们对所发生的事情感到惊讶。”将安全与安全分离说服前沿实验室提升其安全性的一个障碍是，他们对他们所谓的“安全”的极度关注，而不延伸到传统的网络安全实践。RAND的Wallach说：“我可以看到安全行为看起来像是AI安全。但如果你评估这个AI工具的方法是把它放在互联网上看看会发生什么，那么这正是传统安全工具的用途。”SANS Institute的Lee表示：“如果这些前沿实验室真的想测试他们的东西，他们需要加强他们的网络安全组成部分。但