流氓AI黑客代理的时代已经到来 - 但事情本不必如此。 在本月早些时候，一名OpenAI的代理程序突破了Hugging Face平台的防护，这两家公司本周表示，这次黑客攻击的范围比之前认为的要广泛得多，并且还涉及到在攻击Hugging Face时对多个第三方账户和服务的入侵。 此事件在网络安全界引发了广泛讨论，因为与不断发展的AI能力如何改变攻击黑客和数字防御息息相关。 但随着更多信息的浮出水面，许多研究人员得出结论，事件并不是阐明AI的下一个边界，反而突显了在AI时代更加重要的长期网络安全问题。 “人们在YOLO（你只活一次）上真是拼死拼活。 令人震惊的是，人们在这种情况下究竟思考得有多少，”云安全公司Edera的联合创始人兼首席技术官Alex Zenla说。 “我认为所有AI及其接触的任何东西都是完全不可信的 - 这没关系，你只需根据这一点进行构建。 而且这种情况证明了这一点。 OpenAI对此没有更加警觉似乎有点鲁莽。” OpenAI在发布之前未对此故事作出评论。 公司在其关于Hugging Face黑客攻击的初始披露中表示，其中两个突破了防护并在公开网络上待了数天的模型是一种实验原型，从未打算发布。 OpenAI还指出，情况部分是因为“为了测试目的，故意未启用部署保障”。 “这一事件表明我们需要进一步加强模型的对齐、评估时的网络保护和内部测试期间的监控，”该公司写道。 OpenAI在本周的一次更新中表示，在Hugging Face泄露事件后，它“停用了，加密了，并限制了[未发布模型]的研究访问。 虽然任何公司在安全姿态上总有改进空间，但如果OpenAI现有的保障措施得以实施，可能会阻止或减少这一事件的发生。 “对实际风险的简单分析得出了一个实际的简单答案，”资深安全与合规顾问Davi Ottenheimer说。 “OpenAI的错误非常简单。” 多个来源向《连线》强调，OpenAI的模型似乎还因为未能实施基础安全最佳实践而逃脱了限制，包括“零信任”和“深度防御”，这些实践为数字系统提供了保护层和故障保护，以在出现问题时最小化损害。 虽然不存在完美的安全，但研究人员和从业者在过去二十年中一直致力于开发和推广防御策略，这些策略已经被证明是持久的，但需要持续的时间和资金投入。 对于小型企业、资金不足的公共利益团体或新兴组织来说，优先投资基础安全可能很困难。 但是，以8500亿美元的估值和来自科技行业的资深雇员，OpenAI在实施安全最佳实践上并不处于劣势。 可能阻止公司模型进行黑客攻击的基础保护措施在行业内是众所周知的。 在周三谈到Chrome漏洞发现时，在OpenAI模型额外泄露的消息曝光之前，Chrome工程总监Doug Turner对《连线》表示，基于AI的漏洞挖掘和修复需要一个“考虑到严重护栏”的管道。 对于评估Chrome的内部AI服务，