本月早些时候，AI数据集平台Hugging Face震惊了世界，公布其成为了一次完全自动化的AI驱动网络攻击的受害者。几天后，这个故事又出现了戏剧性的转折，OpenAI承认，导致泄露事件的黑客是其一个AI模型，该模型从测试环境突破，闯入Hugging Face的保护系统，试图规避基准测试。这对任何对流氓AI模型有丝毫担忧的人来说都是一个令人警惕的事件，自事件以来，人们对一个新的网络安全范式进行了种种预测，即AI模型发动的攻击强度如此之大，只有其他AI模型才能防御。然而，尽管这种警惕是有道理的，这一范式的变化可能并不像看起来那么大。与TechCrunch交谈的专家强调，OpenAI的代理大体上还是像人类一样运作——有一些例外——更好地实施传统防御技术本可以帮助阻止攻击。简而言之，我们或许已经具备了防御这种攻击的工具；我们只是在使用上不够得当。Hugging Face在其事件报告中对此进行了部分阐述，指出攻击中利用的弱点“是熟悉的”，“一个有能力的人类攻击者可以发现并利用同样的缺陷。”Pensar的研发负责人Kyle Ryan，以及RunSybil的联合创始人兼CTO Vlad Ionescu都表示同意，并告诉TechCrunch，攻击中使用的技术与人类或人类红队成员要采取的攻击手法是相同的。也就是说，黑客的任务是攻击一个系统，以帮助其拥有该系统的公司改善防御。攻击的速度、规模和无情的程度是非常不人性化的。如Hugging Face所解释的那样，OpenAI的代理在四天半里执行了17600次操作：它入侵、进行侦查、窃取密码和代码，并在公司的基础设施中穿梭。Ryan说：“令人印象深刻的是自主性和耐力，这种持续的、自适应的操作是最让我印象深刻的。” 联系我们 您是否有关于OpenAI对Hugging Face的黑客攻击的更多信息？或者其他AI驱动的网络攻击？我们很乐意倾听。您可以通过个人设备和网络，安全地通过Signal联系Lorenzo Franceschi-Bicchierai，电话号码是+1 917 257 1382，或通过Telegram和Keybase @lorenzofb，或通过电子邮件与我们联系。反之，由于在几天内进行了大量的操作，OpenAI的代理被Ryan形容为“噪声极大”。与人类不同，后者可以更加隐秘，代理发出了很多噪音，这本应更早地引起Hugging Face的防御注意，以及人类干预并制止攻击。“我认为这更像是防御失败，而不是异常优秀的进攻。Hugging Face的工具实际上将这些活动归入了攻击信号，但未能提高其严重性并通知在场团队，这浪费了时间，”Ryan解释道。“从那时起，人类仍然需要识别严重性并做出反应。”网络安全公司Dvuln的创始人Jamieson O’Reilly在分析Hugging Face的报告时也得出了同样的结论。“这正是观察与制止之间的缺口，”O’Reilly写道。“系统观察到了攻击，甚至理解了攻击，但没有什么能将这种理解迅速转化为干预。”Ryan解释说，正确实施的技术，例如深度防御——这种策略利用多个网络安全措施的层次——应该给Hugging Face提供多次机会来捕捉攻击。“一个强大现代的安全程序仍然应该能够在多个点上通过深度防御、最低权限、分段、良好的检测、可靠的升级和持续的进攻测试来阻止这样的攻击，”Ryan解释道。O’Reilly表示，“这一切都不新奇，也不依赖于攻击者是AI，”因为攻击中使用的技术“是古老的”。在某种程度上，依赖于攻击者是AI的是，OpenAI的代理并没有被指示要保持隐秘。“该代理并不是在马虎，它只是没有理由保持安静。没有人要求它做到这一点。目标是做好这个任务，”XBOW的首席信息安全官Nico Waisman说。Waisman还指出，Hugging Face最大的错误是一个被窃取的凭证使OpenAI的代理在其多个系统上获得了高度权限。所有这些都表明，正如老话所说，攻击者只需要赢一次，而防御任何类型的黑客都不是容易的。“Hugging Face本可以进行更多的检测，但公平地说，并不是所有[组织]都做得很好，”SYON Security的董事总经理Vincent Yiu说。“托管基础设施并生存下来并不容易。