多伦多大学的一个研究团队发现了一种新的网络威胁类别，这使黑客能够以更低的成本获得更大的权力和范围。它可以使用免费的 AI 模型构建。每个在线设备都是潜在的目标。目前的网络防御尚未为此做好准备。这些研究人员于6月2日发布了他们的研究，认为他们可能是首个展示可公开访问的 AI 模型可以用于驱动一个随着从一个设备传播到另一个设备而调整策略的蠕虫的团队。它可以控制整个网络，并劫持计算能力，使黑客几乎没有成本地发动复杂的攻击。在一个与外界隔离的安全数字实验室进行的研究表明，高技能的黑客不需要尖端的 AI 或充裕的资金来释放能够实时学习、计算和调整的恶意软件——利用每个设备已知的 vulnerabilities 随着它在系统中传播。研究结果对我们相互连接的世界的安全性提出了深刻的担忧——从金融系统到医院再到支撑关键服务的网络。“在坏人自己发现这个威胁之前，我们有必要在受控的学术环境中理解它，”研究作者、加拿大 CIFAR（加拿大高级研究所）AI 主席的 Nicolas Papernot 说，他的 CleverHans Lab 位于多伦多大学和 Vector Institute。 Papernot 还是多伦多大学应用科学与工程学院计算机工程的副教授以及文理学院计算机科学的副教授，他补充说，研究在经过仔细审查以消除可能帮助威胁行为者的任何信息后才得以共享，并指出这种努力是在闭门进行的。他表示，他感到有必要尽早公开，以便让研究人员、政策制定者和公众有机会保护自己，免受从日常笔记本电脑到 HVAC 系统和能源网的潜在威胁。在发布之前，研究人员还将他们的发现与国家科学、安全和国防机构分享，并寻求如何负责任地发布信息的建议。“我们进行这项研究的原因是确保我们都依赖的数字生态系统的安全——保护人们的安全。这一发现将我们带入了一个新的网络安全时代，”Papernot 说，他是多伦多大学 Schwartz Reisman 科技与社会研究所的教师成员，该所致力于确保 AI 负责任、包容和惠及每一个人。“通过理解风险，我们现在有能力开发必要的对策，以检测和防御这样的威胁。” 低估的威胁 世界领先的网络安全专家之一，Papernot 将其实验室的任务定位为预见最重要的安全问题——即使是网络安全社区尚未关注的问题。最强大的 AI 模型的出现，比如 Anthropic 的 Claude Mythos，引发了广泛的警报，因为它们前所未有的能力揭示隐藏的安全缺陷，即便大科技公司保持严格的控制以防止误用。然而，Papernot 的团队对任何人都可以免费下载和修改的小型、相对简单的模型的潜在误用感兴趣。虽然对研究人员和开发者有价值，但这些“开放权重”的 AI 模型可以被剥离安全防护，并且在足够的技术知识下，被操控以造成伤害。这个风险常常被低估，因为人们认为这些模型没有能力造成真正的损害。因此，Papernot 的团队决定在安全的学术环境中测试这一假设。 构建原型 蠕虫是一种数字入侵者，通过网络爬行，将自身复制到其接触的每个设备上——无需点击，并且用户毫不知情。如果扎根，它可以在整个系统中引发混乱。传统上，这种类型的攻击遵循人类编程的固定脚本。如果它遇到未被编程破解的防御，就会失败。网络安全专家知道这一点，并建立保护措施以限制此类威胁。对于他们的 AI 驱动版本，Papernot 的团队在一个安全、封闭的系统中构建了一个概念验证原型，采取了广泛的预防措施。他们的实验模拟了一个拥有数十个互联设备（包括笔记本电脑、打印机和摄像头）的 AI 驱动蠕虫的能力。研究人员的工作显示，开放权重 AI 模型可以用来设计一种更复杂的威胁——一种可以侦查每个目标、定制攻击并在克隆自己到下一个设备之前接管一个机器的蠕虫。这个蠕虫还会在进入网络更深处的过程中收集信息，每次突破都暴露出密码和可以解锁其他机器的弱点。由于它可以适应，没有单一的防御能够完全应对。