这种新威胁可以根据每台被感染的机器量身定制攻击并学习新策略。多伦多大学我们已经看到AI可以用于发现应用程序和网站的缺陷，但研究人员现在已经展示了它如何可以被武器化以利用这些漏洞。来自多伦多大学的一个团队使用公开可访问的AI模型，开发出一种原型蠕虫，能够利用任何已知的计算机缺陷。这种蠕虫可以通过网络传播，并在互联网上造成混乱。典型的蠕虫通常由技术娴熟的程序员设计，旨在利用特定的网络缺陷，并可以通过修补这些缺陷来阻止。然而，多伦多大学的科学家在一个安全的封闭环境中，采取了广泛的预防措施，使用开放权重（开源）AI模型创建了一种更为复杂的原型蠕虫，能够在没有人类干预的情况下在团队的测试网络中传播。这种新型蠕虫可以针对多种平台（包括Linux、Windows和物联网设备）上不同类型的缺陷量身定制攻击。它在网络中移动时收集数据，窃取密码，发现更多漏洞，帮助它控制其他机器。如果在计算机上发现并修补了感染，蠕虫可以利用其他缺陷攻击同一台机器。此外，蠕虫通过从被感染机器中窃取处理能力来“自我供养”，为其未来攻击的推理和策略提供动力。“黑客通常必须优先考虑最具高价值的目标，因为时间和计算资源是有限的，”首席作者尼古拉斯·帕佩诺特说。“但现在，一旦蠕虫被释放，成本将降至几乎为零。”AI驱动的网络威胁的想法最近变得非常真实，随着Anthropic推出Mythos，这是一种可以识别先前未知的网络安全风险的模型。Anthropic表示，Mythos已经发现了超过10,000个缺陷，将其合作伙伴的漏洞发现率提高了超过10倍。帮助保护公司免受恶意攻击的Cloudflare发现了2,000个此类漏洞，其中包括400个被认为是高危或严重的。研究人员创建的原型蠕虫只能利用已知的缺陷，而不能像Mythos那样发现未知的缺陷。然而，很容易看出，恶意行为者如何能够调整它来发现和利用新漏洞——如果释放到野外，这将使其几乎无法阻挡。“在一个互联的世界中，没有任何系统能够免受这种威胁，”帕佩诺特说。“分享这些发现是激励研究人员、行业领导者和政策制定者采取行动的第一步——并且要迅速行动。