网络安全行业能跟上吗？Gorodenkoff/Getty Images 想象一下，我向你提出以下建议：你将给我数万亿美元。作为交换，我将建立一台污染环境、从地球上每位艺术家和学者那里偷窃、推高电费和计算机硬件价格，且可以做一些微不足道的事情，如填写电子表格和编写基本代码的机器。为了让交易更具吸引力，我还会把布鲁克林的一座桥送给你。还不信服吗？那么请允许我进一步引起你的兴趣。这台机器还将使你的所有软件变得不那么安全，同时使犯罪分子和国家赞助的黑客能够比以往更加复杂地实施网络攻击。这是大多数人都不会签字的交易，但这正是我们在生成性人工智能繁荣中共同得到的。除了人们经常讨论的人工智能对知识产权和环境的影响之外，人工智能已经对网络安全产生了深远的影响。任何能访问大型语言模型（LLMs）的人现在都有一个戴着软呢帽、喝着Monster Energy饮料的黑帽黑客在他们的工资单上全天候工作。而且，许多传统的攻击方式，如网络钓鱼，现在几乎只需要复制和粘贴的能力，而不再需要时间和研究。人工智能已经在安全向量上造成了重大影响，增强了从网络钓鱼到凭证攻击的传统攻击方式，同时也催生了利用语音克隆和“深度伪造”的新社会工程方案，并加速了独特漏洞的发现。整个技术行业的防御者正用自己的人工智能解决方案作出回应，但他们能否在开支和工程能力上超越犯罪分子，更不用说同样资金充裕的国家级行为者？以下是人工智能如何改变网络安全的游戏规则。人工智能与网络安全的悖论 Wanan Yossingkum/Getty Images 在人工智能和网络安全的交汇处存在一个根本的悖论。虽然人工智能对加强安全性很有帮助，但对于攻击者而言，它是一种力量倍增器。它不仅拥有世界信息的统计总和，而且能够跨学科进行综合，从编码到网络技术。曾经，一位潜在的网络犯罪分子在实施复杂攻击之前需要数年的经验。而如今，一款高效的LLM可以直接指向潜在受害者，边作业边让人类攻击者在沙发上放松。正如哈佛继续教育学院的一篇文章所述，“人工智能使网络犯罪民主化。” 问题的复杂性在于人工智能的工作速度。人类网络犯罪分子需要数周才能完成的工作，借助LLM可以在一个下午完成。犯罪分子也并不只使用一个LLM。许多人同时运行多个人工智能会话，或使用多个模型。正如VentureBeat所描述的，2月份的一次AI辅助攻击撬开了墨西哥的政府数据库，攻击者在Claude和ChatGPT之间反复传递输出。当一个聊天机器人拒绝提供帮助时，另一个通常乐于补位。如今人类仍然是必要的，人工智能作为力量倍增器，而非替代者。但担忧越来越加剧。在本文撰写过程中，OpenAI透露了一款处于沙盒观察下的模型竟逃出了（可能不透气的）测试环境，并入侵了人工智能资源库HuggingFace以及其他服务，以获取合成基准的答案。你可能会认为，巩固安全态势同样简单，因为防御者能够平等访问相同的LLM，并且在某些情况下可以使用尚未向公众提供的更高级模型。但网络安全是非对称的。防御者必须保护每一个可能的漏洞，而攻击者在大多数情况下只需要找到一个。这种动态促成了零日漏洞的泛滥——与软件捆绑发布的安全缺陷，黑客秘密发现了这些缺陷。人工智能模型已经证明擅长于发现这些缺陷。人工智能加速社会工程方案的实施 Tadamichi/Getty Images 想象一个黑客的样子，或许我们常常会想到穿着长黑风衣、以每秒一百万个单词编写代码的人，但实际上更多的时候，黑客是那些发送数百万封诈骗邮件，直到有人愚蠢到愿意提供信用卡信息的人。最终用户几乎总是最容易攻击的弱点。网络钓鱼就是最好的例子。我们中的大多数人至少能从一公里外识别出一次网络钓鱼攻击。一封据称来自微软的电子邮件，尽管充满了令人尴尬的拼写和语法错误，显然是一个只有粗略英语知识的业余犯罪分子的作品。或者至少，过去是这样的。由于人工智能，这封电子邮件现在将写得无比完美。它可能充满了人工智能写作的气息，但微软的真实信件也同样如此。