三月，贾尼斯·马龙开始接到关于其非营利组织Vivian's Door可疑活动的电话。Vivian's Door总部位于阿拉巴马州，通常为底层和少数族裔拥有的企业提供培训、资源和社区支持。这项工作有时使其与这些公司的财务数据密切接触，而这些数据存储在其系统中。但突然间，来自世界各地的报警者警告他们收到了“乞求金钱”的电子邮件——这是她没有发送的。组织的第三方IT团队在调查问题并修补漏洞的过程中将其系统离线了三天，这使马龙额外承担了约3000美元的账单。她担心自己暴露了她试图帮助的公司的信息。更令人担忧的是，她不完全确定这次攻击是由人类黑客发起的，还是受到了人工智能系统的协助，也不清楚未来是否还会有更多攻击。过去几个月，人工智能在网络安全领域发生了革命性变化。OpenAI和Anthropic披露，自己的实验室中有“流氓”系统逃脱了限制，并黑入了从一家小型德国维基到澳大利亚政府的所有东西。早在此之前，像Anthropic的Mythos这样的强大模型就创造了一场推进人工智能网络安全的军备竞赛，甚至更轻量级的模型也使得人类不法分子能够大大增强他们的黑客攻击能力。马龙不确定人工智能是否参与了对Vivian's Door的黑客攻击。然而，面对有关自主代理群体和国家安全风险的故事，她感到格外担忧。大型人工智能公司炫耀用新模型发现“每个主要操作系统和网络浏览器”的漏洞，而他们的大牌客户则与这些工具达成协议以保护自己。那么，她该何去何从呢？“谁知道下一个漏洞在哪里？你只知道你被攻击的那个，”马龙说，并补充道：“你怎么保护自己？我真的想知道。”人工智能代理在网络安全和编程方面变得非常娴熟，并且可以大规模部署。即使是对人工智能知识有限的攻击者，也能通过这些新的自动化系统进行“氛围黑客攻击”，而那些过去只关注最有价值目标的黑客可以采取散弹式的攻击方式。在2025年8月，Anthropic表示，一个复杂的网络犯罪团伙使用Claude Code在一个月内从医疗机构、紧急服务、宗教机构甚至政府实体那里勒索数据。“本来可能需要一个复杂的团队来完成的任务，”Anthropic的威胁情报团队负责人雅各布·克莱因在接受《边缘》采访时表示，“现在，一个个人在代理系统的协助下也能完成。”理论上，AI也应该能保护网络防御；据说Anthropic的Mythos正在标记如此多的漏洞，以至于微软难以快速修复。但出于对潜在危险的担忧，顶级人工智能实验室只允许一小部分高知名度组织访问他们最强大的网络安全模型，如Mythos和OpenAI的Astra。这些组织包括Nvidia、谷歌和苹果等公司，以及其他“关键基础设施提供商”和“关键开源软件的维护者”。即使访问更广泛，许多小型组织也可能仍然无力负担这些费用。现在，这些组织——从医疗诊所、地方政府到小型零售商和像Vivian's Door这样的非营利机构——担心越来越不对等的权力动态。正如阿波罗研究公司的首席执行官兼联合创始人马里乌斯·霍布汉在夏季接受《边缘》采访时所说：“某些地方的单个人在某个地下室中，利用开源模型，可能就能攻击一家医院并索要赎金。我预计将会在这里感受到许多伤害。这不是在湾区……我预期伤害将会在一个随机的爱达荷州医院被感受到。”小型和中型机构特别容易受到AI代理增强有限的人工黑客的影响，未来生活研究所的美国政策负责人迈克尔·克莱因曼说，这是一家致力于减少技术大规模风险的非营利组织。尽管这些机构规模较小，但它们为用户提供的服务至关重要。“美国银行有大量资源可以投入这一领域——那么社区银行呢？储蓄和贷款机构呢？信用合作社呢？地方医院网络呢？地方电网呢？”克莱因曼说。“限制因素曾经是世界上恶意黑客的数量是有限的，而现在这种情况不再是这样。” “限制因素曾经是世界上恶意黑客的数量是有限的，而现在这种情况不再是这样。”Vivian’s Door的马龙表示，像大多数小企业或非营利组织一样，她并没有资源来配备24小时的网络安全力量或IT员工来搜寻漏洞。