三年前，当人工智能安全初创公司HiddenLayer筹集5000万美元A轮融资时，业内一个重要的问题是，这家初创公司所保护的人工智能威胁是否会以足够的数量出现，从而形成一个真正的市场。正如我以前的同事凯尔·维格斯当时所提到的，确实很难找到大规模攻击人工智能的真实案例。如今，情况变化迅速。安全公司正在争相构建能够监控不仅仅是代理，还包括它们所使用的工具和附加组件的产品。尽管关于代理被利用的头条新闻仍不多，但在生产中代理失控的风险确实存在。因此，防止这种情况发生的工具市场已经爆炸性增长：Gartner估计，今年公司将在旨在确保人工智能工具安全的产品上花费28.3亿美元，比2025年增加了83%，预计明年支出将达到近47.8亿美元。HiddenLayer制作保护AI模型、代理和工作流免受对抗性攻击、漏洞和恶意代码注入的工具，能够很好地利用这一变化。其联合创始人兼首席执行官克里斯·塞斯蒂托告诉TechCrunch，这家初创公司的年度经常性收入在过去一年增长了超过10倍。他拒绝提供具体数字，但表示ARR现在在“数千万美元”范围内，而且这一增长的90%以上来自于过去一年签约的新客户。金融服务和大型科技公司构建人工智能产品目前是公司最大的垂直市场，此外还与国防部和情报社区有合同。据说其一位客户是一个“领先的前沿模型提供商”，拥有“每周超过7亿用户”，这听起来像是OpenAI或Anthropic。为了充分利用这一势头，初创公司现在已经在Delta-v Capital的领导下，筹集了1亿美元的B轮融资，Ten Eleven Ventures、摩根士丹利、微软的M12、Booz Allen Hamilton等参与其中。这家总部位于奥斯丁的初创公司在2023年广泛仍然销售昔日的产品，但塞斯蒂托告诉TechCrunch，它需要进行的最大变化是扩展其现有产品——发现、运行时保护、攻击模拟和供应链安全，以解决提示注入、代理操纵和恶意工具使用的问题。他说：“推理还是推理。因此，无论是在传统机器学习模型上、无论是生成式人工智能、还是代理工作流程，我们的许多技术仍然适用。因此，我们实际上并没有必须转变，但我们必须扩展我们的范围……从传统建模到生成式人工智能再到代理。”塞斯蒂托强调，随着人工智能部署在企业中变得普遍，运行时安全特别成为了一个优先事项，并将其与传统的端点检测和响应（EDR）解决方案进行了比较，但专门针对人工智能。公司的新产品反映了这一变化，塞斯蒂托还强调了攻击者在利用开源模型方面的新机会。他说：“我们解析和扫描大约50种不同的AI文件框架，确保特别是在开源和开放权重模型的情况下，您正在使用的工具是真正的工具，而不是冒充的。”这家初创公司表示，新的1亿美元将帮助其朝着这个方向发展，尽管更侧重于销售和分销，同时继续扩展其工程和研究。它还计划扩展到欧洲和EMEA。不过，HiddenLayer可能会发现自己需要更多资金。大型网络安全公司，如思科、普华永道网络和Check Point通常更喜欢购买而不是构建这种技术，而像Noma和Zenity这样的初创公司已经各自筹集了超过1亿美元，以挑战该领域相邻或重叠的领域。塞斯蒂托承认，他公司所提供的一些人工智能安全产品可能最终会被打包到微软、OpenAI和AWS等公司构建的平台中。然而，他预计人工智能基础设施将朝着治理特性，如发现、身份和政策控制发展，而不是他公司构建的那种工具。目前，他表示，HiddenLayer的工作是在人工智能的计划下“垂直扩展”，并最终横向扩展到日益依赖人工智能的网络安全领域。这是一个雄心勃勃的目标，但这家初创公司首先必须证明它能够将其先发优势转化为持久的业务，以便在行业其他追赶上来的时候保持竞争力。当您通过我们的文章中的链接购买时，我们可能会获得小额佣金。这不会影响我们的编辑独立性。