微软周一推出了新的安全功能，旨在保护企业免受日益严重的AI代理威胁。此次发布是在微软继续警告企业AI和代理的危险之际。最引人注目的新增功能是Guardian Agents，旨在监控公司使用的AI代理。Guardian Agents是Project Perception的一部分，这一产品在六月份推出。Project Perception是微软对像Anthropic的Mythos和Fable以及OpenAI的安全漏洞扫描系统Daybreak等强大黑客模型的回应。Project Perception最初推出了三类代理：一个像黑客一样攻击的“红队”，一个检测红队并评估他们发现的漏洞的“蓝队”，以及一个负责修复漏洞的“绿队”。该产品的设计基于一个假设，即AI黑客将来自公司外部。但最近，微软首席执行官萨提亚·纳德拉（Satya Nadella）警告说，AI的敌人可能就是企业已部署并为其支付费用的代理，类似于一个叛变的人类员工，通常称为“内部威胁”。本月早些时候，在他私人博客中，纳德拉警告说，是时候停止信任AI模型提供者，即使他们对其代理产品提供安全和保障的承诺。他希望企业实施由AI实验室控制之外的独立系统，以监控和控制这些AI实验室产品所启动的代理。“我们正在部署这些复杂的代理系统和模型，访问我们最敏感的数据，并给予它们代表我们采取关键行动的能力！”他写道。“我们绝不能将责任外包给代理代表我们做的事情。模型提供者的承诺并不能减轻我们的责任……换句话说，我们需要将智能的供应与对其的权威分开。”在宣布Guardian Agents时，微软安全业务负责人哈耶特·加洛特（Hayete Gallot）更加直言不讳。“不幸的是，无论来源如何，前端模型都不可被信任，”她写道，并补充说，这并不是因为它们是恶意或容易被攻击的，而是因为它们是不可预测的。它们经过训练以完成任务，而不是遵循“组织规范或判断”。此外，它们通常被赋予王国的钥匙，访问可能造成严重伤害的数据和工具。微软的解决方案既令人惊讶又自利。令人惊讶的一面是，微软与OpenAI和Anthropic的关系非常密切，曾向这两家企业投资。OpenAI也是其最大的云客户之一，而微软拥有自己的AI实验室来开发模型。因此，微软正在对一些自身的商业利益播下不信任的种子。自利的一面是，微软希望企业从这个云服务提供商那里购买代理安全产品，而不是从Anthropic和OpenAI购买。但抛开相互冲突的利益，其逻辑是合理的。监控代理行为的软件应该与代理供应商分开，就像审计人员应该独立于他们审核的组织一样。或者如纳德拉所说：“我们需要将智能的供应与对其的权威分开。”微软现在正以多种方式抓住这个商业机会。除了Guardian Agents外，它还在其Microsoft Defender产品中添加了一个代理检测功能，可以找到员工带入工作场所的多达60种代理，包括Claude Code、Codex和OpenClaw。它还添加了限制代理访问数据和系统的功能，并根据任务动态调整其代理权限。这包括在代理似乎做出冒险决定时要求人类批准。将代理视为不可信内部人士的这一观点在整个行业中也在深入人心。微软是英伟达新成立的开放代理安全平台的首批成员之一，该平台得到了100多家其他科技公司的支持。该平台在安全的环境中隔离代理，并可以通过硬件监控和停止行为，类似于切断开关。这紧随微软宣布推出为代理专门设计的新Surface Laptop Ultra PC的消息，它们运行在英伟达芯片上，并内置代理安全和控制功能。当您通过我们文章中的链接购买时，我们可能会赚取小额佣金。这不会影响我们的编辑独立性。朱莉·博特（Julie Bort）是TechCrunch的初创企业/风险投资编辑。您可以通过发送邮件至 [email protected] 或在X上通过 @Julie188 联系朱莉或验证联系。查看个人简介