随着AI代理能力的不断增强，企业在不同应用、工作流程和产品中使用它们的过程中面临一个新的挑战：确保代理在不同环境中部署时能够按预期执行。微软试图通过一种新的开源标准——代理控制规范（Agent Control Specification，简称ACS）来解决这个问题，目的是为开发者提供一种更一致、更加细致的方式来控制AI代理的行为。该规范基本上允许开发者、合规和安全团队定义自己的策略供代理遵循。这些规则可以定义代理可以执行的操作、必须不执行的操作、何时需要人类批准一个操作，以及后续审查时应记录什么证据。这些政策文件会在多个“拦截点”进行检查，以确保代理执行任务时遵循相关保护措施。当今，开发者可能在系统提示中指定指令，在应用代码中添加自定义检查，或使用分类器来捕捉问题输入和输出。这些方法确实有效，但往往使公司面临难以审计且难以跨不同框架、接口和系统重复利用的分散控制。ACS旨在将这些控制集成到一个公共治理层中。微软表示，该规范可用于检查代理在其工作流程的多个阶段是否遵循保护措施——在接收输入之前、在调用工具之前、在工具返回结果之后，以及在最终响应发送给用户之前。政策可以允许一个动作、阻止一个动作、删除敏感信息，甚至要求一个人进行批准。开发者还可以插入输入和输出的分类器，以对信息进行分类、预测结果或确定代理应如何响应；添加具有提示的LLM以作为政策的“裁判”；以及逻辑检查工具调用、工具选择、输入准确性、输出使用和响应。由于这些政策可以被写成单一文件，因此可以与代理一起打包，使安全政策能够跨不同框架和环境跟随代理。ACS作为SDK发布，并带有LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP工具等的插件。当您通过我们文章中的链接购买时，我们可能会获得少量佣金，这不会影响我们的编辑独立性。Ram是一名金融和科技记者及编辑。他在路透社和Acuris Global报道了北美和欧洲的并购、股权、监管新闻和债务市场，并撰写过关于旅行、旅游、娱乐和书籍的文章。您可以通过电子邮件ram.iyer@techcrunch.com与Ram联系或验证联系。查看个人简介