微软推出开源规范 协助开辟者精细管控AI代理行动

ACS 的一大年夜设计思路，是将这些控制策略写成自力、可移植的单一文件，并与代理一同“打包”。 如许一来，同样的一套安然与合规策略可以随代理在不合框架和运行情况之间迁徙，而无需反复重写规矩逻辑，从而加强了跨体系的一致性和可审计性。 对于在多个营业线、多个技巧栈中并行推动 AI 安排的大年夜型企业而言，这种“策略随代理走”的模式，有望在降低治理成本的同时，晋升合规透明度。

跟着企业加快把 AI 代理嵌入各类应用、工作流和产品，一个凸起难题是：同一个代理在不合情况中运行时，若何确保其行动始终相符预期和合规请求。 今朝，开辟者往往经由过程体系提示词、在应用代码中参加自定义校验，或应用分类器拦截问题输入输出等方法“拼接式”地搭建控制机制。 这些做法在短期内可以工作，但很轻易导致控制策略分散在不合框架和接口中，既难以审计，也难以在多个体系之间复用。 在行业反思 AI 对象调用缺点、不测操作激发连锁故障等问题的背景下，这一痛点愈发凸起。

微软表示，ACS 的目标是把分散的控制手段整合到一个同一的治理层中，闪开辟、调换正文合规和安然团队可以经由过程一份策略文件来束缚代理行动。 在这些策略文件中，团队可以明白规定：代理许可履行哪些操作、禁止履行哪些操作、在什么情况下须要人类审批，以及须要记录哪些证据以备日后审查。 在代理履行义务的多个关键“拦截点”，体系会对比这些策略进行检查，以确保代理始终在“护栏”之内运行。

具体而言，ACS 许可在代理工作流的多个阶段实施检测：包含代理接收输入之前、调用对象之前、对象返回成果之后，以及向用户输出最终答复之前。 策略可以在这些节点上给出不合处理：例如直接许可某个动作、阻断履行、对敏感信息进行脱敏或隐瞒，或者将决定计划提交给指定人员审批。 除此之外，开辟者还可以集成输入和输出分类器，对信息进行分类、猜测可能成果或指导代理若何回应；也可以引入大年夜型说话模型合营特定提示词，让其充当策略“裁判”，并参加检查对象调用、对象选择、输入精确性、输出应用方法以及答复内容的逻辑。

在落地形态上，ACS 以 SDK 情势供给，并已集成到多个主流代理框架和开辟对象中。 据介绍，ACS SDK 今朝支撑 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI 以及 MCP 对象等生态。 经由过程这些插件，开辟者可以在既有的代理应用中接入 ACS，将策略文件嵌入原有工作流，无需从头重构体系架构。

在 AI 代理快速渗入渗出企业营业的当下，如安在“可用”“好用”和“可控”“可审计”之间找到均衡，已经成为技巧团队、合规部分与安然团队合营面对的实际课题。 微软此次推出的 Agent Control Specification，试图以开放标准的方法，为行业供给一套同一的治理基本举措措施，使 AI 代理在不合场景中运行时，既能保持灵活性，又可以或许被清楚地束缚和追责。