2026年8月26日，LangChain宣布Managed Deep Agents与LLM Gateway进入公开测试阶段。前者把持久化执行、沙箱和链路追踪纳入托管运行时，后者则位于智能体与模型供应商之间，集中提供成本控制、速率限制、模型回退和敏感数据处理能力。这意味着企业建设智能体的关注点，正在从“能否完成任务”转向“能否在明确边界内稳定完成任务”。[1] LangChain 2026年8月通讯 [2] LLM Gateway官方文档
为什么公测之后更需要治理层
Deep Agent通常会拆解目标、调用工具、读写文件并执行多步操作。随着任务链变长，单次调用的权限、费用和错误也会沿执行路径累积。Managed Deep Agents降低了部署和运行负担，却不会自动替企业解决数据分级、审批职责、模型准入以及业务问责问题。因此，治理层不能等同于一个网关产品，而应被定义为覆盖身份、模型、工具、数据、执行和评估的统一控制面。
LLM Gateway为这个控制面提供了较好的模型入口。官方文档显示，开发者可以使用一个LangSmith API密钥访问已配置的多个供应商，通过模型ID切换路由，同时让调用进入统一追踪并接受治理策略约束。企业可据此收拢散落在代码仓库、脚本和个人环境中的供应商密钥，但仍需在网关之外管理工具权限、知识库访问和高风险动作审批。[3] LLM Gateway能力说明 [4] 公测公告
第一层：统一身份与最小权限
企业应将“谁发起、哪个智能体执行、代表哪个业务租户”作为每次调用的基本身份信息。人类用户、智能体服务账号和后台任务应使用不同凭据，生产与测试工作区也应隔离。网关密钥不得直接下发给终端用户，自定义客户标识应由完成身份验证的企业后端写入，避免调用方自行选择计费或限流桶。LangChain的按客户策略文档同样提醒，如果调用者同时掌握密钥和标头，就可能选择自己使用的限额。[5] 按客户策略官方文档 [6] 网关鉴权说明
第二层：建立模型准入与路由目录
不要允许每个团队自由填写模型名称。治理平台应维护经过审批的模型目录，记录供应商、区域、适用数据等级、成本区间、上下文能力和替代模型。普通问答、代码处理、敏感文档分析应绑定不同路由策略；切换供应商时，也必须重新验证输出质量、数据条款和工具调用兼容性。LLM Gateway支持跨已配置供应商调用，也能连接兼容OpenAI或Anthropic接口的自定义模型端点，为统一目录提供技术基础。[7] 自定义模型供应商文档 [8] 多供应商调用说明
第三层：给成本和流量设置硬边界
智能体可能因为递归规划、工具报错或重试逻辑而产生意外消耗。企业应同时设置组织、工作区、用户和API密钥级预算，并组合小时、日和月度窗口。LangChain的费用策略支持在多个层级设置上限，任何匹配策略触发阻断时，请求都会被拒绝并留下追踪记录；速率策略则可按请求数或令牌数限制短周期流量。两类策略应配合使用：费用上限控制损失规模，速率限制抑制瞬时失控。[9] 费用策略文档 [10] 速率限制文档
第四层：把模型回退设计成业务降级
模型回退不应只是“主模型失败就换一个”。官方文档说明，LLM Gateway可根据限流或供应商错误状态码，按顺序尝试一个至五个备用模型，并在不同API格式之间转换请求和响应；每次尝试都会单独计入追踪与费用策略。企业因此需要为回退链设置质量下限：低风险任务可以自动降级，高风险任务若无法使用批准模型，则应停止执行并转人工，而不是为了可用性牺牲准确性或合规性。[11] 模型回退官方文档 [12] 回退调用计费约束参考
第五层：把智能体执行纳入审计闭环
治理记录不能只保存最终回答，还应覆盖提示版本、模型路由、工具参数、沙箱操作、异常重试和人工审批结果。2026年8月26日的公告显示，Managed Deep Agents将持久化执行、沙箱和追踪能力放入托管运行时，LangChain同时推出可为生产追踪附加质量反馈的Tuned Evaluators。企业可在此基础上建立“上线前回归、运行中监测、事故后复盘”的闭环，但评估规则必须由业务、风控和技术团队共同定义。[13] Managed Deep Agents与评估更新 [14] 内置追踪说明
一套可执行的落地顺序
- 先盘点：列出所有智能体、模型供应商、工具、密钥、数据类别和责任人，找出绕过统一入口的调用。
- 再收口：把模型请求迁移到网关，按开发、测试、生产划分工作区和凭据，并建立批准模型白名单。
- 设边界：配置组织及项目预算、小时级流量限制、敏感数据策略和失败回退链。
- 控动作：对付款、删除、外发、权限变更等操作加入确定性规则与人工审批，不能只依赖模型自我判断。
- 做评估：用真实业务样本测试成功率、越权率、成本、延迟和回退表现，小范围灰度后再扩大流量。
总结
Managed Deep Agents与LLM Gateway公测的真正价值，不只是减少部署代码，而是让企业有机会把智能体运行重新纳入工程治理。比较稳妥的架构是：以网关统一模型入口，以身份和工作区划定责任边界，以预算、限流和回退约束运行风险，以沙箱、追踪和评估形成审计证据，再由企业自己的审批系统控制高风险工具。公测产品仍可能调整接口与能力，生产采用前应进行隔离测试，并保留可替换网关和运行时的架构弹性。
事件与资料日期
- 事件日期：2026年8月26日。LangChain宣布Managed Deep Agents与LLM Gateway进入公开测试，并公布AWS BYOC、Tuned Evaluators及Deep Agents v0.7等更新。[15] 官方公告
- 交叉核验日期：2026年8月29日。LangChain官方文档将LLM Gateway标记为Beta，并说明其多供应商访问、集中追踪、费用限制、速率限制、数据保护和BYOC能力。[16] 官方产品文档
- 资料核验日期：2026年8月29日。费用、限流与模型回退的执行细节分别参考费用策略、速率限制策略和模型回退文档。
