当 AI Agent 从单轮问答走向跨系统任务执行，基础模型的选型标准也随之改变。模型不仅要“会调用工具”，还要在多轮交互中识别前后依赖、保存中间状态、正确回填结果，并确保调用顺序不因上下文压缩、失败重试或并发执行而被打乱。
一、为什么工具调用能力不能只看成功率
常见评测往往只检查模型能否选中正确工具、生成合法参数，却忽略了真实任务通常是一条连续工具链。例如处理采购申请时，Agent 可能需要先查询供应商，再核验预算，然后创建审批单，最后发送通知。后续步骤依赖前一步产生的供应商编号、预算状态和审批单号，任何一次错序都会使整条链路失效。
因此，模型选型至少要区分三种能力：第一是工具识别，即能否根据意图匹配正确接口；第二是依赖推理，即能否判断哪些调用必须等待上游结果；第三是状态延续，即在多轮请求之间保留任务目标、调用记录和未完成事项。基础模型只有同时具备这三项能力，才适合承担复杂 Agent 的规划职责。
二、把工具链表示为依赖图
比起让模型靠自然语言“记住流程”，更稳妥的方法是将任务表示为有向依赖图。每个节点对应一次模型推理、工具调用、人工审批或结果校验；每条边表示执行前置条件。运行时只允许依赖已经满足的节点进入可执行队列，从机制上避免模型越过关键步骤。
建议为每个工具调用记录以下字段：
- 调用标识：为每次请求生成唯一 ID，用于匹配工具结果。
- 依赖节点：明确当前调用需要哪些上游输出。
- 输入来源：标记参数来自用户输入、模型生成还是前序工具结果。
- 执行状态：区分待执行、运行中、成功、失败、取消和等待人工确认。
- 副作用等级：标识查询类、可回滚写入类和不可逆操作。
- 重试策略：记录超时次数、幂等键及允许恢复的位置。
这种结构使调用顺序不再完全依赖模型临场发挥。模型负责提出计划和补充参数，编排层负责验证依赖、调度节点和约束执行，两者边界越清楚，系统越容易测试与审计。
三、串行与并行必须由依赖关系决定
没有数据依赖且不会争用同一资源的调用可以并行，例如同时查询多个只读数据源。需要使用上一步输出的调用必须串行，例如先创建工单，再用返回的工单号上传附件。若两个写操作会修改同一对象，即使不存在显式参数依赖，也应按照业务规则串行化。
部分模型能够在一次响应中输出多个结构化工具请求，但“能够并行生成”不等于“适合并行执行”。Claude 的工具调用机制会返回一个或多个结构化 tool_use 块，再由应用执行并回传对应结果，说明实际执行责任仍在 Agent 运行时，而不是模型本身。相关交互约定可参考 Anthropic 工具使用说明。citeturn1search18
工程上可以给每个节点增加 read_set 和 write_set。如果两个节点只读取不同资源，可进入同一并发批次；如果存在读写冲突、写写冲突或显式依赖，则必须建立顺序边。对于付款、删除、发布等高风险操作，还应插入审批节点，不能仅凭模型输出直接执行。
四、多轮状态不能只依靠对话文本
多轮工具链常见问题不是模型忘记用户说过什么，而是系统没有保存“已经执行到哪里”。完整状态至少应包含原始目标、当前计划版本、节点执行记录、工具返回摘要、关键原始结果引用、错误信息、重试次数和下一步候选动作。
采用支持会话状态关联的接口，可以减少应用重复传递全部历史的负担。例如 Azure OpenAI Responses API 支持有状态的多轮响应，并将文本生成、工具调用和会话延续整合在统一接口中，可参考 Microsoft Foundry 官方文档。citeturn1search5 但接口提供的会话连续性不能替代业务状态机，因为模型上下文并不知道数据库写入是否真正提交，也无法自动判断某个外部副作用是否可以安全重放。
五、基础模型选型应采用链路级评测
选型时不要只比较通用榜单，而应建立贴近业务的多轮工具链测试集。测试任务可以覆盖顺序依赖、条件分支、并行汇合、参数缺失、工具超时、结果冲突、上下文截断和人工介入等场景。
建议重点观察以下指标：
- 依赖识别准确性：是否正确区分串行节点与可并行节点。
- 参数继承完整性：是否准确使用上游输出，而非重新猜测参数。
- 顺序违规次数：是否出现依赖未满足便发起调用的情况。
- 失败恢复能力：工具报错后能否保留已完成步骤，并从合理节点继续。
- 结构化输出稳定性：工具名称、参数类型和调用标识是否持续符合协议。
- 长链一致性：经过多轮返回后，是否仍保持原始目标与约束。
- 成本与时延：在达到相同任务完成质量时，比较模型调用次数、上下文规模和端到端耗时。
评测时应固定工具定义、运行时逻辑和测试输入，分别替换候选模型，并保存完整轨迹。这样才能判断问题来自模型规划、工具描述还是编排框架，而不是把所有失败都归因于模型能力。
六、用检查点和幂等机制守住调用顺序
长任务可能因网络超时、服务重启或人工暂停而中断。运行时应在关键节点完成后写入检查点，保存图状态和控制流位置。LangGraph 的持久执行思路就是在执行步骤之间保存状态，使工作流中断后能够从已记录的位置恢复，而不必重新处理全部前序步骤，可参考 持久执行文档。citeturn1search8
检查点仍需与幂等设计配合。查询类工具通常可以安全重试；创建订单、发送消息或扣款等操作则必须携带幂等键，并在重试前查询原调用状态。否则，恢复机制虽然保持了逻辑顺序，却可能重复制造外部副作用。
七、推荐的分层实现方式
生产系统可以分为四层：模型层负责理解、规划和参数生成；编排层维护依赖图并决定串行或并行；执行层完成鉴权、限流、调用和重试；状态层保存检查点、原始结果、审计记录与幂等信息。模型输出的计划必须先经过编排层校验，不能直接变成不可逆操作。
可靠的 Agent 不是让模型记住一切，而是让模型只负责适合推理的部分，把顺序、状态和副作用交给可验证的运行时机制。
总结
在 AI Agent 基础模型选型中，多轮工具链能力应被视为核心指标。真正重要的不是模型能否偶尔完成一次复杂任务，而是它能否稳定识别依赖、正确继承参数、避免越序调用，并在失败后继续保持一致状态。以依赖图约束执行顺序，以结构化状态承接多轮上下文，以检查点和幂等机制处理恢复，再通过链路级测试比较候选模型，才能构建可控、可审计且适合生产环境的 Agent 系统。
