Router/调度

← 返回目录

分级：【摘要即可】——本条已是全文级摘要（级联三层、决策四问、降级触发、评估五指标俱全），原文备查。

原文：https://x.com/kafkaup/status/2110500904868757542（2026-10-14，长帖） 一句话：router 是 AI 产品的”调度台”——决定请求进哪个能力、花多少成本；信息不足或高风险时追问/降级/拒绝/转人工。

三层级联（由便宜到贵，按确定性/置信度上浮）

1. 规则层：确定性高的请求（按钮点击、文件上传、明确关键词）+ 安全拦截与权限判断前置。快、便宜、可解释。
2. 小模型层：BERT/Embedding 做语义分类，处理规则抓不到但可归类的高频意图（例：”整理成给领导看的材料”→报告生成）。
3. 大模型层：多意图/混合意图、结合上下文判断、槽位（slots）抽取、是否追问、是否进 agent workflow。

路由决策四问

用户要完成什么任务？交给哪个能力模块？当前信息够不够？有没有风险？

• 意图从产品能力出发定义（先看产品能做什么、各模块输入输出与适用边界），不是只从 query 归纳标签——query 只提供表达方式。
• 边界划分标准：路由错了之后后续执行逻辑是否明显不同——走同一 workflow、输出形态差不多就不拆；流程/输入/风险/输出明显不同就必须拆。
• 意图分层：”两级 + 槽位“——一级意图（任务大类：问答/检索/文件分析/工具执行/无法处理）、二级意图（具体能力模块）、槽位（执行参数）。

Fallback / 降级触发

• 置信度不足 → 追问或 fallback 兜底；信息不足/高风险 → 追问、降级、拒绝、转人工。
• 评论区实践经验（@KakaluoteW45042）：router 是搭 agent 时最容易被低估的环节；单独训练分类器做路由一直不太稳，反而把能力描述塞给主模型让它自己决策效果更好；真正难的不是第一跳分对，是中途发现走错了还能回退和自救。

评估五指标

路由准确率、任务成功率、Fallback 率、用户重试率/追问率、人工改派率。目标不是最强模型，而是 token/延时/准确率三者平衡；router prompt 要短（只放意图定义+边界+输出 schema）、输出结构化、安全前置、常见 query 缓存结果。

跟你项目的咬合

• opencode-fuse 三档模型自动选档 = “由便宜到贵”的级联；”说不行自动升档” = 低置信度上浮；D13 的 fallback 率/升级率/任务成功率正好是这里的评估指标。
• D14 三个”事中请示”触发点 = 追问/转人工的触发条件，口径一致。
• thinktank Phase 3 的”Router 视角”（judge 低置信追问/降级）直接对应这篇的降级触发——”路由错了，大模型救不回来”有了理论背书。