模型路由
也叫：Model Routing · 智能模型路由 · Prompt Routing
模型路由按任务难度、成本和质量策略选择候选模型，实际去向与分任务评测仍需持续记录。
他们说
依据请求特征与策略动态选择候选大模型
老白翻译
每个请求进来以后，先判断该让哪一个模型接手。
它到底是什么
模型路由位于应用与多个候选模型之间。它分析请求内容，再按照成本、质量或既定规则选择一个模型处理，并把回答交回应用。
生活里的例子
简单的工单分类可以交给较小模型，长合同审阅交给能力更强的模型。应用仍使用一个入口，日志记录每次实际选择。
常见误解
- 误解：接上路由器就不用做模型评测。 路由判断要用公司的真实请求与固定基线核对。
- 误解：候选模型越多越好。 上下文、合规或能力不够的模型应先排除。
- 误解：平均费用下降就代表效果合格。 高风险任务要单独查看质量、延迟和实际模型。
普通人怎么用
准备一批按任务分类的真实样本，记录所选模型、Token、耗时、费用和质量。一次只调整一种路由条件，再用同一批样本比较。