Skip to content

路由策略详解

文档完善中

此页面内容正在编写中,敬请期待。

概述

TierFlow 的路由引擎基于多维度指标进行智能决策,为每个请求选择最优模型。

路由决策流程

用户请求 → 复杂度评估 → 模型匹配 → 成本优化 → 执行请求

1. 任务复杂度评估

路由引擎会分析请求内容,评估任务类型和复杂度:

复杂度典型任务推荐模型等级
简单问答、翻译、格式转换高效型
内容生成、代码补全、数据分析均衡型
复杂推理、创意写作、代码架构旗舰型

2. 模型能力匹配

基于 Benchmark 评分匹配任务需求...

3. 成本优化计算

在满足质量要求的前提下,选择成本最低的模型...

4. 延迟感知调度

实时监测各模型 API 状态,避开高延迟节点...

自定义路由规则

即将支持...