路由

路由页管理 ATM Gateway 的路由策略,支持策略创建、编辑与熔断器参数调整。

页面结构

页面顶部为策略列表,两个内置策略固定置顶:

  • Default — 默认策略,始终使用默认模型,不可删除。
  • Test — 测试策略,用于验证配置,不可删除。

内置策略下方为自定义策略列表。每张策略卡展示名称、路由模式(调度 / 智能)以及关联的默认供应商和模型。

创建策略

点击右上角 新建策略,按以下步骤完成配置:

  1. 名称。 策略的显示名称。
  2. 描述。 说明该策略的适用场景。
  3. 应用族。claude / codex / gemini 中选择一个。不支持跨族——Claude 策略只能指向 Claude 兼容的供应商。
  4. 路由模式。 调度(Schedule)或 智能(Intelligent)。
  5. 接受请求。 控制该策略是否接受新请求的开关。
  6. 目标。 一个或多个 (供应商, 模型) 组合。智能模式下每个目标需标注意图标签(默认 / 编码 / 推理 / 长上下文 / 视觉);调度模式下每个目标需标注权重值。
  7. 默认目标。 必填。无具体意图命中时(或调度模式耗尽加权目标后)的兜底路由。
  8. 保存。

保存后,新策略出现在列表中,可从 Agents 页绑定至同族的任意 Agent。

约束条件

编辑器强制执行以下规则:

  • 不允许跨族目标。 claude 策略不能指向 codex 供应商。
  • 不允许指向路由层。 目标必须为普通 API 供应商,不可指向 ATM Gateway,否则将形成路由环路。
  • 至少一个目标。 保存前必须配置默认目标。

调度模式

调度 为加权负载均衡,适用于:

  • 同族多供应商间的成本分摊。
  • 主备比例配置(如 80/20 分流)。
  • 对两个中转供应商进行 A/B 评估。

权重为相对值,绝对数值不影响结果,仅比例生效。

智能模式

智能 使用 ATM 内置分类器按请求意图选择目标。为每个关注的意图配置一个目标,未定义的意图回退至 默认 目标。

仅配置 默认 目标的智能策略,行为上等同于直连路由——但因为是独立策略,流量归因行也是独立的。

分类关键词

每个意图分类支持自定义关键词,留空则使用内置关键词。内置示例:

  • 推理:analyze, compare, architecture, design, 分析, 架构
  • 编码:implement, refactor, patch, bug, 代码, 修复, 重构
  • 长上下文:entire repo, all files, summarize, 全量, 整个仓库
  • 视觉:image, screenshot, diagram, 图片, 截图

高级参数

页面底部提供熔断器调参:

参数 说明
error_rate_threshold 触发熔断的失败请求比例阈值。
min_request_count 阈值生效前,滑动窗口内所需的最小样本数。
window_seconds 失败率计算的滑动窗口时长(秒)。
recovery_probe_seconds 熔断打开后,恢复探测的间隔时长(秒)。

默认值偏保守。若故障供应商的熔断触发过慢,可适当降低阈值。

results matching ""

    No results matching ""