模型与路由

一次调用先确定模型，再在符合模型能力、服务商范围和数据要求的服务商中选择路由。项目可以设置默认服务商排序策略；请求也可以为本次调用指定多模型 fallback 和服务商偏好。

模型 fallback

model 是首选模型，models 是按顺序尝试的备选模型。只传 models 时，第一项为首选。如果都未传，平台使用项目默认模型；项目未配置时请求会报错。

当首选模型的可用服务商不可用、被限流，或因内容审核拒绝回复时，平台可按 models 中的顺序自动尝试其他模型。

{
	"model": "YOUR_PRIMARY_MODEL_ID",
	"models": ["YOUR_BACKUP_MODEL_ID_1", "YOUR_BACKUP_MODEL_ID_2"],
	"messages": [{ "role": "user", "content": "你好" }]
}

上例会先尝试 model 指定的主模型；如果满足 fallback 条件，再依次尝试 models 中的备选模型。请将占位值替换为当前项目可用的模型 ID。

服务商选择

同一个模型由多个服务商提供时，平台会在符合要求的可用服务商中选择路由。默认情况下，请求会在优先服务商之间均衡分配，以提升整体可用性。

可以通过下面2 种方式修改路由策略：在项目中修改默认服务商排序，或在单次请求中指定服务商偏好。

1. 在项目中设置默认服务商排序

项目管理员可在「路由策略」中设置默认服务商排序：价格优先负载均衡（默认策略）、价格优先、吞吐量优先或延迟最低。未在请求中指定服务商偏好时，平台按项目默认排序策略选择服务商。

2. 在请求中指定

您可以通过请求体中的 provider 对象控制同一模型下的服务商范围和顺序，覆盖本次调用的服务商偏好：

参数	本次请求的作用
`order`	按优先级指定服务商。
`only`	仅允许使用指定服务商。
`ignore`	排除指定服务商。
`allow_fallbacks`	是否继续尝试同模型下的其他服务商或渠道，默认 `true`。
`require_parameters`	设为 `true` 时，只选完整支持请求参数的服务商。
`data_collection`	控制本次请求是否允许上游服务商采集数据用于模型训练。
`zdr`	要求本次请求仅使用满足零数据保留要求的服务商。

order、only 和 ignore 使用 provider slug（服务商 ID）。获取路径：模型广场 → 打开目标模型详情 → 在「服务商」列表点击名称旁的复制图标。悬浮提示中的「复制服务商 ID」对应的就是要填入请求的值，例如 wanqing-cn。

allow_fallbacks: false 仅关闭同模型服务商切换，不会关闭显式配置的 models 模型 fallback。

{
	"model": "YOUR_PRIMARY_MODEL_ID",
	"models": ["YOUR_BACKUP_MODEL_ID_1", "YOUR_BACKUP_MODEL_ID_2"],
	"provider": {
		"order": ["YOUR_PROVIDER_SLUG_1", "YOUR_PROVIDER_SLUG_2"],
		"allow_fallbacks": true
	},
	"messages": [{ "role": "user", "content": "你好" }]
}

将占位值替换为当前项目可用的模型和服务商标识。

服务商排序

服务商排序只在符合模型能力、服务商范围、参数要求和数据要求的可用服务商中生效。请求包含 tools 或 tool_choice 时，平台会优先选择已知支持工具调用的服务商；设置 max_tokens 时，只会选择支持对应响应长度的服务商。

项目默认服务商排序支持 4 种策略：

策略	说明
价格优先负载均衡	默认策略。优先选择近期稳定的服务商，并在低价候选中做加权均衡，以兼顾成本和可用性；其余服务商作为 fallback。
价格优先	明确按低价优先尝试服务商，不进行默认负载均衡。
吞吐量优先	明确按输出吞吐能力优先尝试服务商，适合更关注生成速度的场景。
延迟最低	明确按低延迟优先尝试服务商，适合更关注首 Token 响应速度的交互场景。

如果在请求的 provider 中设置了 order，平台会按请求指定的顺序尝试服务商，不再使用项目中设置的服务商排序。order 中列出的服务商不可用时，平台会继续尝试其他符合条件的服务商；如需限制只能使用指定服务商，可同时设置 only 或关闭同模型 fallback。

缓存与 Session 亲和

连续对话中，平台将尽量沿用同一健康服务商有助于降低路由波动，也可能提高上游服务商提示词缓存的命中机会。

首次请求会按当前路由策略选择服务商。响应成功后，平台根据首组问答建立 Session 绑定；后续请求若识别为同一 Session，且绑定的服务商健康、仍满足本次调用要求，会优先沿用该服务商。

如果绑定的服务商不可用，或已不满足模型能力、服务商范围、参数要求、数据要求等条件，平台会重新选择服务商路由，并在请求成功后绑定新的服务商。Session 绑定有效期为 15 分钟，每次访问会续期。

实际选中的模型、服务商及尝试轨迹可在调用日志中查看。