稳定性与故障切换
通过智能路由与多服务商故障切换提升稳定性
平台如何提升稳定性
TokenPlus 会持续评估服务商的可用性。对于持续异常的服务，平台通过健康评估和熔断减少或暂停向其分配请求；服务恢复后，再按路由规则重新接入流量。
故障切换始终在当前账户、项目和请求允许的范围内发生。更严格的服务商范围、参数要求或数据策略，都会减少可用于切换的服务商。
什么时候会尝试切换
连接失败、上游超时、服务端异常或部分上游限流时，平台将继续尝试其他服务商。切换需要同时满足以下条件：
- 请求允许回退，即
provider.allow_fallbacks为true。 - 仍有符合模型能力、服务商范围、数据要求的服务商。
- 未超过尝试次数和请求总时间限制。
- 流式响应尚未向客户端输出内容。
如果可用候选服务商全部失败，平台会返回最终错误。
排查调用问题
发生失败时，到调用日志按 Request ID 查看错误与上游尝试轨迹。