供应商与路由

同一个模型(如 gpt-4o)可能同时由多个上游供应商承载。网关默认会按可用性和策略自动路由,你也可以手动指定。

为什么有多个供应商

• 可用性:某个上游故障时自动切换到其他供应商,提升稳定性。
• 价格 / 质量差异:不同供应商的价格、限速、稳定性可能不同。

默认路由

不做任何配置时,网关会在该模型的可用供应商中自动选择,无需关心细节。

按请求覆盖

需要锁定某个供应商时,可通过请求头覆盖(具体头名以控制台说明为准),例如:

curl https://api.example.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "X-Provider: official" \
  -H "Content-Type: application/json" \
  -d '{ "model": "gpt-4o", "messages": [{"role":"user","content":"hi"}] }'

选择建议

• 追求稳定:用默认自动路由,让网关在故障时自动容错。
• 追求一致性:对缓存敏感或需要可复现结果时,锁定单一供应商。
• 追求成本:参考 模型与定价接口 返回的价格信息选择。