场景指南

对话场景的多模型统一接入

面向客服、内部问答与产品助理,用同一个网关调度对话向模型,控制成本与可用性。

要点

  • 按场景在高智商模型与高性价比模型间切换
  • 统一审计与额度,避免密钥散落在各业务线
  • 支持按量充值与发票路径,便于团队结算

落地时建议:明确 SLA 与预算 → 选 2–3 个候选模型做盲测 → 在网关配置主备路由 → 用用量看板复盘成本。

常见问题

对话页延迟大概多少?

实际延迟取决于上游与分组;Code0 侧提供多节点与故障转移,平均延迟目标见官网说明,关键链路建议就近联调验证。