Claude / GPT 多模型 API 网关

路由部署教程

服务端集中配置模型路由和回退策略。

部署时只把 key 放在服务端环境变量中。不要写进前端代码、公开仓库或静态页面。

步骤配置说明
配置表把 MODEL_PRIMARY 和 MODEL_FALLBACK 写入服务端配置。
日志记录 request id、模型名、状态码和耗时。
复盘按周查看哪些任务频繁回退。

环境变量示例

MODELRELAY_BASE_URL="https://modelrelayhub.top/v1"
MODELRELAY_API_KEY="YOUR_API_KEY"
MODELRELAY_MODEL="MODEL_ID_FROM_MODELS_API"

上线前验证

curl https://modelrelayhub.top/v1/models \
  -H "Authorization: Bearer YOUR_API_KEY"

常见问题

ModelRelay Hub 适合低价测试吗?

它更适合需要模型切换和回退的应用。

回退是不是越多越好?

不是,关键任务应显式失败并报警。