连连智枢 位于你的业务后端与上游模型之间,负责认证、路由、流式转发与用量记录。
数据流
┌─────────────┐ HTTPS ┌──────────────────┐ 上游协议 ┌─────────────┐
│ 业务后端 │ ──────────────► │ 连连智枢 网关 │ ─────────────► │ 模型供应商 │
│ (你的服务) │ ◄────────────── │ (OpenAI/Anthropic│ ◄───────────── │ (多线路) │
└─────────────┘ JSON / SSE │ 兼容 HTTP) │ └─────────────┘
└──────────────────┘
│
▼
用量、策略、密钥校验
- 你的系统只应对网关暴露的 Base URL 与 API Key,不直连各上游。
- 网关负责:认证、模型路由、主备上游、流式转发、统一错误格式、用量上报。
- 控制台负责:密钥生命周期、模型授权、余额与配额等业务配置(通过控制台操作,不由推理 API 提供)。
选哪种 API
| 场景 | 建议 |
|---|---|
| 已有 OpenAI SDK / LangChain / 多数 Agent | OpenAI 兼容 https://51kik.com/v1 |
| 已有 Anthropic SDK / Claude Messages API | https://51kik.com/anthropic/v1 |
| 同一产品内多条链路 | 每条链路固定一种 API;model id 可共用 |
不要混用两套 Base URL 调同一业务会话,除非你在应用层做明确的请求格式转换。
密钥与信任边界
| 位置 | 是否应持有生产 API Key |
|---|---|
| 服务端、BFF、Worker | 是 |
| 浏览器、移动 App 直连 | 否 — 应经你们后端代理 |
详见 安全最佳实践。
与控制台、管理接口
租户创建、密钥轮换、账单查询等在控制台完成。推理集成只需关注上文数据流中的 HTTP API(能力列表见 产品能力)。