改 2 行,不动业务逻辑

5 分钟接入,只改 2 行

已在使用 OpenAI SDK?改 base_urlapi_key 两行,将请求指向本网关,即可直接调用已备案国产模型。业务代码一行不动。

之前:直连 OpenAI
from openai import OpenAI

client = OpenAI(
    api_key="sk-...",
    base_url="https://api.openai.com/v1",
)

resp = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)
之后:本网关 + 国产模型(只改高亮两行)
from openai import OpenAI

client = OpenAI(
    api_key="gk_live_你的网关Key",
    base_url="https://你的网关域名/v1",
)

resp = client.chat.completions.create(
    model="qwen-flash",
    messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)

或用 curl 验证连接

curl
curl -s https://你的网关域名/v1/chat/completions \
  -H "authorization: Bearer gk_live_你的网关Key" \
  -H "content-type: application/json" \
  -d '{"model":"qwen-flash","messages":[{"role":"user","content":"你好"}]}'

给调用打「用途」标签(统计 token 消耗去向)

若需在控制台按任务类型(调研 / 写代码 / 客服等)查看 token 消耗,给每次调用打 task_type 标签最为准确。两种方式任选(网关据此记账分类,并在转发上游前移除该字段,不影响上游请求)。不打标签亦可:网关会在内存中读取本次内容自动识别用途(粗略),识别后即丢弃、不持久化原文——显式打标签始终覆盖自动识别,归因更准确:

方式 A:请求体字段 task_type
curl -s https://你的网关域名/v1/chat/completions \
  -H "authorization: Bearer gk_live_你的网关Key" \
  -H "content-type: application/json" \
  -d '{"model":"deepseek-chat","task_type":"写代码","messages":[{"role":"user","content":"写一个快排"}]}'
方式 B:请求头 x-task-type(不改 body,SDK 友好)
curl -s https://你的网关域名/v1/chat/completions \
  -H "authorization: Bearer gk_live_你的网关Key" \
  -H "content-type: application/json" \
  -H "x-task-type: 调研" \
  -d '{"model":"deepseek-chat","messages":[{"role":"user","content":"调研一下国产向量库"}]}'

不打标签的调用归入 unspecified。控制台「用量明细」会按 task_type 和模型分别统计请求数、输入/输出 token、成本与占比。

用 Claude Code 驱动国产模型(Anthropic 协议适配已上线)

网关内置 Anthropic Messages 适配,Claude Code / Anthropic SDK 可直连已备案国产模型,支持流式输出。设置三行环境变量即可,无需修改 Claude Code 本身:

Claude Code · 三行环境变量
export ANTHROPIC_BASE_URL="https://你的网关域名/anthropic"
export ANTHROPIC_AUTH_TOKEN="gk_live_你的网关Key"
export ANTHROPIC_MODEL="deepseek-chat"   # 已备案国产模型;留空则自动用项目默认模型
claude

原理:网关将 Anthropic 的 /v1/messages 请求(含 SSE 流式)实时转换为上游 OpenAI 协议再转回,计费按上游原价透传、失败不计费。ANTHROPIC_MODEL 留空时,Claude Code 默认发送的 claude-* 模型名会自动映射到项目的默认国产模型。

三步完成接入

  1. 申请试用获取 Gateway Key(gk_live_…),控制台可查看实时用量。
  2. base_url 指向本网关、api_key 替换为 Gateway Key——仅此两行。
  3. model 选用已备案国产模型(如 qwen-flashdeepseek-chat);每次调用在控制台实时显示 token 拆分、上游原价与较官方价的节省金额。

占位 Key(gk_live_你的网关Key)与 你的网关域名 均为示例,非真实可用凭证;开通后在控制台获取专属值。更多信息参见 信任中心(备案信息可逐一核实)与 价格对比(接入前估算成本)。

接入后查看实时用量 / 账单 →