Claude Code

只要一个服务端说 Anthropic Messages 格式，Claude Code 就把它当作网关。Grafilab 在 https://llm.grafilab.ai/v1/messages 上提供这种格式，所以把 CLI 指向 Grafilab 只需要两个环境变量再加一个 model id。

• 已安装并能正常运行 Claude Code。执行 claude --version 确认。

• A Grafilab API key. In the console open API (https://app.grafilab.ai/api) and click Generate New Key — see API Keys.

把密钥命名为 claude-code，这样它的花费就和其他工具分开了。

The model catalog is live, so list it rather than copying ids from a page. Every entry’s id is the exact string to use in any tool or SDK.

curl https://llm.grafilab.ai/v1/models \
  -H "Authorization: Bearer $GRAFILAB_API_KEY" | jq -r '.data[].id'

from openai import OpenAI

client = OpenAI(api_key="sk-grafilab-...", base_url="https://llm.grafilab.ai/v1")
for model in client.models.list():
    print(model.id)

import OpenAI from "openai";

const client = new OpenAI({ apiKey: "sk-grafilab-...", baseURL: "https://llm.grafilab.ai/v1" });
for await (const model of client.models.list()) {
  console.log(model.id);
}

The same ids appear as cards in the Playground, with context size and prices.

Anthropic 接口本身没有模型列表，所以按上面的方式在 OpenAI 接口上列出目录，再把 id 粘贴到 ANTHROPIC_MODEL 里。

base URL 要设成裸的 origin。Claude Code 会自己补上 /v1/messages，所以以 /v1 结尾的 base URL 会让请求打到 /v1/v1/messages，返回 404。

export ANTHROPIC_BASE_URL="https://llm.grafilab.ai"
export ANTHROPIC_AUTH_TOKEN="sk-grafilab-..."
export ANTHROPIC_MODEL="grafilab/qwen3.6-flash"

claude

$env:ANTHROPIC_BASE_URL = "https://llm.grafilab.ai"
$env:ANTHROPIC_AUTH_TOKEN = "sk-grafilab-..."
$env:ANTHROPIC_MODEL = "grafilab/qwen3.6-flash"

claude

ANTHROPIC_AUTH_TOKEN 会把密钥以 Authorization: Bearer 发出，Grafilab 接受这种方式。不要同时设置 ANTHROPIC_API_KEY：它把密钥以 x-api-key 发出，Grafilab 同样接受，但两个都设置会让 Claude Code 在接管前提示你确认 API key，启动时还会警告存在两个凭据来源。选一个，优先用 ANTHROPIC_AUTH_TOKEN。

ANTHROPIC_MODEL 只管当前会话的主模型。Claude Code 还会调用一个小模型做后台工作，并会派生 subagent，这两者默认用的是 Grafilab 不提供的 Anthropic 模型名。把它们也设成 Grafilab 的 id，否则这些调用会以 404 失败：

export ANTHROPIC_DEFAULT_HAIKU_MODEL="grafilab/qwen3.6-flash"
export CLAUDE_CODE_SUBAGENT_MODEL="grafilab/qwen3.6-flash"

$env:ANTHROPIC_DEFAULT_HAIKU_MODEL = "grafilab/qwen3.6-flash"
$env:CLAUDE_CODE_SUBAGENT_MODEL = "grafilab/qwen3.6-flash"

ANTHROPIC_DEFAULT_HAIKU_MODEL 决定 haiku 这个别名解析到哪个模型，也是 Claude Code 做后台工作时用的模型；ANTHROPIC_DEFAULT_SONNET_MODEL 和 ANTHROPIC_DEFAULT_OPUS_MODEL 对 sonnet 和 opus 起同样的作用，所以如果你会用 /model 切换模型，这两个也要设。ANTHROPIC_SMALL_FAST_MODEL 是 haiku 那个变量已废弃的前身，用新名字。

export 只在当前终端会话里有效。保留配置有两种办法，取决于你是想让所有 Claude Code 会话都走 Grafilab，还是只让其中一部分走。

把这些变量写进 Claude Code 配置文件的 env 块。~/.claude/settings.json 对你所有项目生效；.claude/settings.local.json 只对单个项目生效，并且已经帮你加进了 gitignore。配置文件还能作用到后台 agent，而 shell 里的 export 未必能可靠地传过去。

{
  "env": {
    "ANTHROPIC_BASE_URL": "https://llm.grafilab.ai",
    "ANTHROPIC_AUTH_TOKEN": "sk-grafilab-...",
    "ANTHROPIC_MODEL": "grafilab/qwen3.6-flash",
    "ANTHROPIC_DEFAULT_HAIKU_MODEL": "grafilab/qwen3.6-flash",
    "CLAUDE_CODE_SUBAGENT_MODEL": "grafilab/qwen3.6-flash"
  }
}

配置文件是严格的 JSON：多余的逗号或者 // 注释都会让 Claude Code 在下次启动时报配置错误。

如果你同时还用 Claude Code 连 Anthropic，就把 Grafilab 的配置包进一个函数里，这样原本的 claude 不受影响，而 gclaude 走 Grafilab。

gclaude() {
  ANTHROPIC_BASE_URL="https://llm.grafilab.ai" \
  ANTHROPIC_AUTH_TOKEN="sk-grafilab-..." \
  ANTHROPIC_MODEL="grafilab/qwen3.6-flash" \
  ANTHROPIC_DEFAULT_HAIKU_MODEL="grafilab/qwen3.6-flash" \
  CLAUDE_CODE_SUBAGENT_MODEL="grafilab/qwen3.6-flash" \
  command claude "$@"
}

function gclaude {
  $env:ANTHROPIC_BASE_URL = "https://llm.grafilab.ai"
  $env:ANTHROPIC_AUTH_TOKEN = "sk-grafilab-..."
  $env:ANTHROPIC_MODEL = "grafilab/qwen3.6-flash"
  $env:ANTHROPIC_DEFAULT_HAIKU_MODEL = "grafilab/qwen3.6-flash"
  $env:CLAUDE_CODE_SUBAGENT_MODEL = "grafilab/qwen3.6-flash"
  try { claude @args }
  finally {
    Remove-Item Env:ANTHROPIC_BASE_URL, Env:ANTHROPIC_AUTH_TOKEN, Env:ANTHROPIC_MODEL,
      Env:ANTHROPIC_DEFAULT_HAIKU_MODEL, Env:CLAUDE_CODE_SUBAGENT_MODEL -ErrorAction SilentlyContinue
  }
}

在 PowerShell 里 finally 块很重要：$env: 赋值会在函数结束后继续存在，泄漏到你在同一个窗口里下一次运行的普通 claude。bash 那种写法只为一条命令设置变量，所以不需要清理。

如果两套都留着，记住配置文件里的 env 值会盖过同名的 shell export。

1. 在打开 Claude Code 之前先测端点，这样出错就能确定是网关的问题而不是 CLI 的问题。

   curl -X POST "$ANTHROPIC_BASE_URL/v1/messages" \
     -H "Authorization: Bearer $ANTHROPIC_AUTH_TOKEN" \
     -H "content-type: application/json" \
     -d '{"model": "grafilab/qwen3.6-flash", "max_tokens": 16, "messages": [{"role": "user", "content": "Say hi."}]}'

   返回体以 {"id":"msg_ 开头就说明 URL 和密钥都没问题。

2. 启动一个会话并发一条提示词。

   claude "say hi"

3. 运行 /status，看 Status 标签页。有两行能确认路由：

   Anthropic base URL: https://llm.grafilab.ai
   Auth token: ANTHROPIC_AUTH_TOKEN

   如果没有 base URL 那一行，说明变量没传进这个会话——从设置了 export 的那个 shell 里启动 claude，或者把它们挪进配置文件。

4. 运行 /cost。token 数和花费照常显示；缓存写入的数字一直是零，这是预期行为，下面有说明。

然后在控制台打开 API，在 claude-code 这个密钥上选择 View Usage，就能从 Grafilab 这一侧看到同样的请求。用量汇总最多可能延迟 30 分钟左右。

Grafilab 实现的是 Messages 协议的一个子集。Claude Code 用来编辑文件、执行命令和调用你的 MCP server 所需的能力都在；下面是你可能会注意到的边角情况。