Open WebUI

Open WebUI 可以同时对接任意多个兼容 OpenAI 的端点。把 Grafilab 添加为其中一个连接，目录里的每个模型都会出现在聊天的模型选择器里，和你已经在跑的其他模型并列。

• 一个你能访问的 Open WebUI 实例，以及一个具有管理员权限的账号。只有管理员才看得到连接设置。

• A Grafilab API key. In the console open API (https://app.grafilab.ai/api) and click Generate New Key — see API Keys.

把密钥命名为 open-webui。实例里的每次对话都用这一个密钥认证，所以用专门的密钥能在用量视图里把这部分共享流量和其他工具分开。

1. 点击你的头像，打开 Admin Panel，然后进入 Settings → Connections。这个页面在 Manage OpenAI API Connections 下面列出你的模型提供方。

2. 点击 Manage OpenAI API Connections 旁边的 + 按钮来添加一个连接。

3. 把 URL 设为：

   https://llm.grafilab.ai/v1

   输入时这个字段会提示一些常见端点——忽略这些提示，直接粘贴上面的值。Open WebUI 会自己补上 /chat/completions 和 /models。

4. 把你的 Grafilab 密钥粘贴到 API Key 字段。

5. 点击 Verify Connection。Open WebUI 会调用 GET /v1/models；出现成功提示就说明 URL 和密钥都没问题。

6. 点击 Save。这个连接对实例里的每个用户都生效。

7. 开一个新对话，打开模型选择器。Grafilab 的 model id 就在列表里。

用某个 Grafilab 模型发一条消息，看它流式输出。然后在控制台打开 API，在 open-webui 密钥上选择 View Usage，确认今天有请求落下来。用量汇总最多可能延迟 30 分钟左右。

目录很长，而一个什么都塞进去的选择器没人会看。

• 只显示你想要的模型。 连接里有一个 Model IDs (Filter) 白名单。输入一个 Grafilab model id，点 + 添加，重复即可。只要有至少一条，选择器就只显示这些模型。留空则显示这个连接返回的全部模型。
• 重命名并添加描述。 在 Workspace → Models 里，可以给模型设置一个友好的显示名、一段描述、一条系统提示词和默认参数。这只改变模型在你实例里的显示方式；请求里带的仍然是 Grafilab 的 id。
• 生成图像。 Open WebUI 的图像设置可以指向一个兼容 OpenAI 的图像端点，对 Grafilab 来说就是 https://llm.grafilab.ai/v1，其后面是 /v1/images/generations。

现象	原因	解决办法
Verify Connection 失败	URL 少了 /v1，或者末尾多了斜杠、多了路径后缀	把它准确设为 https://llm.grafilab.ai/v1
连接验证通过，但一个模型都没出现	Model IDs (Filter) 里的某一条和目录里的 id 都对不上	清空这个过滤器，或者用 GET /v1/models 重新列一遍再重新输入 id
每次对话都返回 401	密钥里混进了多余的空白字符，或者已经在控制台轮换过了	从 API 页面重新粘贴密钥
返回 429 并带配额提示	你的 Grafilab 额度余额空了——这不是吞吐量限制	到控制台充值
回复一次性全部出现，而不是流式输出	Open WebUI 前面的反向代理缓冲了 server-sent events	为 Open WebUI 这条路由关闭响应缓冲