跳转到内容

Models

推理用量

Inference API Usage 是每一次 Playground、对比和 API 调用被汇总的地方 —— 按密 钥、按模型、按时间。

页面需要 Models 权限 —— 参见 权限。有三个入口可以到达:

从哪里控件
PlaygroundYour Usage
Billing & UsageView inference usage
API 密钥行View Usage(打开时已筛选,?api_key_id=)

标题下方是数据新鲜度提示:All dates in UTC · data may lag up to 30 min。

Screenshot of the Inference API Usage filters, the three summary tiles and the Spend over time chart

筛选器作用
API Key单个密钥,或 All keys。
Time range预设区间,或用 Custom 配合 Pick dates。区间必须在 180 天以内。
Metric在 Cost 与 token 或单位之间切换所有数字。
Sort byCost 或 Name,配合 Ascending / Descending。
Hide unused (37)隐去没有用量的模型;Show 37 unused models 把它们放回来。

Text、Image 和 Video 标签页改变页面统计所用的计费单位 —— 文本用 Tokens,图像和视频用 Units。

头部的 Total spend · all types 覆盖所有类别,与你当前在哪个标签页无关。下面是 三块数据卡:

数据卡显示
Total cost所选区间和类别下的花费。
Total tokens同一区间的 token 或单位数。
Active models用到了多少个模型,of 40。

Token breakdown 卡片拆出 Input、Cached 和 Output,并给出 Cache hit 百分比 —— 12% of input。缓存 token 是输入 token 的子集,绝不 是额外加在上面的。

图表标题是 Spend over time;当 Metric 筛选器设为 token 或单位时,标题变成 Tokens over time。粒度可在 daily 和 weekly 之间切换,周从周一开始。 获取新区间的数据时会出现 Updating…。

每个模型一行,带 Spend、Cache hit 和 Token breakdown,按 Sort by 筛选器排序。没有内容可显示时它写着 No models with usage in this range.

  • 这个页面没有导出或下载;直接在控制台里读这些数字。
  • 加载失败时会显示 Couldn’t load usage 和 Please try again.,并带 Retry —— 区间不会丢失,重试就是重跑同一次查询。
  • 要和账单对账,请对照额度与账单上的 Usage This Month,它把花费拆成 Compute、API-Token 和 Subscription。头部的余额才是权威值;本页是汇总,可能会滞后。