コンテンツにスキップ

Models

推論の使用状況

Inference API Usage は、Playground・比較・API のすべての呼び出しが集計される 場所です。キー別、モデル別、そして時系列で確認できます。

このページには Models 権限が必要です。 権限を参照してください。入口は 3 つあります。

場所操作
PlaygroundYour Usage
Billing & UsageView inference usage
API のキーの行View Usage(?api_key_id= で絞り込んで開きます)

タイトルの下には鮮度に関する注記があります。All dates in UTC · data may lag up to 30 min。

Screenshot of the Inference API Usage filters, the three summary tiles and the Spend over time chart

フィルター何をするか
API Key1 つのキー、または All keys。
Time rangeプリセット、または Pick dates を使う Custom。範囲は 180 日以内に収める必要があります。
Metricすべての数値を Cost とトークン/ユニットのあいだで切り替えます。
Sort byCost または Name。Ascending / Descending を選べます。
Hide unused (37)使用のないモデルを除きます。Show 37 unused models で戻します。

Text、Image、Video のタブは、ページが数える課金単位を切り替えます。 テキストは Tokens、画像と動画は Units です。

ヘッダーの Total spend · all types は、いま開いているタブに関係なく、すべての カテゴリーを合わせた金額です。その下に 3 つのタイルがあります。

タイル表示内容
Total cost選択した期間とカテゴリーの支出。
Total tokens同じ期間のトークンまたはユニット数。
Active models使用されたモデル数。of 40 と併記されます。

Token breakdown カードは Input、Cached、Output に分けて表示し、 Cache hit の割合を 12% of input として示します。キャッシュ済みトークンは 入力トークンの一部であり、上乗せではありません。

グラフのタイトルは Spend over time で、Metric フィルターをトークンまたは ユニットにすると Tokens over time になります。粒度は daily と weekly で 切り替えられ、週は月曜始まりです。新しい範囲を取得している間は Updating… が 表示されます。

モデルごとに 1 行で、Spend、Cache hit、Token breakdown が並び、 Sort by フィルターの順に並びます。表示するものがない場合は No models with usage in this range. と表示されます。

  • このページにエクスポートやダウンロードはありません。数値はコンソールで読んで ください。
  • 読み込みに失敗すると Couldn’t load usage と Please try again. が Retry とともに表示されます。範囲は失われないので、再試行すれば同じクエリが実行されます。
  • 請求書と突き合わせるには、クレジットと請求の Usage This Month と比べてください。そちらは Compute、API-Token、 Subscription に分けて表示します。ヘッダーの残高が正であり、このページは ロールアップなので遅れることがあります。