コンテンツにスキップ

Models

Cline

Cline は VS Code 内で動作し、設定したプロバイダーと通信するコーディングエージェントです。ベンダー経由でプロキシするエディタ連携とは違い、Cline はあなたのマシンから直接エンドポイントを呼び出すので、必要なのは Grafilab のベース URL とキーだけです。

  • Cline が VS Code にインストールされ、サイドバーのパネルが開いていること。
  • A Grafilab API key. In the console open API (https://app.grafilab.ai/api) and click Generate New Key — see API Keys.

キーには cline という名前を付けて、他のツールと支出を分けておきます。

The model catalog is live, so list it rather than copying ids from a page. Every entry’s id is the exact string to use in any tool or SDK.

Terminal window
curl https://llm.grafilab.ai/v1/models \
-H "Authorization: Bearer $GRAFILAB_API_KEY" | jq -r '.data[].id'

The same ids appear as cards in the Playground, with context size and prices.

Cline は Model ID の文字列をそのまま送るため、カタログの id と完全に一致している必要があります。

  1. Cline のパネルを開き、⚙️ の設定アイコンを選びます。API の設定が最初のセクションです。

  2. API Provider を OpenAI Compatible にします。

  3. Base URL を次の値にします。

    https://llm.grafilab.ai/v1

    /chat/completions は Cline 自身が追加するので、値は /v1 で終わります。

  4. API Key に Grafilab のキーを貼り付けます。Use Azure Identity Authentication はチェックしないままにします。

  5. Model フィールド(ビルドによっては Model ID)に Grafilab のモデル ID を入力します。

  6. Model Configuration を開き、OpenAI 互換エンドポイントからは Cline が取得できない項目を入力します。

    項目値の入手先
    Context Windowモデルの Playground カードにある Context の数値
    Max Output Tokensそのモデルの出力上限。わからなければ既定値のままで構いません
    Image Supportマルチモーダルモデルの場合のみ有効にします
    Computer Use実際に試したツール利用をモデルが明示していない限りオフのままにします
    Input Price / Output PricePlayground カードの Input と Output の価格

    これらの価格は Cline 自身のコスト表示にしか使われません。ここに何を入力しても Grafilab はカタログの価格で課金するので、誤った数値は誤った請求ではなく誤った見積もりを生むだけです。

  7. Done を選び、Cline に小さなタスクを与えます。「list the files in this folder and summarise what the project does」あたりが最初の一手として適しています。

Cline は Anthropic 形式で Grafilab と通信することもできます。API Provider を Anthropic にして Use custom base URL をチェックし、ホストのみを入力します。

https://llm.grafilab.ai

あとは同じキーを貼り付け、同じモデル ID を入力します。/v1 が付いていない点に注意してください。Anthropic クライアントは /v1/messages を自分で追加します。

これが必要になることはほとんどありません。Cline のある機能が Messages 形式を要求する場合にだけ試す価値があります。目に見える違いが 1 つあります。Grafilab は cache_control を受け付けたうえで無視するため、キャッシュ読み取りは通常どおり報告される一方、Cline のキャッシュ書き込みカウンターはセッション中ずっと 0 のままです。

Cline は各タスクの下にトークン数と推定コストを表示します。最初のタスクが終わったら、コンソールで API を開き、cline キーの View Usage を選んで、今日のリクエストが記録されているか確認してください。集計は 30 分ほど遅れることがあります。

  • コンテキストウィンドウは手動で設定します。 Cline は OpenAI 互換エンドポイントからコンテキストサイズを読み取れないため、既定値は推測です。大きすぎるとモデルが拒否するプロンプトを組み立て、小さすぎると理由もなくファイルが切り詰められます。
  • 画像にはマルチモーダルモデルが必要です。 テキスト専用モデルのタスクにスクリーンショットを添付すると、Cline ではなく API 側で失敗します。
  • 推論トレースは reasoning_content として届きます。 Grafilab は reasoning と reasoning_content の両方に同じテキストを返します。Cline がそれを表示するかどうかは拡張機能のバージョン次第です。
  • 429 はウォレットが空という意味です。 Grafilab はスループットではなく残高不足に 429 を使うため、Cline のレート制限メッセージは請求のサインです。コンソールでチャージしてください。
  • 長いタスクは止まることがあります。 各上流呼び出しには最初のトークンまで 120 秒という制限があります。出力が出る前にリクエストが落ちた場合は再試行してください。その処理は課金されていません。