メインコンテンツまでスキップ

endpoint を管理する

すべての endpoint を確認する​

左サイドバーの Dedicated Inference で My endpoints をクリックします。

統計カードと endpoint テーブルを表示する My endpoints タブ

ページタイトル: My dedicated models Manage endpoints, monitor deployment status and GPU costs.

上部のサマリーカードには workspace 全体の値が表示されます。

カード表示内容
ENDPOINTSendpoint の総数
RUNNING現在稼働中の endpoint 数
GPU-HOURS今月消費した GPU-hours
SPEND今月のコスト

Refresh をクリックすると最新のステータスを再読み込みします。テーブルのタイムスタンプ(Updated: DD/MM/YYYY HH:MM)は、データを最後に取得した時刻を示します。

Deployed Endpoints テーブル​

列説明
ENDPOINTendpoint 名とモデル
HARDWAREGPU 構成
STATUSRunning · Deploying · Stopped
REPLICAS稼働中 / 全体の replica 数
GPU-H消費した GPU-hours
COST (MTD)当月累計のコスト
ACTIONSPause(Running)· Resume(Stopped)· View(Deploying)

endpoint のステータス​

ステータス意味
DeployingGPU のプロビジョニングと model weights のダウンロードが進行中
Runningすべての replica が準備完了し、リクエストを処理中
Stoppedゼロにスケール済み — GPU は稼働していない

endpoint を一時停止する​

  1. テーブルから対象の endpoint を探します。
  2. Actions 列の Pause をクリックします。
  3. 操作を確認します。

再開するには Actions 列の Resume をクリックします。

endpoint を削除する​

  1. endpoint 名をクリックして詳細ページを開きます。
  2. endpoint の設定にある削除操作を実行します。
危険

endpoint の削除は取り消せません。再度利用するには最初からデプロイし直す必要があります。

新しい endpoint をデプロイする​

右上の Deploy new をクリックすると Deploy Dedicated Endpoint モーダルが開きます。

詳細は モデルをデプロイする を参照してください。