メインコンテンツまでスキップ

endpoint を管理する

すべての endpoint を確認する

左サイドバーの Dedicated InferenceMy endpoints をクリックします。

統計カードと endpoint テーブルを表示する My endpoints タブ

ページタイトル: My dedicated models Manage endpoints, monitor deployment status and GPU costs.

上部のサマリーカードには workspace 全体の値が表示されます。

カード表示内容
ENDPOINTSendpoint の総数
RUNNING現在稼働中の endpoint 数
GPU-HOURS今月消費した GPU-hours
SPEND今月のコスト

Refresh をクリックすると最新のステータスを再読み込みします。テーブルのタイムスタンプ(Updated: DD/MM/YYYY HH:MM)は、データを最後に取得した時刻を示します。

Deployed Endpoints テーブル

説明
ENDPOINTendpoint 名とモデル
HARDWAREGPU 構成
STATUSRunning · Deploying · Stopped
REPLICAS稼働中 / 全体の replica 数
GPU-H消費した GPU-hours
COST (MTD)当月累計のコスト
ACTIONSPause(Running)· Resume(Stopped)· View(Deploying)

endpoint のステータス

ステータス意味
DeployingGPU のプロビジョニングと model weights のダウンロードが進行中
Runningすべての replica が準備完了し、リクエストを処理中
Stoppedゼロにスケール済み — GPU は稼働していない

endpoint を一時停止する

  1. テーブルから対象の endpoint を探します。
  2. Actions 列の Pause をクリックします。
  3. 操作を確認します。

再開するには Actions 列の Resume をクリックします。

endpoint を削除する

  1. endpoint 名をクリックして詳細ページを開きます。
  2. endpoint の設定にある削除操作を実行します。
危険

endpoint の削除は取り消せません。再度利用するには最初からデプロイし直す必要があります。

新しい endpoint をデプロイする

右上の Deploy new をクリックすると Deploy Dedicated Endpoint モーダルが開きます。

詳細は モデルをデプロイする を参照してください。