メインコンテンツまでスキップ

クイックスタート

最初のモデル endpoint をデプロイし、最初の API 呼び出しを実行します。クレジットのある FPT AI Factory アカウントが必要です。開始前に Billing からチャージしてください。

ステップ 1: モデルをデプロイする​

  1. 左サイドバーの Dedicated Inference で Model Catalog をクリックします。
  2. カタログを参照し、モデルカードの Deploy をクリックします。動作確認には小さいモデル（例: Mistral 7B）を選びます。

Dedicated Inference — Model Catalog

  1. Deploy Dedicated Endpoint モーダルで次を設定します。
    • Hugging Face repo / URL を入力します（例: mistralai/Mistral-7B-Instruct-v0.3）。
    • Region を選択します。
    • Quick モードを選び、Size（Small / Medium / Large）を選択します。
    • ESTIMATED COST（PER HOUR / BIZ HOURS / 24/7）を確認します。
  2. Deploy endpoint をクリックします。

Deploy Dedicated Endpoint モーダル

詳細は モデルをデプロイする を参照してください。

ステップ 2: Running になるまで待つ​

  1. 左サイドバーの Dedicated Inference で My endpoints をクリックします。
  2. 作成した endpoint を探します。ステータスは Deploying です。
  3. ステータスが Running に変わるまで待ちます。

endpoint のステータスを表示する My endpoints タブ

詳細は endpoint を管理する を参照してください。

ステップ 3: API key を取得する​

  1. Dedicated Inference の API keys タブをクリックします。
  2. + Create new key をクリックします。
  3. key の Name を入力します（例: quickstart-test）。
  4. Generate Key をクリックし、表示された key をコピーします。key は一度しか表示されません。

Create an API Key ダイアログ

詳細は API key を作成する を参照してください。

ステップ 4: API を呼び出す​

endpoint 詳細ページに表示される gateway URL を使用します。

curl https://<ddi-gateway-domain>/v1/chat/completions \
  -H "Authorization: Bearer sk-vgw-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistralai/Mistral-7B-Instruct-v0.3",
    "messages": [{"role": "user", "content": "Hello!"}],
    "max_tokens": 256
  }'

gateway domain は endpoint 詳細ページで確認できます。API key は My endpoints → API keys から取得します。

詳細は Inference API を呼び出す を参照してください。

ステップ 5: 使い終わったら endpoint を停止する​

不要な GPU 料金を避けるため、使用しないときは endpoint を停止します。

  1. 左サイドバーの Dedicated Inference で My endpoints をクリックします。
  2. 対象の endpoint を探し、Actions 列の Pause をクリックします。
  3. 操作を確認します。

詳細は endpoint を管理する を参照してください。