メインコンテンツまでスキップ

クイックスタート

GPU Virtual Machine とは

GPU Virtual MachineGPU VM)を使うと、高性能な GPU サーバーを簡単にデプロイして管理できます。GPU VM は passthrough GPU により専有 GPU を提供し、アプリケーションはゲスト OS と hypervisor を介して GPU にアクセスします。RAM、storage、networking などのその他のリソースも仮想化されます。

FPT AI Factory ポータルでは、GPU VM 向けに 2 種類の storage を提供しています。

  • Local NVMe: 各 GPU instance に付属する高速ディスクです。高性能なトレーニングに最適ですが、長期的なデータ保存には向きません。
  • Block Storage: VM とは独立して存在する永続 volume です。サイズ変更や、必要に応じた attach・detach ができます。

storage の種類は VM の作成時に選択します。

GPU VM と GPU Container の比較

GPU VMGPU Container
環境の制御
  • OS への完全なアクセスと root 権限(SSH、sudo)
  • カスタムドライバー、CUDA バージョン、システムライブラリのインストール
  • 低レイヤーの問題(NCCL、networking、ドライバー)のデバッグ
  • ワークロードは Docker 内で実行
  • 構成済みの環境で、ホスト OS の管理は不要
セットアップ速度遅い(VM の起動とソフトウェアの導入が必要)1〜2 分で起動
ワークロードの種類
  • 長時間の実験
  • LLM のトレーニング(マルチ GPU)
  • カスタムライブラリを使ったファインチューニング
  • 短時間の実験
  • 推論マイクロサービス
  • バッチ推論ジョブ
ネットワークと システム要件
  • ネットワークを完全に制御
  • ポート、ルーティング、SSH のカスタマイズ
  • マルチノードのデバッグが容易
  • プラットフォームの networking に依存
  • 抽象化レイヤーが追加される
課金モデル停止中も storage は保持されます。Local NVMe は停止中も全額課金され、Block Storage の VM は GPU を解放し storage のみ課金されます。NVMe storage は消去され、停止中は課金されません(永続 storage を除く)。

クイックスタート

ステップ 1: サインアップとサインイン

  • https://ai.fptcloud.com または https://ai.fptcloud.jp にアクセスし、Sign Up をクリックして案内に従い情報を入力します。
  • サポートチームが折り返し連絡し、情報を確認したうえでアカウントを有効化します。
  • FPT ID のユーザー名またはメールアドレスとパスワードでサインインします。

ステップ 2: アカウントにクレジットを追加する

  1. ACCOUNT セクションに移動し、Billing をクリックします。
  2. Add Credit をクリックし、金額と支払い情報を入力して購入を完了します。

FPT が発行したバウチャーがある場合は、Add Voucher セクションで有効なコードを入力するとクレジットに交換できます。

ステップ 3: GPU VM を作成する

  1. サイドメニューで GPU Virtual Machine を選択します。
  2. Create New Virtual Machine をクリックし、VM を構成します。
  3. 詳細な手順は GPU VM の作成を参照してください。

ステップ 4: GPU VM に接続する

  1. VM List ページで VM 名をクリックし、VM の詳細と監視ダッシュボードを開きます。
  2. Access Virtual Machine セクションの設定に応じて、root パスワードを使った Web コンソール、または SSH キーを使ったターミナルで接続します。
  3. default security group を使用している場合、この VM ではすべての受信・送信トラフィックが許可されます。SSH 22、RDP 3389、HTTP/HTTPS など、信頼できる IP と公開ポートのみに制限するようルールを更新することを推奨します。

次のステップ