メインコンテンツまでスキップ

OS Images

FPT public image は、利用可能な任意の GPU VM ですぐに使い始められるよう FPT が構築した image です。各 image は Ubuntu をオペレーティングシステムとして使用し、AI ワークロードに必要なコンポーネントを含みます。

インストール済みの依存関係のバージョンは互換性を重視して最適化されているため、最新版ではない場合があります。

image 名説明依存関係
Ubuntu 22.04Ubuntu バージョン 22.04 と必須の NVIDIA GPU ドライバー。NVIDIA Driver 560.35.03
NVIDIA CUDA Toolkit 12.6.85
NVIDIA Fabric Manager (NVSwitch Driver) 560.35
NVIDIA Datacenter GPU Manager 3.3.9
Ubuntu 24.04Ubuntu バージョン 24.04 と必須の NVIDIA GPU ドライバー。NVIDIA Driver 575
NVIDIA CUDA Toolkit 12.9
NVIDIA Container Toolkit 1.18.2
Ubuntu 24.04 (8x GPUs)Ubuntu バージョン 24.04 と AI/ML ワークロード向けの必須ソフトウェア。8x GPU flavor では NVLink インターコネクトを利用できます。NVIDIA Driver 575
NVIDIA CUDA Toolkit 12.9
NVIDIA Container Toolkit 1.18.2
NVIDIA Fabric Manager 575
Ubuntu 24.04 - Inference OptimizedUbuntu バージョン 24.04。あらゆるモデルを本番品質の性能でより速くデプロイできます。NVIDIA Driver 575.51.03
NVIDIA CUDA Toolkit 12.9
NVIDIA Container Toolkit 1.18.2
Docker CE
vLLM 0.10.2
Ubuntu 24.04 - Inference Optimized (8x GPUs)Ubuntu バージョン 24.04。あらゆるモデルを本番品質の性能でより速くデプロイできます。8x GPU flavor では NVLink インターコネクトを利用できます。NVIDIA Driver 575
NVIDIA CUDA Toolkit 12.9
NVIDIA Container Toolkit 1.18.2
NVIDIA Fabric Manager 575
Ubuntu 24.04 v1.1Ubuntu 24.04。NVIDIA Blackwell GPU 向けに最適化され、AI とディープラーニングの高速化を標準で利用できるよう構築されています。NVIDIA Driver 595
NVIDIA CUDA Compute library
NVIDIA DKMS kernel module
NVIDIA GPU kernel driver
CUDA Toolkit 13.1
Ubuntu 24.04 Inference Optimized v1.1Ubuntu バージョン 24.04。高スループットかつ本番品質のモデルサービングに向けた vLLM 推論エンジンを搭載しています。NVIDIA Driver 595
NVIDIA CUDA Compute library
NVIDIA DKMS kernel module
NVIDIA GPU kernel driver
CUDA Toolkit 13.1
vLLM v0.20.2

次のステップ