GPU Cluster の概要

GPU Cluster は GPU 対応の worker node を持つマネージド Kubernetes クラスターを提供し、control plane を自分で運用することなく AI/ML の training、inference、その他の GPU アクセラレーション workload を実行できます。control plane は FPT Cloud が管理し、Worker Node とその上で動かすものはお客様が管理します。

worker のインフラには 2 つの選択肢があります。

• Managed K8s with Metal Cloud — worker node が専用の bare metal GPU サーバー上で動作します(現在 Portal の AI infrastructure 配下で Managed GPU cluster として表示されているのはこちらです)。
• Managed K8s with GPU VM — worker node が GPU 対応の virtual machine 上で動作します。

どちらも GPU Operator(driver・device 管理)、Network Operator(GPUDirect RDMA)、Slurm Operator、vGPU Scheduler を統合しており、cluster/worker 単位の autoscaling をサポートします。

region、cluster 構成、互換性、スケーリング動作に関するよくある質問は FAQ を参照してください。