Create a cluster

Tạo cluster giúp bạn có ngay worker node dùng GPU theo nhu cầu, không cần tự cấp phát bare metal riêng. Tại region Hà Nội 2 và Nhật Bản, dịch vụ này hỗ trợ card GPU NVIDIA H100 SXM5 và H200 SXM5.

Yêu cầu

Hoàn thành Initial setup trước, sau đó xác nhận:

• Quota CPU, GPU, RAM, Storage, và Instance đủ cho cấu hình cluster của bạn. Nếu dùng Autoscaling, quota cũng phải đủ cho số node tối đa đã cấu hình ở worker group.
• 1 network subnet đã bật Static IP Pool, dùng cho Kubernetes node.

Tạo cluster

1. Trên menu FPT Cloud Portal, chọn Containers > Kubernetes > Create a Kubernetes Engine.

2. Điền thông tin cơ bản cho cluster, rồi chọn Next:

   • Name: tên cho cluster.
   • Network: subnet dùng để triển khai VM của cluster.
   • Version: phiên bản Kubernetes.
   • Cluster Endpoint Access: tùy chọn truy cập endpoint Kubernetes của cluster. Chọn theo yêu cầu bảo mật và kiến trúc mạng của bạn. Nếu chọn Public & Private hoặc Private, field Allow CIDR sẽ xuất hiện — điền dải IP được phép truy cập endpoint.

3. Cấu hình node pool, rồi chọn Next.

   Portal không hỗ trợ tạo GPU worker làm base worker group — tạo GPU worker bắt đầu từ worker group thứ 2 trở đi.

   Base worker group (general-purpose, không GPU):

   • Instance Type: General.
   • Type: cấu hình CPU/Memory cho worker node.
   • Container Runtime: Containerd.
   • Policy: Storage Policy (tier IOPS) cho disk worker node.
   • Disk: dung lượng root disk cho worker node.
   • Scale min / Scale max: số node tối thiểu/tối đa của worker group. Khuyến nghị tối thiểu 3 node cho production.
   • Label: label cho worker group.

   Worker group thứ 2 trở đi (GPU):

   • Instance Type: GPU.
   • GPU type: NVIDIA H100 SXM5 hoặc NVIDIA H200 SXM5.
   • Cấu hình GPU sharing.
   • Cấu hình GPU (CPU/RAM/GPU RAM).
   • Label: label cho worker group.
   ghi chú

   GPU Driver Installation Type có 2 tùy chọn: Pre-install, tự động thêm NVIDIA GPU driver vào cluster, và User-install, cho bạn tự chọn phiên bản driver. Driver giúp OS của worker node (Windows, Ubuntu, v.v.) giao tiếp được với GPU — không có driver, OS không dùng được GPU.

4. Chọn Create và xem lại thông tin khởi tạo cluster.

5. Theo dõi trạng thái tạo cluster. Khi hiện Successed (Running), cluster đã sẵn sàng dùng.