OS Images
FPT Images
FPT Image là custom image do FPT dựng sẵn, giúp bạn bắt đầu nhanh trên mọi GPU VM. Image dùng Ubuntu làm OS và đi kèm các thành phần cần thiết cho workload AI. Phiên bản của các dependency được tối ưu cho tính tương thích, nên có thể không phải bản mới nhất.
| Tên image | Mô tả | Dependency |
|---|---|---|
| UBUNTU 22.04 GPU | Ubuntu 22.04 kèm các driver NVIDIA GPU thiết yếu | NVIDIA Driver 560.35.03, NVIDIA CUDA Toolkit 12.6.85, NVIDIA Fabric Manager (NVSwitch Driver) 560.35, NVIDIA Datacenter GPU Manager 3.3.9 |
| AIML UBUNTU 24.04 | Ubuntu 24.04 kèm các driver NVIDIA GPU thiết yếu | NVIDIA Driver 575, NVIDIA CUDA Toolkit 12.9, NVIDIA Container Toolkit 1.18.2 |
| AIML UBUNTU 24.04 8GPU | Ubuntu 24.04 kèm phần mềm AI/ML thiết yếu. Có NVLink interconnect trên flavor 8x GPU. | NVIDIA Driver 575, NVIDIA CUDA Toolkit 12.9, NVIDIA Container Toolkit 1.18.2, NVIDIA Fabric Manager 575 |
| INFERENCE UBUNTU 24.04 | Ubuntu 24.04 — triển khai model nhanh hơn với hiệu năng mức production | NVIDIA Driver 575.51.03, NVIDIA CUDA Toolkit 12.9, NVIDIA Container Toolkit 1.18.2, Docker CE, vLLM 0.10.2 |
| INFERENCE UBUNTU 24.04 8GPU | Ubuntu 24.04 với hiệu năng inference mức production. Có NVLink interconnect trên flavor 8x GPU. | NVIDIA Driver 575, NVIDIA CUDA Toolkit 12.9, NVIDIA Container Toolkit 1.18.2, NVIDIA Fabric Manager 575 |
| INFERENCE UBUNTU 24.04 BLACKWELL v.1.1 | Ubuntu 24.04 kèm inference engine vLLM cho việc serve model thông lượng cao ở mức production | NVIDIA Driver 595, NVIDIA CUDA Compute library, NVIDIA DKMS kernel module, NVIDIA GPU kernel driver, CUDA Toolkit 13.1, vLLM v0.20.2 |
Custom Images
Bạn có thể tạo GPU VM từ custom image, giúp migrate và mở rộng workload mà không phải dựng lại môi trường từ đầu.
Upload Custom Image
Ở đây chỉ hỗ trợ định dạng file QCOW khi upload cho GPU VM. Với định dạng khác, hãy liên hệ bộ phận hỗ trợ.
Bước 1: Ở menu, chọn Compute Engine > Custom Image. Sau đó nhấn Upload Image.
Bước 2: Nhập thông tin bắt buộc và chọn file từ máy bạn. Nhấn Upload để bắt đầu tải lên.
Xóa Custom Image
Nếu không còn cần một Custom Image, bạn có thể xóa nó:
Bước 1: Ở menu, chọn Custom Image, rồi trong menu Actions của image cần xóa, nhấn Delete.
Bước 2: Một pop-up xác nhận xuất hiện. Nhấn Delete Custom Image để tiến hành xóa.