Chuyển tới nội dung chính

Tạo GPU VM

Trang này hướng dẫn cấu hình và triển khai GPU virtual machine trên portal FPT AI Factory, gồm cách chọn giữa Local NVMe và Block Storage.

Để bắt đầu, vào GPU Virtual Machine ở menu bên, rồi nhấn Create New Virtual Machine.

1. Nhập thông tin VM​

  1. VM Name: Nhập tên duy nhất cho GPU virtual machine.
  2. Flavor: Chọn cấu hình VM phù hợp nhu cầu, gồm vCPU, RAM, số lượng GPU và model GPU. Các model GPU khả dụng tùy theo region.
  3. OS Image: Chọn FPT public image (nền Ubuntu). Xem OS Images để biết danh sách đầy đủ và driver đi kèm từng image.

2. Chọn loại storage​

Bạn phải chọn loại storage trước khi tạo VM. Các thẻ flavor và mục storage sẽ cập nhật theo lựa chọn này.

Local NVMe​

Disk NVMe cục bộ tốc độ cao, đi kèm flavor GPU.

  • Dung lượng cố định theo flavor và không tính thêm phí.
  • Dữ liệu trên disk NVMe vẫn giữ khi VM stop, nhưng bạn vẫn bị tính phí trong thời gian stop.
  • Phù hợp nhất cho workload training hiệu năng cao. Không phù hợp để lưu dữ liệu lâu dài.

Block Storage​

Block storage bền vững cho dữ liệu dài hạn, tồn tại độc lập với VM.

Khi chọn Block Storage, mục storage hiển thị bảng volume với sẵn một Boot volume.

Boot volume

  • Boot volume luôn tồn tại và không thể xóa. Đây là disk khởi động của VM.
  • Dung lượng tối thiểu 50 GB, tối đa 3.000 GB. Bạn có thể tăng dung lượng nhưng không hạ xuống dưới 50 GB.
  • Storage tier mặc định là Standard. Bạn có thể chọn Premium.
  • Tên volume sinh tự động theo định dạng boot-<4 ký tự ngẫu nhiên> và không sửa được.

Data volume (tùy chọn)

  • Bạn chỉ thêm được một Data volume khi tạo VM. Muốn thêm nữa, dùng tab Storage sau khi VM đã tạo xong.
  • Dung lượng tối thiểu 10 GB, tối đa 3.000 GB.
  • Tên volume sinh tự động theo định dạng volume-<4 ký tự ngẫu nhiên>. Tên phải duy nhất trong Workspace, chỉ gồm chữ, số và dấu gạch ngang, tối đa 50 ký tự.
  • Data volume tồn tại độc lập với vòng đời VM cho tới khi bạn xóa nó.
ghi chú

Khi tạo VM với Block Storage, bạn chỉ thêm được một data volume. Nút Add volume bị vô hiệu hóa kèm tooltip: "Only one volume can be added. You can add more after the VM is created successfully."

Dung lượng storage miễn phí​

50 GB × số GPU trong flavor đã chọn đầu tiên được miễn phí, và chỉ áp dụng cho tier Block Storage – Standard. Ví dụ, flavor 2× H100 được miễn phí 100 GB.

  • Phần dung lượng vượt mức miễn phí sẽ bị tính phí.
  • Storage ở tier Premium hoặc bất kỳ tier nào khác Standard đều tính phí đầy đủ và không được hưởng mức miễn phí.
  • Bảng tổng hợp giá cập nhật theo thời gian thực khi bạn đổi dung lượng và tier.

3. Cấu hình truy cập​

  • Auto assign static IP: Hệ thống cấp một static public IP từ dải IPv4 public của FPT AI Factory. Nếu stop VM có static IP, địa chỉ vẫn được giữ. Nếu xóa VM, địa chỉ được trả lại dải.
  • Exposed ports: Khai báo các network port mở trên virtual machine. Nhập từng port rồi nhấn Enter để thêm. Port nằm trong khoảng 1 đến 65535, tối đa 10 port. Giá trị mặc định là 22 với Local NVMe và để trống với Block Storage.
  • Security group: Gán security group để quản lý traffic vào và ra. Xem Security Group.
cảnh báo

Nếu dùng default security group, toàn bộ traffic vào và ra đều được cho phép. Nên sửa rule để chỉ mở cho IP tin cậy và các port cần thiết, ví dụ SSH 22, RDP 3389, HTTP/HTTPS.

4. Chọn phương thức xác thực​

Chọn một trong hai phương thức sau.

  • SSH Key: Hệ thống tự dùng SSH key mới nhất của bạn. Bạn có thể đổi nếu cần.
  • Password: Đặt mật khẩu và lưu trữ an toàn để truy cập console.

5. Thêm user data (tùy chọn)​

Trường User Data cho phép thêm script cloud-init. Khi VM khởi động, cloud-init đọc metadata và tự động cấu hình hệ thống, gồm user, SSH key và thiết lập network.

Script mẫu sau tạo user testcloudinit với mật khẩu Abc123, và user thứ hai testcloudinit2 với mật khẩu P@ssw0rd!.

#cloud-config
users:
  - name: testcloudinit
    sudo: ALL=(ALL) NOPASSWD:ALL
    lock_passwd: false
    shell: /bin/bash
    passwd: $6$rounds=4096$V6anciWl30$xKbcljqks1gUkMiM80pyKzhvyhn7U1n.jXcGCUfkUlX.rnllUWKUrmDEzekhhhP8aERSylRuC7gfDhJ32Xv0A1
  - name: testcloudinit2
    groups: sudo
    lock_passwd: false
    shell: /bin/bash
    plain_text_passwd: P@ssw0rd!
hostname: testcloudinit

6. Tạo VM​

Nhấn Create Virtual Machine để triển khai và khởi động GPU VM. Sau khi VM tạo thành công, bạn xem chi tiết ở trang VM List.

ghi chú

Lỗi "Not enough resources". Nhu cầu virtual machine và GPU ở một số region của FPT AI Factory có thể vượt nguồn cung sẵn có. Khi đó, bạn có thể gặp lỗi "Not enough resources" lúc tạo hoặc khởi động lại VM ở region đó. Hãy thử lại sau hoặc liên hệ FPT Support.

Tiếp theo​