Chuyển tới nội dung chính

Bắt đầu nhanh

GPU Virtual Machine là gì?​

GPU Virtual Machine (GPU VM) giúp bạn triển khai và quản lý GPU server hiệu năng cao. GPU VM dùng passthrough GPU để cấp cho bạn một GPU riêng, ứng dụng truy cập GPU này qua guest OS và hypervisor. Các tài nguyên khác như RAM, storage và networking cũng được ảo hóa.

Portal FPT AI Factory cung cấp hai loại storage cho GPU VM.

  • Local NVMe: Disk tốc độ cao đi kèm mỗi GPU instance. Tối ưu cho training hiệu năng cao, nhưng không phù hợp để lưu dữ liệu lâu dài.
  • Block Storage: Volume bền vững, tồn tại độc lập với VM. Bạn có thể resize và attach hoặc detach khi cần.

Bạn chọn loại storage khi tạo VM.

So sánh GPU VM và GPU Container​

GPU VMGPU Container
Kiểm soát môi trường
  • Toàn quyền OS + root (SSH, sudo)
  • Cài driver tùy chỉnh, phiên bản CUDA, system lib
  • Debug các vấn đề tầng thấp (NCCL, networking, driver)
  • Workload chạy trong Docker
  • Môi trường dựng sẵn, không cần quản lý host OS
Tốc độ khởi tạoChậm hơn (phải dựng VM và cài phần mềm)Khởi động trong 1-2 phút
Loại workload
  • Thử nghiệm chạy dài
  • Training LLM (multi-GPU)
  • Fine-tuning với lib tùy chỉnh
  • Thử nghiệm nhanh
  • Inference microservice
  • Batch inference
Nhu cầu network và hệ thống
  • Toàn quyền kiểm soát network
  • Tùy chỉnh port, routing, SSH
  • Debug multi-node dễ hơn
  • Phụ thuộc networking của nền tảng
  • Thêm lớp trừu tượng
Cách tính phíStorage vẫn giữ khi VM stop. Local NVMe tính phí đầy đủ khi stop, còn VM dùng Block Storage sẽ nhả GPU và chỉ tính phí storage.NVMe storage bị xóa, không tính phí khi stop (trừ persistent storage).

Bắt đầu nhanh​

Bước 1: Đăng ký và đăng nhập​

  • Truy cập https://ai.fptcloud.com hoặc https://ai.fptcloud.jp, nhấn Sign Up và điền thông tin theo hướng dẫn.
  • Đội ngũ hỗ trợ sẽ liên hệ để xác minh thông tin và kích hoạt tài khoản.
  • Đăng nhập bằng username hoặc email FPT ID và mật khẩu.

Bước 2: Nạp credit vào tài khoản​

  1. Vào mục ACCOUNT và nhấn Billing.
  2. Nhấn Add Credit, nhập số tiền và thông tin thanh toán để hoàn tất.

Nếu có voucher từ FPT, nhập mã hợp lệ ở mục Add Voucher để đổi credit.

Bước 3: Tạo GPU VM​

  1. Chọn GPU Virtual Machine ở menu bên.
  2. Nhấn Create New Virtual Machine và cấu hình VM.
  3. Xem hướng dẫn đầy đủ tại Tạo GPU VM.

Bước 4: Kết nối tới GPU VM​

  1. Ở trang VM List, nhấn tên VM để mở chi tiết VM và dashboard giám sát.
  2. Tùy cấu hình ở mục Access Virtual Machine, kết nối qua web console bằng mật khẩu root, hoặc qua terminal bằng SSH key.
  3. Nếu dùng default security group, toàn bộ traffic vào và ra đều được cho phép. Nên sửa rule để chỉ mở cho IP tin cậy và các port cần thiết, ví dụ SSH 22, RDP 3389, HTTP/HTTPS.

Tiếp theo​