Quản lý endpoint

Xem toàn bộ endpoint

Ở sidebar bên trái, trong Dedicated Inference, nhấn My endpoints.

Tiêu đề trang: My dedicated models Manage endpoints, monitor deployment status and GPU costs.

Các thẻ tổng hợp phía trên hiển thị số liệu toàn workspace:

Thẻ	Ý nghĩa
ENDPOINTS	Tổng số endpoint
RUNNING	Số endpoint đang hoạt động
GPU-HOURS	GPU-hours đã dùng trong tháng
SPEND	Chi phí trong tháng

Nhấn Refresh để tải lại trạng thái mới nhất. Mốc thời gian của bảng (Updated: DD/MM/YYYY HH:MM) cho biết dữ liệu được lấy lần cuối lúc nào.

Bảng Deployed Endpoints

Cột	Mô tả
ENDPOINT	Tên endpoint và model
HARDWARE	Cấu hình GPU
STATUS	Running · Deploying · Stopped
REPLICAS	Số replica đang chạy / tổng số
GPU-H	GPU-hours đã dùng
COST (MTD)	Chi phí tính từ đầu tháng đến hiện tại
ACTIONS	Pause (Running) · Resume (Stopped) · View (Deploying)

Các trạng thái endpoint

Trạng thái	Ý nghĩa
Deploying	Đang cấp phát GPU và tải model weights
Running	Toàn bộ replica đã sẵn sàng và đang phục vụ request
Stopped	Đã scale về 0 — không có GPU nào hoạt động

Pause một endpoint

1. Tìm endpoint trong bảng.
2. Nhấn Pause ở cột Actions.
3. Xác nhận thao tác.

Để chạy lại, nhấn Resume ở cột Actions.

Xóa một endpoint

1. Nhấn tên endpoint để mở trang chi tiết.
2. Dùng thao tác xóa trong phần cài đặt của endpoint.

cảnh báo

Xóa endpoint là thao tác không thể hoàn tác. Bạn sẽ phải deploy lại từ đầu.

Deploy endpoint mới

Nhấn Deploy new (góc trên bên phải) để mở modal Deploy Dedicated Endpoint.

Xem hướng dẫn chi tiết: Deploy một model