Câu hỏi thường gặp

Tôi có cần GPU không?

Không. Suy luận chỉ dùng CPU hoạt động trên gói Lite. GPU được khuyến nghị cho các mô hình thị giác và khối lượng công việc có thông lượng (throughput) cao.

Tôi có thể chạy mà không cần internet không?

Có. Runtime hoàn toàn có thể air-gap. Việc kích hoạt giấy phép có thể thực hiện qua tệp offline.

Những định dạng mô hình nào được hỗ trợ?

ONNX là định dạng chính. Các engine TensorRT đã biên dịch và trình xử lý Python chạy trong sandbox cũng được hỗ trợ.

Dữ liệu được bảo mật như thế nào?

Toàn bộ lưu lượng trên thiết bị đều dùng mTLS. Dữ liệu lưu trữ được mã hóa (LUKS) trên phần cứng được hỗ trợ. RBAC được thực thi cho mọi lệnh gọi API.

Tôi cập nhật bằng cách nào?

Bản cập nhật là các image container đã được ký. Cuộn tiến và cuộn lùi đều thực hiện bằng một cú nhấp trên bảng điều khiển.