Câu hỏi thường gặp

Tôi có cần GPU không?

Jetson TX2 có sẵn GPU tích hợp. Suy luận chạy trên GPU tích hợp đó thông qua CUDA. Nếu CUDA không khởi động được, dịch vụ tụt xuống CPU và vẫn tiếp tục chạy, với độ trễ cao hơn. Xem Thiết lập phần cứng.

Tôi có thể chạy mà không cần internet không?

Có. Bạn cài đặt và cập nhật hộp từ một gói phát hành offline. Hộp không cần truy cập internet, không cần truy cập registry và không cần build image. Xem Cài đặt từ gói offline.

Những định dạng mô hình nào được hỗ trợ?

Chỉ ONNX. Bảng điều khiển từ chối mọi loại tệp khác khi tải lên. Hãy xuất mô hình với ONNX opset 15 trở xuống, vì bản build ONNX Runtime cho TX2 không tải được các opset mới hơn. Xem Chuẩn bị mô hình với modelctl.

Dữ liệu được bảo mật như thế nào?

Mọi người dùng đều phải đăng nhập, và các thao tác chỉ dành cho admin được giới hạn cho tài khoản admin. Dịch vụ suy luận chỉ lắng nghe trên địa chỉ loopback của hộp, nên mạng của bạn không thể truy cập nó. Để phục vụ bảng điều khiển qua HTTPS, hãy đặt AIBOARD_TLS_ENABLED=1. Xem Bảo mật và Biến môi trường.

Tôi cập nhật bằng cách nào?

Sao chép gói phát hành mới hơn vào hộp và chạy sudo ./update.sh. Bản cập nhật chụp snapshot cơ sở dữ liệu trước, sau đó chờ stack báo cáo trạng thái khỏe mạnh. Nếu không, bản cập nhật dừng lại và in ra cách quay lui (rollback). Xem Cài đặt từ gói offline.