Thực hành tốt khi vận hành

Hướng dẫn đã được kiểm nghiệm thực tế để giữ một box Xisom khỏe mạnh trong sản xuất. Mỗi mục liên kết tới trang tham chiếu có đầy đủ chi tiết. Các mục đánh dấu Chỗ trống đang được hoàn thiện bằng dữ liệu hiện trường — hãy xem là định hướng, không phải con số chốt.

Vòng lặp vận hành

flowchart LR
  P["Chuẩn bị<br/>modelctl"] --> D["Triển khai<br/>tải lên + ghép cặp + kích hoạt"]
  D --> M["Giám sát<br/>độ trễ · throughput · EP"]
  M -->|"trôi dạt / dữ liệu mới"| P
  M -->|"nâng phiên bản"| D

Chuẩn bị mô hình

Xác thực theo phiên bản ONNX Runtime của box trước khi triển khai — ghim --target-ort để một opset quá mới thất bại trên máy trạm, không phải ngoài hiện trường.
Lượng tử hóa có chủ đích. INT8 động làm mô hình nhỏ hơn và thường nhanh hơn, đánh đổi một phần độ chính xác — xác thực lại mô hình đã lượng tử hóa và kiểm tra chất lượng dự đoán trước khi đưa vào sử dụng.
Ghim bundle tái lập được (--timestamp) để artifact trên box khớp với những gì bạn đã soát xét. Xem Chuẩn bị mô hình.

Thiết lập kích thước datasource

Khớp kích thước cửa sổ × số đặc trưng giữa mô hình và datasource — nền tảng từ chối việc ghép cặp không khớp. Ghi lại hai con số này cho mọi mô hình.
Ưu tiên đăng ký OPC-UA thay vì polling ở nơi máy chủ hỗ trợ.
Dùng CSV replay để xác thực mô hình trên dữ liệu đã ghi trước khi kết nối nguồn plant trực tiếp. Xem Nguồn dữ liệu đầu vào.

Giám sát và cảnh báo

Quan sát độ trễ p95/p99, không chỉ trung bình — suy luận biên suy giảm trước tiên ở phần đuôi độ trễ.
Execution provider rớt về CPU là tín hiệu hồi quy — nếu một box đáng lẽ chạy TensorRT/CUDA lại báo CPU, hãy điều tra trước khi throughput tụt.
Số liệu trực tiếp giữ trong 3 ngày — xuất ra những gì bạn cần cho phân tích xu hướng dài hạn. Xem Giám sát.

Triển khai và quản lý phiên bản

Giữ phiên bản frontend và backend đồng bộ — lệch phiên bản sẽ kích hoạt banner cảnh báo không khớp phiên bản. Xem Phiên bản & Cập nhật.
Chạy thử trên Docker lab trước khi đưa một mô hình hoặc bản phát hành lên box sản xuất. Xem Docker Lab.

Bảo mật

Áp dụng đặc quyền tối thiểu — chỉ dành tài khoản admin cho các thao tác cần thiết (ghi thử đầu ra, quản lý khóa); người vận hành đăng nhập với vai trò operator.
Soát xét nhật ký kiểm toán định kỳ — nó ghi lại ai đã truy cập hệ thống và khi nào.
Kết thúc TLS tại reverse proxy phía trước dashboard và API, và dùng broker đã xác thực / chính sách OPC-UA bảo mật cho datasource. Xem Bảo mật.

Chuẩn bị mô hình Chuyển đổi, xác thực, lượng tử hóa, đóng gói.

Giám sát Đọc dashboard suy luận.

Bảo mật Kiểm soát truy cập, tăng cường, kiểm toán.