[Red Hat Blog] Designing multitenant GPU infrastructure: Isolation across virtualization and Kubernetes platforms

Nguồn: Red Hat Blog Tóm tắt Khi AI workload chuyển từ thử nghiệm sang production, các tổ chức muốn chia sẻ GPU infrastructure giữa nhiều tenant để tối ưu chi phí. Tuy nhiên, trong môi trường multi-tenant, thiếu isolation có thể dẫn đến performance interference, latency không thể đoán trước, và thậm chí data exposure giữa các workload. Red Hat phân tích rằng isolation trong GPU infrastructure phải được thiết kế qua 4 layer độc lập: (1) Hardware isolation — xác định tenant nào sở hữu GPU vật lý nào, thực thi qua VFIO và IOMMU; (2) Fabric isolation — kiểm soát việc GPU giao tiếp qua high-speed interconnect như NVLink, xGMI; (3) Scheduler isolation — đảm bảo orchestrator không mix GPU từ các fabric domain khác nhau vào cùng một workload; (4) Virtualization isolation — kiểm soát resource partition trong từng GPU (full passthrough, MIG, hay time-slicing)....

01/05/2026 · 2 min · dhphong

[The Morning Paper] Elle: inferring isolation anomalies from experimental observations

Nguồn: The Morning Paper Tóm tắt Bài viết giới thiệu Elle, một công cụ kiểm tra cơ sở dữ liệu được thiết kế để phát hiện các bất thường về mức độ cô lập giao dịch thông qua quan sát thực nghiệm. Elle hoạt động bằng cách chạy các giao dịch thử nghiệm trên hệ thống cơ sở dữ liệu mục tiêu và phân tích lịch sử kết quả để suy ra xem hệ thống có tuân thủ các mức cô lập được quảng bá hay không....

13/04/2026 · 2 min · dhphong

[The Morning Paper] Seeing is believing: a client-centric specification of database isolation

Nguồn: The Morning Paper Tóm tắt Bài viết trình bày một đặc tả mới về mức độ cô lập (isolation) trong cơ sở dữ liệu từ góc nhìn phía client, thay vì góc nhìn phía server truyền thống. Cách tiếp cận này, được gọi là “client-centric specification”, định nghĩa các mức cô lập dựa trên những gì client thực sự quan sát được trong quá trình thực hiện giao dịch, chứ không dựa trên cách hệ thống xử lý nội bộ....

13/04/2026 · 2 min · dhphong