Technology
Chuẩn bị Kubernetes sẵn sàng cho AI trên NVIDIA Vera Rubin từ Ngày Đầu Tiên
Theo công bố của NVIDIA Developer. NVIDIA giới thiệu cách cấu hình và tối ưu hóa Kubernetes cho phần cứng GPU NVIDIA Vera Rubin mới bằng AI Cluster Runtime.
ĐÃ XÁC MINHĐã xác minh · 1 nguồn
Ảnh minh họa do TigerIQ tự tạo từ chủ đề bài viết.
ĐIỂM CHÍNH
- • NVIDIA AI Cluster Runtime giúp đơn giản hóa việc chuẩn bị Kubernetes cho phần cứng GPU mới.
- • Bộ công thức Vera Rubin NVL72 mã hóa các lựa chọn đã được kiểm chứng cho trình điều khiển và hệ điều hành.
- • Quá trình xác thực đạt hiệu suất băng thông bus qua cấu trúc NVLink.
Tổng quan về Runtime
NVIDIA AI Cluster Runtime (AICR) ghi lại các cấu hình đã được tinh chỉnh thành các công thức có thể tái sử dụng, tạo ra các gói triển khai và xác thực các cụm đang chạy nhằm đơn giản hóa tính sẵn sàng của Kubernetes cho phần cứng GPU mới.
Xác thực và Hiệu suất
Việc xác thực đầu cuối trên các cụm tham chiếu Vera Rubin NVL72 sử dụng Trình điều khiển GPU phiên bản v26.7.0 và trình điều khiển DRA phiên bản v0.5.0 vượt qua các bài kiểm tra triển khai, tuân thủ và cổng hiệu suất NCCL all-reduce trên nhiều nút.
NGUỒN & PHƯƠNG PHÁP
- 1. developer.nvidia.comMở nguồn