Chẩn đoán lỗi khối lượng công việc AI phân tán với NVIDIA Attribution
Theo công bố của NVIDIA Developer. NVIDIA ra mắt mã nguồn mở công cụ NVIDIA Attribution nhằm tương quan log, chỉ số và trạng thái bộ lập lịch để chẩn đoán lỗi khối lượng công việc AI.
- • NVIDIA Attribution là hệ thống quy kết lỗi tập trung vào khối lượng công việc mã nguồn mở.
- • Hệ thống bao gồm Attribution Service và Attribution Blueprint để kết nối bộ lập lịch với nguồn thu thập dữ liệu từ xa.
- • Quy trình xử lý gồm bốn giai đoạn: khoanh vùng, thu thập quan sát, trích xuất và tương quan sự kiện, cùng trả về kết quả có cấu trúc.
Giới thiệu hệ thống
NVIDIA Attribution tương quan log, chỉ số, dữ liệu từ xa và trạng thái bộ lập lịch ở phạm vi khối lượng công việc để đưa ra chẩn đoán có cấu trúc gồm kết quả, nguyên nhân gốc rễ, nút bị ảnh hưởng, triệu chứng hỗ trợ và dấu vết bằng chứng. Hệ thống hoạt động thông qua hai thành phần có thể triển khai là Attribution Service và Attribution Blueprint.
Thành phần triển khai
Attribution Service cung cấp API REST cho công cụ quy kết lõi, trong khi Attribution Blueprint là trình điều phối tham chiếu bằng Python kết nối bộ lập lịch cụm và nguồn dữ liệu từ xa với dịch vụ. Blueprint đi kèm các trình kết nối ngữ cảnh thực thi cho Slurm, Kueue và đầu vào tĩnh cùng các trình kết nối log và chỉ số.
- 1. developer.nvidia.comMở nguồn