Google Cloud và NVIDIA công bố hạ tầng Vera Rubin
Theo công bố của NVIDIA. Nền tảng tích hợp mới hỗ trợ đào tạo AI và học tăng cường quy mô lớn trên Google Cloud.
- • Ra mắt các phiên bản A5X sử dụng kiến trúc NVIDIA Vera Rubin NVL72.
- • Google Cloud dự kiến mở rộng quy mô lên tới 960.000 GPU Rubin.
- • Hỗ trợ tính năng điện toán bảo mật (Confidential Computing) cho các tác vụ AI.
Ra mắt hạ tầng A5X
Google Cloud và NVIDIA thông báo về việc cung cấp rộng rãi các phiên bản A5X, kết hợp giữa NVIDIA Vera Rubin NVL72, bộ chuyển mạch ConnectX-9 SuperNIC và công nghệ làm mát bằng chất lỏng thế hệ thứ tư của Google. Hệ thống này được thiết kế để phục vụ các tác vụ suy luận đại lý và học tăng cường đòi hỏi hiệu suất cao.
Ứng dụng thực tế của khách hàng
Công ty Ineffable Intelligence là đơn vị đầu tiên tiếp cận A5X để phát triển các hệ thống siêu học tập (superlearner) có khả năng tự cải thiện liên tục. Ngoài ra, WPP cũng đã thử nghiệm kiến trúc đại lý sáng tạo trên nền tảng này, cho phép thực hiện các quy trình công việc phức tạp như tạo video và chỉnh sửa nội dung với sự kiểm soát chặt chẽ.
Bảo mật và hiệu quả năng lượng
Google Cloud sẽ cung cấp tính năng NVIDIA Confidential Computing ở quy mô rack trên các phiên bản bare metal, giúp bảo vệ dữ liệu và mô hình độc quyền. Đồng thời, hai công ty đang nghiên cứu các khả năng tối ưu hóa hiệu suất trên mỗi watt điện để hỗ trợ triển khai hạ tầng quy mô lớn trong giới hạn ngân sách năng lượng của trung tâm dữ liệu.
- 1. blogs.nvidia.comMở nguồn