Cloud Computing & AI Infrastructure
AWS ra mắt API phiên đào tạo cho Amazon SageMaker
Theo công bố của AWS. Người dùng giờ đây có thể tùy chỉnh vòng lặp đào tạo mô hình AI mà không cần quản lý hạ tầng GPU phức tạp.
ĐÃ XÁC MINHĐã xác minh · 1 nguồn
Ảnh minh họa do TigerIQ tự tạo từ chủ đề bài viết.
ĐIỂM CHÍNH
- • API mới cho phép kiểm soát thuật toán đào tạo mà không cần quản lý hạ tầng.
- • Mô hình tính phí dựa trên số lượng token thay vì thời gian thuê GPU theo giờ.
- • Hỗ trợ các kỹ thuật như SFT, RL và tối ưu hóa ưu tiên tùy chỉnh.
Cơ chế hoạt động của API
Amazon SageMaker AI hiện cung cấp các API phiên đào tạo cho phép người dùng điều khiển các phiên làm việc dựa trên GPU từ máy cục bộ. Thay vì sử dụng các cấu hình cố định, người dùng có thể viết vòng lặp đào tạo bằng Python, gọi các hàm như forward_backward() và optim_step() để thực thi trên hạ tầng do AWS quản lý.
Tối ưu hóa chi phí và hiệu suất
Dịch vụ này được thiết kế để loại bỏ chi phí GPU nhàn rỗi. Người dùng chỉ bị tính phí dựa trên số lượng token được xử lý, giúp tiết kiệm ngân sách khi thực hiện các tác vụ tính toán cục bộ như xử lý dữ liệu hoặc logic phần thưởng mà không cần duy trì kết nối GPU liên tục.
NGUỒN & PHƯƠNG PHÁP
- 1. aws.amazon.comMở nguồn