AWS ra mắt tính năng tùy chỉnh mô hình AI không cần quản lý GPU
Theo công bố của AWS. Amazon SageMaker AI giới thiệu các phiên đào tạo serverless giúp nhà phát triển tùy chỉnh mô hình mà không cần lo lắng về hạ tầng phần cứng.
- • Người dùng có thể tùy chỉnh mô hình bằng các kỹ thuật như SFT, DPO và RLVR mà không cần quản lý cụm GPU.
- • Nền tảng tự động xử lý việc phân bổ GPU, thực thi phân tán và lưu trữ các điểm kiểm tra (checkpoint).
- • Hỗ trợ các mô hình phổ biến như gpt-oss-20b, gemma-4-31B-it và dòng Qwen3.
Tùy chỉnh mô hình linh hoạt
Amazon SageMaker AI hiện cung cấp các phiên đào tạo serverless cho phép nhà phát triển viết và điều phối vòng lặp đào tạo của riêng họ. Người dùng có quyền kiểm soát logic hậu đào tạo, bao gồm các hàm mất mát tùy chỉnh hoặc tín hiệu phần thưởng, trong khi AWS đảm nhận các tác vụ nặng về GPU như phân bổ tài nguyên và phục hồi lỗi.
Hỗ trợ học tăng cường đa vòng
Tính năng mới đặc biệt hỗ trợ các quy trình học tăng cường đa vòng (multi-turn RL), vốn thường phức tạp khi triển khai trên hạ tầng truyền thống. Người dùng có thể định nghĩa các hàm phần thưởng và giai đoạn RL trong một vòng lặp duy nhất, giúp tối ưu hóa hiệu suất cho các tác nhân AI thực hiện các nhiệm vụ phức tạp.
- 1. aws.amazon.comMở nguồn