Xây dựng tác nhân hiệu quả với phương pháp chưng cất tri thức trên Amazon SageMaker AI
Theo công bố của AWS. Khám phá cách sử dụng chưng cất tri thức cấp chuỗi để tinh chỉnh tác nhân mua sắm trên Amazon SageMaker AI.
- • Tìm hiểu cách áp dụng chưng cất tri thức cấp chuỗi trên Amazon SageMaker AI.
- • Tạo các quỹ đạo đa bước với mô hình giáo viên tuyến đầu.
- • Tinh chỉnh mô hình học sinh nhỏ hơn bằng cách sử dụng các phản hồi từ giáo viên.
Tổng quan về phương pháp chưng cất tri thức
Phương pháp chưng cất tri thức cấp chuỗi sử dụng mô hình giáo viên để tạo các phản hồi chất lượng cao, sau đó huấn luyện mô hình học sinh dựa trên các phản hồi đó bằng cách tinh chỉnh có giám sát. Phương pháp này không yêu cầu quyền truy cập vào logits của giáo viên hoặc cơ sở hạ tầng học tăng cường, giúp nó hoạt động ngay cả với giáo viên đóng hoặc chỉ qua API.
Giải pháp và quy trình thực hiện
Hướng dẫn trình bày cách sử dụng mô hình giáo viên tuyến đầu trên Amazon Bedrock để đóng vai trò tác nhân ShoppingBench, giữ lại các quỹ đạo giải quyết thành công nhiệm vụ, và tinh chỉnh mô hình học sinh Qwen3.5-4B thông qua tùy chỉnh mô hình không máy chủ trên Amazon SageMaker AI.
- 1. aws.amazon.comMở nguồn