Quản lý chi phí Amazon Bedrock từ đầu đến cuối: Cẩm nang cho FinOps và các nhóm nền tảng
Theo công bố của AWS. AWS công bố cẩm nang quản lý chi phí trí tuệ nhân tạo tạo sinh, trình bày mô hình vận hành năm giai đoạn cho Amazon Bedrock.
- • Quản lý chi phí cho trí tuệ nhân tạo tạo sinh là trách nhiệm chung giữa các nhóm xây dựng ứng dụng và nhóm chịu trách nhiệm về chi tiêu đám mây.
- • Mô hình vận hành năm giai đoạn bao gồm phân bổ, quan sát, thực thi, tối ưu hóa và vận hành đánh giá.
- • Amazon Bedrock tự động phân bổ chi phí suy luận cho IAM principal đã thực hiện lệnh gọi trên tất cả các mô hình.
- • Các nhóm có thể sử dụng Trình tính toán giá AWS và trang định giá Amazon Bedrock để mô hình hóa tỷ lệ chi phí.
Tổng quan mô hình vận hành
Quản lý chi phí cho trí tuệ nhân tạo tạo sinh là một kỷ luật kiến trúc và vận hành đòi hỏi sự phối hợp giữa các nhóm xây dựng ứng dụng và đội ngũ tài chính. AWS đưa ra mô hình vận hành năm giai đoạn chạy như một vòng lặp liên tục bao gồm phân bổ từng đô la cho chủ sở hữu, làm cho mọi yêu cầu có thể quan sát được, kiểm soát chi tiêu bằng ngân sách và thực thi, tối ưu hóa các mặc định của nền tảng, và duy trì nhịp độ đánh giá dữ liệu thành quyết định.
Phân bổ chi phí chi tiết
Giai đoạn đầu tiên tập trung vào việc phân bổ chi phí chi tiết trên Amazon Bedrock, hệ thống tự động gán chi phí suy luận cho IAM principal thực hiện lệnh gọi mà không cần quản lý tài nguyên bổ sung. Người dùng có thể thiết lập dữ liệu IAM principal trong bản xuất dữ liệu CUR 2.0, gắn thẻ các IAM principal với các chiều kinh doanh như nhóm, ứng dụng và trung tâm chi phí để phân tích trực tiếp qua AWS Billing và Cost Explorer.
- 1. aws.amazon.comMở nguồn