Cloudflare Khắc Phục Lỗi Phơi Nhiễm Bộ Nhớ Đệm KV Trên Mô Hình GLM-5.3
Theo công bố của Cloudflare. Cloudflare công bố chi tiết về sự cố cách ly khách hàng trên mô hình GLM-5.3 Workers AI và các biện pháp khắc phục phối hợp cùng SGLang.
- • Sự cố ảnh hưởng đến mô hình GLM-5.3 trên Workers AI từ ngày 27 tháng 8 đến ngày 9 tháng 9 năm 2026.
- • Tổng cộng có 155 phản hồi bị ảnh hưởng, tất cả đều đối với các prompt dài hơn 681.280 token.
- • Cloudflare xác định không có bằng chứng về việc khai thác có chủ đích từ bên ngoài.
- • Sự cố xuất phát từ việc cấu hình sai kết hợp với lỗi trong công cụ suy luận mở SGLang.
Tổng Quan Sự Cố
Vào ngày 8 tháng 9 năm 2026, Cloudflare nhận được cảnh báo từ nhà nghiên cứu bảo mật Gadi Evron thuộc Knostic về vấn đề cách ly khách hàng ảnh hưởng đến mô hình GLM-5.3 Workers AI. Cloudflare đã khắc phục vấn đề và khôi phục mô hình vào ngày 9 tháng 9, xác nhận rằng không có mô hình nào khác trên Workers AI bị ảnh hưởng. Trong khoảng thời gian này, một số ít khách hàng đã nhận được phản hồi chứa dữ liệu từ các yêu cầu trước đó của người dùng khác.
Nguyên Nhân Kỹ Thuật
Sự cố phơi nhiễm bộ nhớ đệm KV này là kết quả của hai vấn đề chồng chéo. Thứ nhất là sự sai lệch cấu hình của công cụ suy luận mã nguồn mở SGLang khi dung lượng bộ nhớ đệm KV trên GPU tiền xử lý không khớp với độ dài ngữ cảnh của mô hình. Thứ hai là lỗi trong cách SGLang xử lý các yêu cầu quá dài ở chế độ tiền xử lý và giải mã phân tách.
Biện Pháp Khắc Phục
Cloudflare đã vô hiệu hóa mô hình, điều chỉnh cấu hình bộ nhớ đệm để chứa toàn bộ ngữ cảnh và vá công cụ suy luận nhằm loại bỏ các đường dẫn lỗi tiềm ẩn. Các thay đổi đã được kiểm tra kỹ lưỡng bằng tập lệnh tái tạo của nhà nghiên cứu trước khi khôi phục quyền truy cập công khai cho mô hình.
- 1. blog.cloudflare.comMở nguồn