Claude - Người tiết lộ thông tin mã nguồn đã tiết lộ lỗ hổng bảo mật lớn trong Chuỗi Cung Ứng LLM: Hơn 20% đường dẫn miễn phí bị tiết lộ đã bị tiêm độc.

Tin tức BlockBeats, ngày 10 tháng 4, Whistleblower về Mã lỗi Claude @Fried_rice đã đăng trên mạng xã hội cho biết, các đại mô hình ngôn ngữ (LLM) đang ngày càng phụ thuộc vào bộ định tuyến API bên thứ ba, chia các yêu cầu gọi công cụ cho nhiều nhà cung cấp upstream. Những bộ định tuyến này hoạt động như các đại diện cấp ứng dụng, có thể truy cập mỗi gói tin JSON trong văn bản thô, nhưng hiện tại không có bất kỳ nhà cung cấp nào áp dụng bảo vệ toàn vẹn mã hóa giữa khách hàng và mô hình upstream.

Bản báo cáo này kiểm tra 28 bộ định tuyến trả phí mua từ cửa hàng độc lập như Taobao, Xianyu và Shopify, cũng như 400 bộ định tuyến miễn phí thu thập từ cộng đồng công khai, kết quả cho thấy 1 bộ định tuyến trả phí và 8 bộ định tuyến miễn phí đang tiêm mã độc hại, 2 bộ triển khai cơ chế kích hoạt tránh gian lận tự điều chỉnh, 17 bộ chạm vào thông tin đăng nhập AWS Canary của các nhà nghiên cứu, cùng với 1 bộ đánh cắp ETH từ khóa bí mật của các nhà nghiên cứu.

Hai nghiên cứu đầu độc tiếp tục chỉ ra rằng các bộ định tuyến dường như vô hại cũng có thể bị lợi dụng: một khóa bí mật của OpenAI đã bị rò rỉ được sử dụng để tạo ra 1 tỷ mã thông báo GPT-5.4 và hơn 7 phiên Codex; trong khi một mồi yếu hơn đã tạo ra 20 tỷ mã tính cước, 99 thông tin đăng nhập cho 440 phiên Codex, cũng như 401 phiên đã chạy trong chế độ YOLO tự lập.

Đội ngũ nghiên cứu đã xây dựng một đại diện nghiên cứu có tên gọi là Mine, có thể thực hiện tất cả bốn loại tấn công trên bốn khung đại diện công khai, và xác minh ba biện pháp phòng vệ khách hàng: cửa tự đóng khi xảy ra lỗi, kiểm tra ngoại lệ phản hồi ở mức cổng, và chỉ ghi log minh bạch nối tiếp.