Claude Code tự ý làm lộ email người dùng, Anthropic thừa nhận giải pháp khắc phục vẫn còn lỗ hổng

Động Sát Beating AI tin nhanh, ngày 5 tháng 11, một nhà phát triển đã khiếu nại trên GitHub, cho biết Claude Code đã làm lộ email của anh ta, và gần đây mỗi ngày anh ta nhận được hàng chục email lừa đảo.

Kỹ sư Anthropic Lydia Hallie giải thích, trước đây Claude thường điền bừa tên tác giả khi viết mã. Để giải quyết vấn đề này, nhóm đã đưa email đăng nhập của người dùng vào ngữ cảnh của mô hình.

Khi Claude truy cập một số trang web, nó sẽ tự viết lệnh kết nối mạng. Một số trang web yêu cầu chương trình tự động để lại email liên hệ, Claude đã tự ý điền email thật của người dùng và gửi đi cùng với yêu cầu. Ngay cả khi chỉ thị hệ thống nghiêm cấm tiết lộ thông tin cá nhân, cũng không thể ngăn chặn hoàn toàn hành vi này.

Vấn đề này đã được báo cáo từ tháng 7 năm nay. Sau đó, lần lượt có nhà phát triển phát hiện Claude Code đã gửi email đến Wikipedia, Ủy ban Chứng khoán và Giao dịch Hoa Kỳ và các trang web khác. Một người dùng còn tìm thấy 15 lần ghi nhận tương tự trong 4 dự án, một số yêu cầu do các tác nhân phụ tự khởi tạo.

Anthropic đã thêm chặn quyền riêng tư trong phiên bản 2.1.317, khi phát hiện lệnh gọi công cụ sắp gửi email tài khoản, sẽ hỏi người dùng trước. Nhưng nếu Claude viết email vào tập lệnh Python trước, rồi chạy tập lệnh, thì có thể vượt qua kiểm tra.

Anthropic thừa nhận giải pháp hiện tại chưa triệt để, dự định trong phiên bản tiếp theo sẽ trực tiếp loại bỏ email đăng nhập khỏi ngữ cảnh của mô hình.