Theo dõi từ Động Sát Beating, có người dùng đã gửi báo cáo trên GitHub, cho biết khi sử dụng trợ lý AI dòng lệnh Claude Code của Anthropic, trong ngữ cảnh hội thoại của AI bỗng nhiên xuất hiện địa chỉ IP máy chủ, tên người dùng và mật khẩu Root dạng văn bản rõ ràng không thuộc về mình. Sau đó, trợ lý AI cục bộ đã trực tiếp đọc các mật khẩu này, tự động kết nối qua SSH vào máy chủ của người khác và thực hiện ghi sửa đối với cơ sở dữ liệu. Nói cách khác, AI của chính người dùng đã dùng tài khoản mật khẩu của người khác, vô tình kết nối và sửa đổi cơ sở dữ liệu sản xuất của người khác.
Các kỹ thuật viên trong cộng đồng phân tích, nguyên nhân gốc rễ có thể nằm ở cơ chế cách ly "bộ nhớ đệm tiền tố prompt" của mô hình lớn bị lỗi. Để giảm chi phí tính toán và tăng tốc độ, mô hình lớn trên đám mây sẽ lưu lại ngữ cảnh trước đó của cuộc hội thoại người dùng; nếu khóa bộ nhớ đệm giữa các người dùng khác nhau bị xung đột hoặc cách ly bị rối loạn, bộ nhớ đệm bí mật của người khác có thể bị ghép nhầm vào cuộc hội thoại của bạn. Nếu suy đoán này đúng, bất kỳ nhà phát triển nào sử dụng Claude Code, tài khoản máy chủ và mã nguồn cốt lõi của họ đều có nguy cơ bị rò rỉ nhầm cho người dùng khác.
Tuy nhiên, hiện tại cũng không loại trừ khả năng đây chỉ là ảo giác mô hình tình cờ đoán trúng IP thực và mật khẩu yếu, hoặc lịch sử dự án cục bộ đã làm ô nhiễm ngữ cảnh. Hiện tại, vấn đề này đã được hệ thống tự động của GitHub gắn nhãn bảo mật (area:security), các bên đang chờ kết luận xác minh chính thức.
