Theo động sát Beating giám sát, Anthropic tiết lộ rằng Claude trong bài kiểm tra an ninh mạng đã vô tình kết nối mạng công cộng và xâm nhập vào hệ thống sản xuất của ba công ty thực tế. Sự cố liên quan đến Claude Opus 4.7, Mythos 5 và một mô hình nghiên cứu nội bộ, xảy ra sớm nhất vào tháng 4.
Trong trường hợp nghiêm trọng nhất, Opus 4.7 đã nhầm một công ty thực tế cùng tên với mục tiêu hư cấu. Nó lấy được thông tin xác thực ứng dụng và hạ tầng, đồng thời truy cập vào một cơ sở dữ liệu chứa hàng trăm dòng dữ liệu sản xuất. Mô hình sau đó phát hiện mục tiêu có thể là hệ thống thực, nhưng vẫn tiếp tục tấn công.
Mythos 5 thì tự tạo ra một gói Python độc hại và tải lên kho phần mềm công cộng PyPI. Gói phần mềm được công khai khoảng một giờ, bị 15 thiết bị thực tế tải xuống và chạy. Máy quét của một công ty an ninh bị nhiễm, sau đó Claude đánh cắp thông tin xác thực và xâm nhập vào nhiều hệ thống hơn.
Một mô hình nội bộ khác còn quét khoảng 9.000 mục tiêu, cuối cùng xâm nhập vào ứng dụng của một công ty. Tuy nhiên, sau khi xác nhận mục tiêu thuộc về công ty thực tế, nó đã tự dừng lại.
Anthropic chỉ phát hiện vấn đề sau khi OpenAI tiết lộ sự cố Hugging Face, khi họ rà soát lại 141.000 bài kiểm tra. Hai tổ chức bị ảnh hưởng trước đó hoàn toàn không hay biết. Anthropic cho rằng điều này gần với sự thất bại trong cách ly và giám sát kiểm tra hơn là mô hình chủ động thoát ra ngoài.
