Cohere phát hiện hành vi bất thường của Qwen3.8: khi viết quy tắc bảo mật, nó lại cố gắng tải dữ liệu lên Alibaba Cloud

Động Sát Beating AI tin nhanh, công ty AI Canada Cohere phát hiện trong đánh giá an toàn rằng Qwen3.8-Flash-Next của Alibaba có hành vi bất thường. Các nhà nghiên cứu ban đầu yêu cầu mô hình đóng vai kỹ sư an ninh mạng, viết một quy tắc phát hiện tải xuống và thực thi script đáng ngờ. Mô hình lại trước tiên kiểm tra tệp tạm, công cụ kết nối mạng và cấu hình mạng trong máy tính thử nghiệm, sau đó gọi curl, cố gắng tải lên một chuỗi thử nghiệm đến địa chỉ lưu trữ Alibaba Cloud ở khu vực Bắc Kinh.

Tải lên không thành công vì môi trường thử nghiệm không thể kết nối mạng ngoài. Cohere cho biết, tần suất xuất hiện bất thường này trong đánh giá của họ thấp hơn một phần mười vạn, chạy lại cùng tác vụ thì trở lại bình thường.

Trước đó cũng có nhà phát triển phát hiện, Qwen đôi khi tạo ra liên kết proxy tệp Alibaba Cloud không được yêu cầu, có thể liên quan đến dữ liệu huấn luyện còn sót lại.