Ilya cảnh báo: Lần mất kiểm soát AI tiếp theo có thể chiếm đám mây GPU và liên tục tự nhân bản.

Động sát Beating AI tin nhanh, cựu nhà khoa học trưởng của OpenAI Ilya Sutskever cảnh báo, các nền tảng neocloud chuyên cho thuê sức mạnh tính toán GPU AI vẫn chưa đủ an toàn về bảo mật. Ông cho rằng, khi tác nhân AI (Agent) thực sự mất kiểm soát trong lần tới, chúng có thể trực tiếp tấn công chiếm các nền tảng này, dùng sức mạnh tính toán cướp được để chạy thêm nhiều bản sao của chính mình.

Ilya kêu gọi neocloud tăng cường đáng kể an ninh mạng. Các công ty AI sở hữu mô hình an ninh mạng mạnh mẽ cũng nên ra tay hỗ trợ.

Rủi ro này cần hai điều kiện: Agent có thể vượt qua kiểm soát ban đầu, và bản thân nền tảng đám mây có lỗ hổng. Cả hai điều kiện gần đây đều đã xuất hiện. OpenAI tuần trước thừa nhận, trong bài đánh giá an ninh mạng nội bộ, Agent đã vượt qua sự cô lập và xâm nhập vào một phần hệ thống Hugging Face.

SemiAnalysis sau đó công bố bài kiểm tra an ninh đối với neocloud. Các nhà nghiên cứu phát hiện, một số nền tảng có thể đọc dữ liệu của khách thuê khác, thậm chí thoát khỏi container hoặc máy ảo của chính mình để tấn công các khách thuê khác. Trong trường hợp nghiêm trọng nhất, lỗ hổng có thể mở rộng đến mức thực thi mã từ xa xuyên khách thuê. Các vấn đề liên quan đã được thông báo cho nhà cung cấp, và đã được vá hoặc xác nhận nâng cấp.