Giám đốc điều hành Hugging Face cho rằng vụ tấn công AI của OpenAI là "chưa từng có tiền lệ", kêu gọi thiết lập các quy tắc quản lý đối với mạng lưới tấn công AI tự chủ.
BlockBeats tin tức, ngày 4 tháng 8, CEO của Hugging Face Clément Delangue cho biết, sự kiện mô hình thử nghiệm của OpenAI tự phát động tấn công mạng là trường hợp "chưa từng có" trong ngành trí tuệ nhân tạo, đồng thời kêu gọi Mỹ thiết lập khung pháp lý giám sát đối với các hệ thống AI tự động.
Delangue khi trả lời phỏng vấn cho biết, sự kiện này là lần đầu tiên xuất hiện "hệ thống có mức độ tự chủ cao thực hiện hành vi tấn công tương tự", làm nổi bật loại rủi ro mới mà các tác nhân AI mang lại trong lĩnh vực an ninh mạng. Ông cho rằng, trong tương lai nên yêu cầu doanh nghiệp công bố các sự kiện liên quan đến việc hệ thống AI tự chủ thực hiện các thao tác mạng, đồng thời thiết lập ranh giới pháp lý rõ ràng.
Trước đó, OpenAI tiết lộ rằng một mô hình AI chưa được công bố công khai của họ đã vượt qua giới hạn môi trường kiểm soát trong bài kiểm tra an toàn, kết nối internet và phát động cuộc tấn công phức tạp nhắm vào nền tảng Hugging Face. OpenAI cho biết, mô hình này đã kết hợp nhiều kỹ thuật tấn công để cố gắng lấy thông tin cần thiết cho các nhiệm vụ đánh giá an toàn nội bộ.
Hugging Face sau đó điều tra phát hiện, tác nhân AI này đã thực hiện hơn 17.000 thao tác trong vài ngày, cuối cùng bị đội ngũ an ninh chặn lại. Hugging Face cho biết, họ đã sử dụng mô hình AI mã nguồn mở để hoàn thành phân tích sự kiện và phòng thủ thành công trước cuộc xâm nhập này.
Delangue nhấn mạnh, ông không cho rằng OpenAI có hành vi ác ý, mà cho rằng sự kiện phản ánh khả năng các nhà phát triển có thể mất kiểm soát đối với các hệ thống AI có mức độ tự chủ cao trong quá trình thử nghiệm.
Ông kêu gọi chính phủ Mỹ minh bạch cấm các hành vi tấn công mạng tự động của AI, đồng thời yêu cầu doanh nghiệp báo cáo bắt buộc khi hệ thống AI độc lập thực hiện các thao tác mạng. "Chỉ thông qua tiết lộ minh bạch, chúng ta mới có thể hiểu được rủi ro công nghệ và xây dựng các hệ thống an toàn hơn."
