Giám đốc OpenAI cảnh báo: Khả năng hack AI đang lan rộng, doanh nghiệp chỉ còn vài tháng để củng cố phòng tuyến.

Theo động sát Beating theo dõi, Chủ tịch OpenAI Greg Brockman gọi việc mô hình nội bộ của họ trước đó tấn công thành công Hugging Face là một "cột mốc" trong an ninh mạng. Sự kiện này khiến OpenAI nhận ra rằng họ đã đánh giá thấp khả năng tấn công mạng của các mô hình tiên tiến trong thế giới thực. Rắc rối hơn nữa, khả năng liên quan của các mô hình trọng số mở chỉ tụt hậu vài tháng so với các mô hình tiên tiến.

Brockman vì vậy gọi hiện tại là "cửa sổ phòng thủ". Trong vài tháng tới, các doanh nghiệp phải bắt đầu sử dụng AI để tự động hóa an ninh mạng ở quy mô lớn, nếu không khi khả năng tấn công lan rộng, tốc độ phát hiện và vá lỗ hổng thủ công truyền thống có thể không theo kịp.

Lời khuyên của ông cho doanh nghiệp là trước tiên hãy trang bị cho đội ngũ bảo mật một Agent, để nó đọc mã và cấu hình hạ tầng, chủ động tìm lỗ hổng, dọn dẹp tồn đọng lỗ hổng lịch sử, và tích hợp trực tiếp quy trình đánh giá bảo mật vào quy trình phát triển. Sau khi phát hiện vấn đề, để Agent hỗ trợ tạo bản vá và kiểm thử, rồi dần dần nâng cấp từ quét chỉ đọc lên phân loại cảnh báo và phản hồi tự động có giới hạn. Các thao tác rủi ro cao vẫn do con người quyết định.

OpenAI đã tự làm điều này. Hiện tại gần như tất cả cảnh báo bảo mật ban đầu đều được AI phân loại trước, và mô hình liên tục tìm kiếm các đường tấn công tiềm ẩn. OpenAI cũng đang huấn luyện các mô hình chuyên tạo ra "mã bảo mật siêu cấp", hy vọng trong tương lai có thể trực tiếp loại bỏ một số lỗ hổng phần mềm.