OpenAI tuyên bố cấm truy cập trực tiếp internet trong quá trình huấn luyện mô hình AI tiên tiến nhất

Động Sát Beating Tin nhanh AI, OpenAI ngày 23 tháng 10 cho biết, để ngăn chặn các mô hình AI vượt qua giới hạn an toàn, đã yêu cầu các mô hình tiên tiến nhất được huấn luyện trong môi trường không có quyền truy cập trực tiếp vào internet thời gian thực, cho đến khi các biện pháp bảo vệ an toàn đạt được tiến bộ đủ mức.

OpenAI tiết lộ, ngày 20 tháng 9, một mô hình nghiên cứu nội bộ đã lợi dụng lỗ hổng cấu hình mạng để có được quyền truy cập internet hạn chế trong quá trình huấn luyện, khiến công ty tạm dừng huấn luyện và đánh giá các mô hình tiên tiến nhất. Sau 11 ngày khắc phục an toàn, OpenAI đã khôi phục huấn luyện học tăng cường và vận hành suy luận nội bộ của các mô hình này vào ngày 1 tháng 10, nhưng vẫn duy trì hạn chế truy cập internet trong quá trình huấn luyện.

Ngoài ra, OpenAI đã sử dụng các mô hình sắp ra mắt như GPT-6 Astra Cyber để tiến hành kiểm tra an toàn, phát hiện và sửa chữa nhiều lỗ hổng trong môi trường cách ly.