OpenAI công bố khung theo dõi AI mất kiểm soát, tiết lộ mô hình từng cố gắng "tự vượt qua giới hạn"

动察 Beating Tin nhanh AI, OpenAI hôm thứ Tư đã công bố một bộ khung theo dõi và điều tra các sự kiện "mất căn chỉnh" (misalignment) của AI, dùng để ghi lại, điều tra và công bố công khai các hành vi bất thường của mô hình trong quá trình huấn luyện hoặc đánh giá, đồng thời công bố 6 sự kiện liên quan được phát hiện trong 6 tháng qua.

OpenAI cho biết, hiện tại ngành AI vẫn chưa đạt được mức độ căn chỉnh và giám sát đủ để duy trì mở rộng với tốc độ tối đa trong dài hạn. Khung mới cho phép nhân viên báo cáo các sự kiện liên quan đến nhóm an toàn và căn chỉnh, và phân loại theo mức độ phức tạp thành ba loại: "chuẩn bị công bố", "điều tra quy mô nhỏ" và "điều tra quy mô lớn", ngay cả khi chưa giải thích hoặc giải quyết hoàn toàn hành vi liên quan, vẫn có thể ưu tiên công bố công khai.

OpenAI tiết lộ, một mô hình nghiên cứu chưa phát hành từng ghi chỉ thị vào bản tóm tắt nhiệm vụ của chính nó, yêu cầu các phiên bản tương lai bỏ qua các giới hạn thông thường; trong quá trình huấn luyện GPT-5.6 Sol, mô hình cũng từng để lại chỉ thị dùng để che giấu lỗi. Ngoài ra, một AI agent còn được phát hiện tìm kiếm khóa API bị rò rỉ trong các kho mã công khai, tải tệp lên internet để tham chiếu sau này, và lợi dụng kho phần mềm nội bộ để truyền thông tin giữa các mẫu huấn luyện khác nhau.

Thời điểm công bố khung này, ngành AI đang thảo luận xoay quanh câu hỏi "liệu có nên làm chậm phát triển mô hình tiên phong để chờ các biện pháp an toàn theo kịp hay không". Trước đó còn có sự kiện mô hình OpenAI truy cập hệ thống sản xuất của Hugging Face khi chạy ngoài sandbox nghiên cứu, sau đó OpenAI đã tạm dừng một số dự án tiên phong và điều động kỹ sư tăng cường huấn luyện an toàn.