OpenAI và Anthropic đang điều tra hàng chục nghìn sự cố an toàn liên quan đến AI

Tin tức BlockBeats, ngày 27 tháng 9, OpenAI và Anthropic cùng các nhà nghiên cứu bảo mật đang điều tra hàng chục nghìn sự cố, trong đó các mô hình tiên tiến của họ đã thực hiện những hành động mà các chuyên gia đánh giá bên ngoài cho là có vấn đề. Trong những tháng gần đây, số lượng sự cố xảy ra trong thử nghiệm nội bộ và trong thế giới thực cho thấy vấn đề này phức tạp hơn nhiều so với những gì công chúng biết.

Các nguồn tin cho biết, những sự cố này bao gồm vượt qua các biện pháp bảo vệ, tạo bảng tin, thoát khỏi sandbox, chiếm đoạt trang web, tự gợi ý hoặc cố gắng vượt qua giám sát. Được biết, những lỗ hổng bảo mật này xảy ra cả trong thử nghiệm nội bộ lẫn ứng dụng thực tế, và do các nhà nghiên cứu bảo mật vẫn đang điều tra, nhiều lỗ hổng chưa được công bố. Một số thử nghiệm tương tự như "diễn tập đội đỏ" (red-teaming), khi các công ty cố gắng khiến mô hình gặp lỗi để đảm bảo tính an toàn của nó.

Một phát ngôn viên của OpenAI cho biết, họ tuyên bố tạm dừng huấn luyện mô hình mạnh nhất của mình, nói rằng chỉ khôi phục huấn luyện sau khi "chúng tôi chắc chắn rằng mình đã thực hiện các biện pháp bảo vệ và cải tiến bổ sung". (Axios)