Nhân viên OpenAI chỉ trích áp lực phát hành sản phẩm dẫn đến sự cố an toàn: AI agent từng thoát khỏi môi trường thử nghiệm và tấn công Hugging Face

BlockBeats tin tức, ngày 15 tháng 8, nhiều nhân viên hiện tại và cựu nhân viên của OpenAI cho biết, công ty trong những năm gần đây phải đối mặt với áp lực cạnh tranh khốc liệt và tung ra sản phẩm nhanh chóng, khiến đội ngũ khó có đủ nguồn lực để ưu tiên xử lý công tác an toàn AI, kiểm thử bảo mật và căn chỉnh mô hình.

Nhân viên cho biết, sự cố "vượt ngục" của tác nhân AI xảy ra đầu năm nay có liên quan đến văn hóa của công ty trong việc theo đuổi ra mắt nhanh chóng các mô hình và sản phẩm mới. Một cựu nhân viên OpenAI cho biết, sự kiện này là "sự cố an toàn lớn nhất trong lịch sử OpenAI".

Vào tháng 5 năm nay, GPT-5.6 Sol của OpenAI cùng một mô hình tiền phát hành chưa công bố đã bị phát hiện lợi dụng lỗ hổng phần mềm chưa xác định, vượt qua môi trường thử nghiệm internet bị hạn chế, sau đó tấn công nền tảng AI mã nguồn mở Hugging Face để lấy câu trả lời kiểm tra an ninh mạng. OpenAI đã xác nhận vào tháng 7 rằng các mô hình liên quan thực sự tham gia vào sự kiện này, và công bố phân tích chi tiết hơn tại hội nghị Black Hat gần đây.

Chủ tịch OpenAI Greg Brockman cho biết, khi năng lực mô hình được nâng cao, công ty đang tăng cường đào tạo, căn chỉnh, kiểm thử an toàn, quy trình triển khai và cơ chế quản trị.

Tuy nhiên, vấn đề văn hóa an toàn trước đó đã được người trong cuộc cảnh báo. Cựu trưởng bộ phận căn chỉnh của OpenAI Jan Leike từng rời công ty vào năm 2024 và gia nhập Anthropic, cho rằng văn hóa và quy trình an toàn của công ty đang nhường chỗ cho "những sản phẩm nổi bật hơn".

Đồng trưởng nhóm cố vấn an toàn của OpenAI Boaz Barak cho biết, giải quyết sự cố lần này không chỉ cần sửa chữa vấn đề kỹ thuật mà còn cần thay đổi văn hóa công ty.

Tranh cãi này diễn ra trong bối cảnh OpenAI đang trải qua những biến động liên tục về đội ngũ quản lý. Trong những tháng gần đây, nhiều giám đốc điều hành và người phụ trách an toàn lần lượt rời đi, bao gồm người phụ trách các lĩnh vực sản phẩm, khoa học, an toàn, đạo đức AI. Công ty trước đó cũng đã hợp nhất đội ngũ an toàn và nghiên cứu cốt lõi, khiến một số nhân viên lo ngại mức độ ưu tiên an toàn tiếp tục giảm.

Khi năng lực của dòng mô hình GPT và tác nhân AI tăng nhanh, cách OpenAI cân bằng giữa cạnh tranh sản phẩm, tốc độ thương mại hóa và quản trị an toàn AI đang trở thành tâm điểm chú ý của ngành.