OpenAI giao cho trưởng bộ phận sản phẩm Tibo chủ trì việc chấn chỉnh an toàn, một phần tư kỹ sư chuyển sang vá lỗ hổng

Động Sát Beating Tin nhanh AI, OpenAI bắt đầu đợt chấn chỉnh an ninh nội bộ quy mô lớn, do Thibault Sottiaux (Tibo), giám đốc điều hành phụ trách phát triển sản phẩm, trực tiếp dẫn đầu. Vào tháng 8 năm nay, ông đã điều động khoảng một phần tư số kỹ sư sản xuất để chuyên trách vá các lỗ hổng an ninh trong hệ thống nội bộ.

Ngày 2 tháng 11, OpenAI lại công bố khởi động một vòng kiểm thử an ninh mới, hợp tác với công ty an ninh mạng Cathedral, sử dụng mô hình của chính mình và các nhà nghiên cứu an ninh bên ngoài cùng nhau tìm kiếm lỗ hổng hệ thống. Đồng thời, công ty đã nâng mức thưởng cho các lỗ hổng nghiêm trọng lên hơn 4 lần so với trước đây.

Nguyên nhân của đợt chấn chỉnh này là vấn đề an ninh nội bộ mà OpenAI đã nhiều năm không giải quyết tốt. Năm người am hiểu tình hình được Reuters phỏng vấn tiết lộ rằng, ngay từ trước khi ChatGPT ra mắt, nhân viên đã nhiều lần cảnh báo với ban lãnh đạo và hội đồng quản trị, cho rằng phạm vi mở dữ liệu nội bộ của công ty quá rộng, kiểm tra an ninh cũng không đủ nghiêm ngặt.

Vào thời điểm đó, OpenAI đặt mã nguồn của nhiều dự án trong cùng một kho lưu trữ. Chỉ cần nhân viên có quyền truy cập là có thể thấy mã nguồn của nhiều dự án không liên quan đến công việc của mình. Một số tài liệu nghiên cứu cũng từng được đặt trên GitHub và Slack, một số công cụ kiểm thử nội bộ thậm chí thiếu kiểm tra an ninh định kỳ. Nhân viên lo ngại rằng cách quản lý như vậy sẽ khiến tin tặc bên ngoài, thậm chí cả chính phủ nước ngoài, dễ dàng tiếp cận công nghệ cốt lõi của công ty hơn.

Ngay từ năm 2023, OpenAI đã từng xảy ra sự cố rò rỉ dữ liệu nội bộ. Một tin tặc đã xâm nhập vào Slack của công ty, đánh cắp chi tiết kỹ thuật của mô hình GPT-4. OpenAI sau đó giải thích rằng tin tặc chỉ xâm nhập vào kênh nội bộ mà nhân viên thông thường đều có thể truy cập.

Vào tháng 7 năm nay, ba nhà nghiên cứu của công ty an ninh Hacktron AI lại sử dụng mô hình của Anthropic để tấn công tài khoản ChatGPT của nhiều nhân viên OpenAI, và xâm nhập vào một số hệ thống nội bộ bao gồm cả kho mã nguồn của công ty.

Được biết đến rộng rãi hơn là một vụ án nội bộ vào tháng 10 năm nay. Bộ Tư pháp Hoa Kỳ cáo buộc một kỹ sư OpenAI quốc tịch Saudi đã lắp đặt thiết bị ghi âm ẩn trong phòng họp của các giám đốc điều hành công ty. Anh ta cũng từng sử dụng công cụ AI nội bộ để tra cứu lịch trình các giám đốc điều hành đến thăm Saudi, cũng như những giám đốc nào có thể tham gia cuộc họp với bộ trưởng Saudi. Tài liệu của Bộ Tư pháp còn cho thấy anh ta đã từng giữ liên lạc với một thành viên hoàng gia tìm cách chiêu mộ anh ta tham gia dự án AI của Saudi.

Nhiều sự việc liên tiếp bị phơi bày cũng khiến những cảnh báo an ninh mà nhân viên đưa ra từ nhiều năm trước một lần nữa được chú ý. OpenAI trước đây nhấn mạnh hơn vào tốc độ nghiên cứu phát triển và mở rộng thông tin, nay bắt đầu thắt chặt quyền hạn nội bộ, tăng cường kiểm tra an ninh và đầu tư một lượng lớn kỹ sư để vá lỗ hổng.