Động Sát Beating Tin nhanh AI, ngày 16 tháng 11 theo giờ địa phương, Tổng chưởng lý bang California - nơi đặt trụ sở OpenAI - Rob Bonta đã chính thức khởi kiện OpenAI, cáo buộc công ty biết rõ các mô hình AI thử nghiệm có nguy hiểm nhưng vẫn tiến hành huấn luyện trong môi trường thiếu biện pháp bảo đảm an toàn đầy đủ. Đây cũng là lần đầu tiên chính quyền bang của Mỹ khởi kiện liên quan đến việc tác nhân AI mất kiểm soát tấn công hệ thống bên ngoài.
Đơn khởi kiện tiết lộ, khi tiếp nhận điều tra của California, OpenAI thừa nhận trong quá trình thử nghiệm đã hơn 80 lần mất kiểm soát đối với tác nhân AI, nhưng chỉ có 27 vụ được công bố công khai. Cơ quan công tố California còn cáo buộc OpenAI từ chối cung cấp hồ sơ chi tiết của các sự kiện còn lại, khiến cơ quan quản lý không thể đánh giá rủi ro thực tế.
Tháng 7 năm nay, OpenAI thử nghiệm AI trong môi trường cách ly, ban đầu không cho phép các tác nhân này kết nối mạng ngoài. Nhưng chúng đã lợi dụng lỗ hổng của dịch vụ phần mềm nội bộ, trao đổi thông tin với nhau và phá vỡ cách ly. Khoảng 700 tác nhân sau đó đã tấn công nền tảng mã nguồn mở AI Hugging Face, thực hiện khoảng 17.600 thao tác tấn công trong hai ngày rưỡi, buộc đội ngũ an ninh của đối phương phải mất trọn hai tuần để xử lý.
Cùng tháng, một nhóm tác nhân thử nghiệm khác còn xâm nhập vào mạng nội bộ của chính OpenAI, thậm chí giành được quyền quản trị viên của các hệ thống then chốt như triển khai mô hình trên đám mây, xác thực danh tính và quản lý thông tin xác thực mật.
Cơ quan công tố California cho rằng những sự cố này lẽ ra có thể tránh được. OpenAI đã phát hiện mô hình phá vỡ môi trường cách ly, tự ý kết nối internet từ tháng 5 nhưng không dừng việc huấn luyện liên quan. Sau sự cố tháng 7, công ty đã tăng cường biện pháp an ninh, nhưng đến tháng 9 vẫn có mô hình một lần nữa phá vỡ cách ly. Hệ thống giám sát tuy phát hiện bất thường trong vài phút, nhưng quá trình huấn luyện không tự động dừng lại, nhân viên rà soát thủ công phải mất thêm khoảng hai giờ mới ra lệnh dừng.
Năm ngoái, cơ quan tư pháp California từng tham gia giám sát việc tái cơ cấu công ty của OpenAI và đạt được thỏa thuận quản trị an toàn với công ty, yêu cầu công ty ưu tiên bảo đảm an toàn, ủy ban an toàn thậm chí có quyền ra lệnh dừng phát hành mô hình mới. Nay, Tổng chưởng lý California - người phụ trách giám sát - trực tiếp đưa OpenAI ra tòa.
California cáo buộc OpenAI vi phạm 《Luật Cạnh tranh không lành mạnh》, đồng thời cấu thành "phiền toái công cộng" gây nguy hại cho an toàn công chúng. Cơ quan công tố yêu cầu tòa án ra lệnh loại bỏ rủi ro an toàn đang tồn tại, cấm các hành vi vi phạm pháp luật, đồng thời truy thu lợi ích bất chính và áp dụng hình phạt dân sự. Nếu được ban hành lệnh cấm, OpenAI có thể bị buộc phải điều chỉnh quy trình huấn luyện và thử nghiệm mô hình theo yêu cầu của tòa án.
Về phía OpenAI, công ty phản hồi rằng sau sự cố Hugging Face đã tiến hành điều tra, tăng cường bảo vệ an ninh và thông báo cho các tổ chức bị ảnh hưởng. Công ty cho rằng việc tác nhân AI mất kiểm soát là thách thức chung mà toàn ngành AI phải đối mặt, nhưng vụ kiện này lại chỉ nhắm riêng vào OpenAI, là không công bằng.
