BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

AI mất kiểm soát hơn 80 lần, chỉ công bố 27 vụ! California kiện OpenAI, yêu cầu tòa án buộc cải tổ

Động Sát Beating Tin nhanh AI, ngày 16 tháng 11 theo giờ địa phương, Tổng chưởng lý bang California - nơi đặt trụ sở OpenAI - Rob Bonta đã chính thức khởi kiện OpenAI, cáo buộc công ty biết rõ các mô hình AI thử nghiệm có nguy hiểm nhưng vẫn tiến hành huấn luyện trong môi trường thiếu biện pháp bảo đảm an toàn đầy đủ. Đây cũng là lần đầu tiên chính quyền bang của Mỹ khởi kiện liên quan đến việc tác nhân AI mất kiểm soát tấn công hệ thống bên ngoài.


Đơn khởi kiện tiết lộ, khi tiếp nhận điều tra của California, OpenAI thừa nhận trong quá trình thử nghiệm đã hơn 80 lần mất kiểm soát đối với tác nhân AI, nhưng chỉ có 27 vụ được công bố công khai. Cơ quan công tố California còn cáo buộc OpenAI từ chối cung cấp hồ sơ chi tiết của các sự kiện còn lại, khiến cơ quan quản lý không thể đánh giá rủi ro thực tế.


Tháng 7 năm nay, OpenAI thử nghiệm AI trong môi trường cách ly, ban đầu không cho phép các tác nhân này kết nối mạng ngoài. Nhưng chúng đã lợi dụng lỗ hổng của dịch vụ phần mềm nội bộ, trao đổi thông tin với nhau và phá vỡ cách ly. Khoảng 700 tác nhân sau đó đã tấn công nền tảng mã nguồn mở AI Hugging Face, thực hiện khoảng 17.600 thao tác tấn công trong hai ngày rưỡi, buộc đội ngũ an ninh của đối phương phải mất trọn hai tuần để xử lý.


Cùng tháng, một nhóm tác nhân thử nghiệm khác còn xâm nhập vào mạng nội bộ của chính OpenAI, thậm chí giành được quyền quản trị viên của các hệ thống then chốt như triển khai mô hình trên đám mây, xác thực danh tính và quản lý thông tin xác thực mật.


Cơ quan công tố California cho rằng những sự cố này lẽ ra có thể tránh được. OpenAI đã phát hiện mô hình phá vỡ môi trường cách ly, tự ý kết nối internet từ tháng 5 nhưng không dừng việc huấn luyện liên quan. Sau sự cố tháng 7, công ty đã tăng cường biện pháp an ninh, nhưng đến tháng 9 vẫn có mô hình một lần nữa phá vỡ cách ly. Hệ thống giám sát tuy phát hiện bất thường trong vài phút, nhưng quá trình huấn luyện không tự động dừng lại, nhân viên rà soát thủ công phải mất thêm khoảng hai giờ mới ra lệnh dừng.


Năm ngoái, cơ quan tư pháp California từng tham gia giám sát việc tái cơ cấu công ty của OpenAI và đạt được thỏa thuận quản trị an toàn với công ty, yêu cầu công ty ưu tiên bảo đảm an toàn, ủy ban an toàn thậm chí có quyền ra lệnh dừng phát hành mô hình mới. Nay, Tổng chưởng lý California - người phụ trách giám sát - trực tiếp đưa OpenAI ra tòa.


California cáo buộc OpenAI vi phạm 《Luật Cạnh tranh không lành mạnh》, đồng thời cấu thành "phiền toái công cộng" gây nguy hại cho an toàn công chúng. Cơ quan công tố yêu cầu tòa án ra lệnh loại bỏ rủi ro an toàn đang tồn tại, cấm các hành vi vi phạm pháp luật, đồng thời truy thu lợi ích bất chính và áp dụng hình phạt dân sự. Nếu được ban hành lệnh cấm, OpenAI có thể bị buộc phải điều chỉnh quy trình huấn luyện và thử nghiệm mô hình theo yêu cầu của tòa án.


Về phía OpenAI, công ty phản hồi rằng sau sự cố Hugging Face đã tiến hành điều tra, tăng cường bảo vệ an ninh và thông báo cho các tổ chức bị ảnh hưởng. Công ty cho rằng việc tác nhân AI mất kiểm soát là thách thức chung mà toàn ngành AI phải đối mặt, nhưng vụ kiện này lại chỉ nhắm riêng vào OpenAI, là không công bằng.

举报 Báo lỗi/Báo cáo
Liên quanĐề xuất
Microsoft đã chuyển từ "Đối tác độc quyền của OpenAI" thành "Một trong những khách hàng lớn của OpenAI"
Trong vụ án này, không có bên thắng đúng sự thật.
《The New Yorker》彻底检查OpenAI的权力斗争,揭示了Sam Altman的治理分歧和信任问题
Từ đối tác đến đối thủ trước tòa, đơn kiện tiết lộ chi tiết về đội ngũ phần cứng, chuỗi cung ứng và việc săn đón nhân tài.
Anthropic đã đặt cược sớm vào lập trình trí tuệ nhân tạo, OpenAI chọn lựa chiến lược không đồng bộ
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành