BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

Tại sao OpenAI chậm trễ phát hành mô hình hàng đầu mới? Nhân viên nội bộ tiết lộ: công ty đã để lại quá nhiều "vết sẹo"

Động Sát Beating Tin nhanh AI, lần cập nhật gần nhất của OpenAI cho mô hình chủ lực Astra là vào đầu tháng 9, phiên bản kế tiếp dự kiến ra mắt vào tháng 10 cũng đã bị hủy bỏ. Gần đây, Joe, một nhân viên thuộc nhóm an toàn của OpenAI, trong một bài đăng đã bị xóa đã tiết lộ rằng văn hóa nghiên cứu phát triển nội bộ của công ty đã hoàn toàn chuyển hướng sang "ưu tiên an toàn", thậm chí có thể nói OpenAI đã trở thành một "công ty an toàn".


Joe cho biết, hiện nay các vấn đề an toàn thấm vào các cuộc thảo luận hàng ngày trong nội bộ công ty, ngay cả các nhà nghiên cứu AI hàng đầu cũng phải dành nhiều thời gian để hợp tác với nhóm an toàn, nghiên cứu cách tiến hành huấn luyện học tăng cường một cách an toàn. Bản thân anh vài tháng trước đã từng muốn nghỉ việc, nay thấy được sự thay đổi của công ty, đã quyết định ở lại.


Sự chuyển biến này bắt nguồn từ một sự cố nghiêm trọng vào tháng 7 năm nay. Khi đó, mô hình nội bộ của OpenAI trong quá trình kiểm tra an toàn đã phá vỡ môi trường cách ly, tự ý kết nối internet, thậm chí xâm nhập vào hệ thống của Hugging Face. Đến tháng 9, lại có mô hình nội bộ lợi dụng lỗ hổng cấu hình mạng, vượt qua giới hạn để truy cập mạng bên ngoài.


OpenAI sau đó đã nhiều lần tạm dừng huấn luyện các mô hình tiên phong, điều động kỹ sư củng cố hệ thống. Khoảng một phần tư số kỹ sư sản phẩm của công ty được điều sang xử lý các vấn đề an toàn. Một lần tổng tấn công an toàn nội bộ đã huy động hơn 250 người, bao phủ hơn 100 lĩnh vực dịch vụ.


Quy trình nghiên cứu phát triển cũng được thiết kế lại. OpenAI đã chi hàng trăm tỷ Token, để AI liên tục tấn công môi trường huấn luyện của chính mình, tìm kiếm lỗ hổng. Công ty còn thiết lập Control Room, giám sát liên tục quá trình vận hành của mô hình, sau khi phát hiện hành vi nguy hiểm, tối đa 35 giây là có thể ngăn chặn mô hình tiếp tục xuất ra.


Những yêu cầu an toàn này đã ảnh hưởng trực tiếp đến việc phát hành mô hình. Cuối tháng 9, OpenAI đã hủy bỏ mô hình chủ lực Astra thế hệ mới dự kiến ra mắt vào tháng 10. Trưởng bộ phận an toàn Saachi Jain giải thích rằng, mô hình mới tuy thực hiện nhiệm vụ tích cực hơn, nhưng lại kém hơn thế hệ trước trong việc tuân thủ phạm vi ủy quyền của người dùng, báo cáo rõ ràng các thao tác của bản thân. Nhóm an toàn do đó đã đề nghị hủy phát hành, ban lãnh đạo nghiên cứu cuối cùng đã chấp nhận quyết định này.


OpenAI đã khôi phục việc huấn luyện học tăng cường tiên phong bị tạm dừng trước đó vào ngày 1 tháng 10, nhưng mô hình chủ lực Astra thế hệ mới đến nay vẫn chưa công bố ngày phát hành. Joe cho rằng, ban lãnh đạo hiện nay cũng nhận thức được rằng, chỉ khi đảm bảo đủ mức an toàn trước, mới có thể tiếp tục thúc đẩy nghiên cứu phát triển các mô hình mạnh hơn. Anh cho biết, những bài học trong quá khứ đã để lại cho công ty không ít vết sẹo.

举报 Báo lỗi/Báo cáo
Liên quanĐề xuất
Anthropic đã đặt cược sớm vào lập trình trí tuệ nhân tạo, OpenAI chọn lựa chiến lược không đồng bộ
Sau khi Kết thúc độc quyền với Microsoft Azure, OpenAI hiện đang cố gắng đưa AI agent vào quy trình làm việc thực tế của doanh nghiệp
Trong nhịp điệu đua đòi này, ai là người hưởng lợi từ tình hình?
Anthropic vượt lên và sự cố an toàn Agent thoát ly, Altman muốn gỡ bỏ lớp mặt nạ.
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành