Hugging Face xin gia nhập nội bộ Anthropic để thực hiện kiểm toán an toàn AI

Động Sát Beating Tin nhanh AI, CEO của Hugging Face, Clement Delangue, tuyên bố thành lập Open Alignment Initiative, do đồng sáng lập Thomas Wolf dẫn đầu, và công khai xin gia nhập chương trình "Đánh giá viên nhúng" mà Anthropic vừa đề xuất. Nếu được chấp thuận, các đánh giá viên của Hugging Face có thể thường trú dài hạn, nhận quyền truy cập gần như cấp nhân viên, trực tiếp kiểm tra quá trình huấn luyện mô hình và các biện pháp an toàn.

Delangue cho rằng, căn chỉnh AI không thể tiếp tục được giải quyết khép kín trong nội bộ một số phòng thí nghiệm tiên phong, mà cần để nhiều nhà nghiên cứu bên ngoài tham gia hơn. Anthropic đã cam kết mở loại quyền truy cập này cho bên thứ ba, bao gồm chỗ ngồi, thẻ ra vào, máy tính công ty và các công cụ gần với nhóm rủi ro nội bộ, đồng thời cho phép bên đánh giá công bố kết luận một cách độc lập.