Anthropic cấp quyền cấp nhân viên cho bên thứ ba, đối tác cũ Accenture tiên phong tham gia

Động Sát Beating AI tin nhanh, Anthropic chính thức bắt đầu triển khai "đánh giá nhúng". Công ty AI Faculty thuộc Accenture sẽ cử người vào nội bộ Anthropic, đánh giá và kiểm thử red team mô hình, thực hiện đánh giá căn chỉnh, và kiểm tra các biện pháp an toàn.

Điều này khác biệt rất lớn so với đánh giá bên ngoài thông thường. Người đánh giá sẽ được cấp quyền gần như nhân viên, có thể xem quá trình huấn luyện mô hình, hiểu các quyết định phát triển và triển khai, còn có thể trực tiếp trao đổi với nhân viên nội bộ.

Hai bên trong năm năm tới mỗi bên đầu tư ít nhất 1 tỷ USD để xây dựng năng lực đánh giá này. Anthropic cũng thừa nhận, hiện tại ngành thậm chí chưa có quy tắc thống nhất, người đánh giá cụ thể được xem gì, kết quả công bố thế nào, ai chi tiền vẫn đang được xác định. Trước mắt công việc đánh giá của Accenture do Anthropic trực tiếp chi trả.

Nhưng bản thân Accenture vốn là đối tác chiến lược lâu dài của Anthropic, còn đặc biệt thành lập Anthropic Business Group, đào tạo khoảng 3 vạn người sử dụng Claude. Một trong những điều kiện tối thiểu mà AI Evaluator Forum đề ra cùng ngày, lại chính là tổ chức đánh giá không nên có quan hệ thương mại trọng yếu với công ty được đánh giá.

Anthropic sau này sẽ còn giới thiệu các tổ chức đánh giá khác, cũng đang đàm phán thí điểm với các tổ chức phi lợi nhuận như METR (cũng là đối tác lâu năm của Anthropic).