"Bên thứ ba độc lập" được Anthropic chỉ định bị nghi ngờ: mạng lưới sáng lập có mối quan hệ chằng chịt với công ty

Động Sát Beating AI tin nhanh, CEO Anthropic Dario Amodei gần đây chủ trương để các tổ chức đánh giá bên thứ ba như METR thường trú lâu dài tại các công ty AI tiên phong, có được quyền hạn gần ngang nhân viên, kiểm tra các biện pháp an toàn, sự cố và quá trình huấn luyện mô hình. Nhưng điều tra của New York Post phát hiện, giới an toàn AI mà METR và Anthropic thuộc về có quan hệ gần gũi hơn nhiều so với "kiểm toán bên ngoài" thông thường.

METR ban đầu tên là ARC Evals, được ươm tạo từ Alignment Research Center do Paul Christiano sáng lập. Christiano không chỉ từng làm việc cùng Amodei tại OpenAI, New York Post cho biết hai người còn từng ở cùng phòng; sau đó ông trở thành một trong năm người được ủy thác ban đầu của Anthropic Long-Term Benefit Trust. Nhân sự kỹ thuật hiện tại của METR là Ajeya Cotra là vợ của Christiano, trước đây còn phụ trách tài trợ an toàn AI của Coefficient Giving.

Vấn đề trực tiếp hơn đến từ chính METR. Năm nay khi đánh giá Anthropic, OpenAI, Google và Meta, lúc đó vẫn chưa có chính sách xung đột lợi ích nhân sự áp dụng, cũng chưa thực hiện quy trình tránh né chính thức. METR tiết lộ, trong số nhân viên và cộng tác viên trực tiếp tham gia dự án, ít nhất 6 người có quan hệ cá nhân mật thiết với nhân viên các công ty AI.

Tất nhiên điều này không thể chứng minh METR bị Anthropic kiểm soát. METR tuyên bố rõ ràng không nhận tài trợ từ các công ty AI tiên phong và nhân viên của họ, làm đánh giá rủi ro cũng không thu phí, tuy nhiên các công ty này sẽ cung cấp miễn phí một lượng lớn Token mô hình.