“Bán mình” cho Google trước tiên cần ủy ban đạo đức, 12 năm sau Hassabis muốn thêm rào chắn cuối cùng cho AGI

Theo dữ liệu giám sát của Động Sát Beating, khi DeepMind được bán cho Google vào năm 2014, một trong những điều kiện mà Hassabis đưa ra là thành lập một ủy ban đạo đức AI độc lập. 12 năm sau, ông vẫn đang trăn trở về cùng một vấn đề, chỉ có điều lần này ông muốn quản lý không còn là DeepMind, mà là toàn bộ ngành công nghiệp AI tiên phong.

Theo tiết lộ của The Wall Street Journal, trước khi từ chức CEO DeepMind, Hassabis đã cùng các quan chức cấp cao của chính phủ Mỹ và lãnh đạo các phòng thí nghiệm AI khác đề xuất một cơ chế quản lý mới. Bộ trưởng Tài chính Mỹ Bessent và cố vấn khoa học của Tổng thống Michael Kratsios đều đã nghe qua đề án của ông. Bản thân Bessent cũng tham gia vào việc hoạch định chiến lược AI của chính quyền Trump. Hassabis ví tổ chức tương lai này như một phiên bản AI của "Cơ quan Năng lượng Nguyên tử Quốc tế".

Điều tinh tế là chính phủ Mỹ đã thực hiện một nửa trước. Vào tháng 6, Nhà Trắng đưa ra khung đánh giá tự nguyện cho các mô hình tiên phong, và đề án mà Hassabis công bố vào tháng 7 có chi tiết vận hành rất giống: đều xác định trước các mô hình tiên phong cần được đánh giá trọng điểm, đều cho phép gửi thẩm định tối đa 30 ngày trước khi phát hành, và đều cho phép chính phủ tham gia kiểm thử.

Điểm khác biệt chỉ nằm ở cánh cửa cuối cùng. Nhà Trắng quy định rõ ràng rằng cơ chế này không thể trở thành giấy phép bắt buộc hoặc phê duyệt phát hành; nhưng Hassabis lại muốn tiếp tục đẩy xa hơn. Trước tiên là tự nguyện, sau khi cơ chế đánh giá vận hành thông suốt sẽ trở thành tiêu chuẩn gia nhập, các mô hình tiên phong không đạt yêu cầu sẽ không thể triển khai tại Mỹ. Phạm vi kiểm thử cũng mở rộng từ tấn công mạng sang rủi ro sinh học, Agent vượt qua các biện pháp an toàn và hành vi lừa dối, khi cần thiết thậm chí có thể phối hợp một số phòng thí nghiệm hàng đầu cùng nhau giảm tốc độ.