Kế Hoạch 'Chiếc Lâu Đài' của Hassabis: Cuốn Sách Mới làm Sáng tỏ Ý Định An toàn của DeepMind làm thế nào đã Thất bại

Dựa trên việc theo dõi của 1M AI News, tạp chí The Atlantic đã đăng tải một đoạn trích từ cuốn sách mới của nhà sử học công nghệ và sử gia tài chính Sebastian Mallaby mang tên "The Infinity Machine", xuất phát từ cuộc phỏng vấn liên tục từ năm 2023 đến năm 2026, tái hiện quá trình tiến hóa triết lý an ninh AI của Đồng sáng lập DeepMind của Google, Demis Hassabis, từ khi Google mua lại vào năm 2014.

Hassabis trong những năm đầu đã mơ tưởng về việc xây dựng một trí tuệ siêu vi mạnh an toàn đại diện cho toàn nhân loại bởi một đội ngũ khoa học duy nhất, thậm chí kế hoạch đưa các nhà nghiên cứu hàng đầu vào một cung điện bí mật vào thời điểm quan trọng, tương tự như Dự án Manhattan. Một nhà nghiên cứu mới gia nhập sớm đã nhớ lại rằng Hassabis đã cảnh báo anh chuẩn bị tinh thần sẵn sàng "bay đến một điểm bí mật ở Ma-rốc bất cứ lúc nào" ở cuối buổi phỏng vấn.

Khi Google mua lại DeepMind vào năm 2014, Hassabis đặt ra điều kiện hiếm gặp: thiết lập một ủy ban giám sát bên ngoài độc lập, cấm ứng dụng quân sự, Google không được kiểm soát hoàn toàn triển khai công nghệ. Google đã chấp nhận. Năm sau, anh tổ chức một cuộc họp bí mật tại trụ sở Hawthorne, California của Musk, cố gắng kêu gọi các đối thủ tiềm năng tham gia vào một mặt trận đồng đều, kết quả lại ngược lại: Musk sau đó cùng với Sam Altman thành lập OpenAI.

Sau đó, Hassabis khởi xướng Mạng lưới Mario, một hành động mật mã, cố gắng giành lại quyền tự quản của tay Google, thành lập một nhóm luật pháp, huy động cam kết tài trợ 10 tỷ USD từ Reid Hoffman, người sáng lập LinkedIn, và xem xét phân chia DeepMind ra khỏi Google. Cuộc chiến kéo dài ba năm, kết quả thất bại. Đồng sáng lập Mustafa Suleyman cũng bị ép rời khỏi công ty vào năm 2019.

Sau khi ChatGPT được phát hành vào cuối năm 2022, Hassabis hoàn toàn từ bỏ con đường cao quý chỉ làm khoa học hữu ích. Anh nói với Mallaby: "Đây là thời chiến", sau đó chuyển hướng toàn tâm vào cuộc đua với Gemini và ChatGPT. Hàng trăm tỷ USD tràn vào cuộc đua vũ trang AI, khi không có sự quản lý của quốc gia hoặc cấu trúc quản trị công ty nào có thể ngăn chặn sự cạnh tranh. Triết lý an ninh của Hassabis cũng đã thay đổi hoàn toàn: "An ninh không nằm ở cấu trúc quản trị, thậm chí nếu có một hội đồng quản trị, có khả năng cao rằng vào lúc quyết định quan trọng, nó cũng không thể làm đúng điều gì." Chiến lược mới của anh là đảm bảo có "một cái bàn ở bàn quyết định, khi có vấn đề liên quan đến an ninh, có thể tham gia vào việc đưa ra giải pháp." Đồng thời, Google đã tích cực quảng bá AI cho hệ thống quốc phòng Mỹ, tạo ra sự đảo ngược rõ rệt so với lệnh cấm quân sự đã đặt ra khi Hassabis mua lại công ty.