Vừa huy động vốn và niêm yết ầm ĩ, vừa đề xuất tạm dừng phát triển AI: Anthropic chỉ đang chơi trò PR an toàn

Theo giám sát của Động Sát Beating, trong báo cáo "Khi AI tự xây dựng chính mình", Anthropic đề xuất thiết lập "Cơ chế tạm dừng có thể xác minh và phối hợp" trên toàn cầu, tham khảo Hiệp ước INF về kiểm soát vũ khí hạt nhân. Báo cáo phản đối rõ ràng việc tạm dừng phát triển đơn phương, đồng thời nhấn mạnh chỉ khi có khả năng xác minh toàn cầu, các phòng thí nghiệm tiên tiến mới có thể đồng loạt phanh lại.

Tuy nhiên, việc phanh phối hợp về mặt kỹ thuật là hoàn toàn bất khả thi. Kiểm soát vũ khí hạt nhân có thể dựa vào vệ tinh để theo dõi các hầm tên lửa, nhưng GPU có kích thước nhỏ, dễ che giấu và có thể thực hiện tính toán phân tán. Để kiểm tra xem bên khác có đang bí mật huấn luyện hay không, cách duy nhất là thực hiện giám sát xâm nhập đối với tất cả chip GPU, lưới điện và trung tâm dữ liệu trên toàn cầu. Giám sát toàn diện không chỉ bất khả thi về mặt chính trị mà còn về mặt kỹ thuật tương đương với việc chủ trương chủ nghĩa toàn trị sức mạnh tính toán.

Trong bối cảnh việc xác minh kỹ thuật không thể triển khai, đề xuất tạm dừng phối hợp giống như một "tấm thẻ miễn trách an toàn". Ngay trước khi công bố báo cáo, Anthropic vừa hoàn tất vòng gọi vốn 65 tỷ USD với định giá gần 1 nghìn tỷ và nộp đơn đăng ký niêm yết. Bằng cách đặt điều kiện tiên quyết cho việc phanh là xác minh toàn cầu không thể thực hiện, Anthropic đang mở đường cho việc huấn luyện vô thời hạn của chính mình, đồng thời đổ trách nhiệm không thể dừng lại cho cơ chế giám sát chưa được thiết lập.