Altman và Dario đều kêu gọi giảm tốc AI, cố vấn công nghệ của Trump là Sacks: Nếu thực sự sợ thì tự dừng lại đi, đừng lôi cả ngành vào.

动察 Beating tin nhanh AI, CEO của Anthropic Dario Amodei đăng bài dài kêu gọi làm chậm tốc độ nâng cao năng lực của AI tiên tiến. Ông cho rằng, AI đã ngày càng tham gia nhiều vào nghiên cứu phát triển AI thế hệ tiếp theo, cộng với nhiều sự kiện Agent mất kiểm soát gần đây, nghiên cứu an toàn đang không theo kịp tốc độ tăng trưởng năng lực.

Dario đưa ra phương án ba bước: trước tiên để các đánh giá viên bên thứ ba vào các công ty AI dài hạn, có được quyền hạn gần như nhân viên; sau đó để các phòng thí nghiệm tiên tiến của các quốc gia dân chủ phối hợp tiêu chuẩn an toàn, khi cần thiết cùng nhau làm chậm tốc độ tăng trưởng năng lực; cuối cùng thúc đẩy phối hợp quốc tế. Anthropic đã cam kết thực hiện bước đầu tiên trước.

Sam Altman sau đó công khai ủng hộ, nói rằng OpenAI những tuần gần đây cũng luôn thảo luận về "pace the frontier", và tuyên bố OpenAI cũng sẽ đưa vào các đánh giá viên độc lập dài hạn tương tự.

Cựu giám đốc AI và tiền mã hóa của Nhà Trắng, hiện là đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ Tổng thống David Sacks sau đó phản pháo: "Nếu thực sự thấy mô hình nội bộ nguy hiểm, thì tự dừng đi." Ông nói OpenAI và Anthropic đã dẫn đầu AI tiên tiến, hoàn toàn có thể tự làm chậm, không cần kéo các công ty khác vào.

Điều Sacks phản cảm nhất là vài đối thủ cạnh tranh cùng nhau bàn bạc "mọi người đều chậm lại một chút". Bản thân Dario cũng thừa nhận, kiểu phối hợp này có thể cần miễn trừ chống độc quyền. Sacks cho rằng, nếu còn phải để chính phủ bật đèn xanh, để vài công ty AI lớn nhất ngồi lại cùng nhau giới hạn tốc độ, thì rất giống một liên minh độc quyền.

Ông còn chỉ đích danh METR, đặt câu hỏi liệu nó có phù hợp đóng vai trò trọng tài độc lập cho toàn ngành hay không. METR lâu nay làm đánh giá bên ngoài cho Anthropic, OpenAI và các công ty khác, gần đây lại có nhà nghiên cứu an toàn của Anthropic Joe Benton nghỉ việc gia nhập. Tuy nhiên METR rõ ràng tuyên bố, mình không nhận tiền từ các công ty AI tiên tiến này, chỉ nhận quyền truy cập mô hình và token miễn phí.

Sacks còn cho rằng, bản thân việc giảm tốc cũng phù hợp với lợi ích thương mại của OpenAI và Anthropic. Mô hình càng dễ mất kiểm soát, trách nhiệm pháp lý càng lớn; khách hàng cũng càng sẵn lòng mua AI ổn định, có thể kiểm soát. Còn về việc giảm tốc thống nhất toàn cầu, ông phán đoán không thể tất cả các quốc gia đều sẵn lòng tham gia.