Cựu nhà nghiên cứu của Anthropic lại đưa ra cảnh báo: Tiến bộ thuật toán đang tăng tốc, việc huấn luyện AI mạnh hơn có thể không cần dựa vào việc tăng sức mạnh tính toán

Động Sát Beating AI tin nhanh, vào tháng 9 năm nay, Jacob Coxon, người từng làm nghiên cứu tiền huấn luyện tại OpenAI và Anthropic, đã từ chức, chỉ trích gay gắt rằng hai công ty này đang lao về phía siêu trí tuệ có khả năng tự cải thiện, đúng là đang "đánh cược mạng sống của chúng ta". Phát ngôn này đã khiến các nghị sĩ Mỹ kêu gọi tăng cường giám sát, thậm chí Musk còn nghi ngờ anh ta đang phối hợp với chiến dịch tuyên truyền về quản lý.

Hiện tại, Coxon lại đăng một bức ảnh trong buổi roadshow IPO của Anthropic, nói rằng đây là một trong những lý do quan trọng khiến anh từ chức. "Bức ảnh này quá điên rồ, không ngờ họ lại công khai nó."

Anthropic ban đầu dùng bức ảnh này để展示 lợi thế công nghệ của mình: khi thuật toán không ngừng cải thiện, để huấn luyện ra mô hình có năng lực lập trình tương đương, lượng sức mạnh tính toán cần thiết ngày càng ít đi.

Nhưng Coxon nhận thấy, trục tung trong hình đã sử dụng thang đo logarit, vậy mà đường cong vẫn ngày càng dốc. Điều này có nghĩa là, nếu dữ liệu chính xác, tốc độ cải thiện hiệu suất huấn luyện本身 cũng đang tăng nhanh. Dựa vào đó, anh cho rằng tiến bộ thuật toán của Anthropic đã thể hiện "tăng trưởng siêu hàm mũ".

Mythos có thể chỉ là một trạm bình thường trên đường cong dốc này. Anthropic đã có thể dùng lượng sức mạnh tính toán ít hơn nhiều so với ban đầu để huấn luyện ra mô hình có trình độ tương đương Mythos. Nếu đầu tư cùng lượng sức mạnh tính toán, có thể huấn luyện ra AI mạnh hơn.

Và việc cải thiện thuật toán huấn luyện cũng không nhất thiết cần những nhà nghiên cứu thiên tài liên tục đưa ra ý tưởng đột phá, loại công việc này đã gần đến giai đoạn có thể tự động hóa. Đồng sáng lập Anthropic Tom Brown cũng đề cập trong buổi roadshow rằng, trong tương lai Claude được kỳ vọng sẽ tự tìm ra phương pháp nâng cao hiệu suất huấn luyện. Phương pháp mới có thể dùng để huấn luyện mô hình mạnh hơn, và mô hình mạnh hơn lại có thể tiếp tục tìm kiếm phương pháp tối ưu mới.

Tuy nhiên, bức ảnh này không công khai bội số sức mạnh tính toán cụ thể, chỉ có ba điểm dữ liệu, dưới hình ghi chú vị trí chỉ mang tính minh họa.

Coxon chủ trương nên tạm dừng nghiên cứu phát triển AI tiên phong vào năm 2027, để đối thủ bắt kịp. Điều này sẽ khiến năng lực AI ở trình độ con người dần trở thành hàng hóa phổ thông mà ai cũng có thể sử dụng, phá vỡ lợi thế mà OpenAI và Anthropic xây dựng dựa trên các mô hình dẫn đầu.