AI tự phát triển AI mạnh hơn, bốn năm tiến bộ nén thành một năm: Dwarkesh dự đoán siêu trí tuệ có thể xuất hiện sớm nhất vào năm sau

Động Sát Beating Tin nhanh AI, người dẫn chương trình podcast AI nổi tiếng Dwarkesh Patel đã đẩy mạnh dự đoán về siêu trí tuệ. Vài tháng trước, ông còn không tin AI có thể tiến bộ nhanh đến vậy, nay lại cho rằng đến năm 2030 có thể xuất hiện siêu trí tuệ, thậm chí nhanh nhất là năm sau.

AI có khả năng nhất sẽ bắt kịp các nhà nghiên cứu AI hàng đầu của con người vào khoảng năm 2028, nhanh nhất chỉ trong vài tháng. Một khi AI có thể tự nghiên cứu phát triển AI mạnh hơn, tiến bộ công nghệ vốn cần nhiều năm có thể được nén lại trong một năm.

METR gần đây khảo sát Anthropic phát hiện, tốc độ tiến bộ năng lực của mô hình này trên một số nhiệm vụ có thể định lượng được vào khoảng gấp đôi so với trước đây, phần lớn sự tăng tốc có thể đến từ việc AI tham gia nghiên cứu phát triển. Dữ liệu của chính Anthropic cũng cho thấy, tháng 2 năm nay, công việc nghiên cứu phát triển do Claude dẫn dắt còn chưa đến 1%, đến tháng 8 đã đạt 26%, nhưng vẫn cần con người giám sát.

Nhiều công việc trong nghiên cứu phát triển AI đều có thể được xác minh qua thí nghiệm. Ví dụ như điều chỉnh thuật toán huấn luyện, tối ưu dữ liệu xong có thể trực tiếp kiểm tra mô hình có mạnh lên không. AI có thể liên tục đưa ra phương án, làm thí nghiệm, kiểm tra kết quả, rồi tiếp tục cải tiến. Lĩnh vực toán học và lập trình đã từng xuất hiện bước nhảy năng lực tương tự, nghiên cứu phát triển AI có thể cũng sẽ như vậy.

Một khi đạt trình độ nhà nghiên cứu hàng đầu, AI còn có thể làm việc suốt ngày đêm, đồng thời triển khai số lượng lớn tác nhân nghiên cứu. Theo ước tính của Dwarkesh, khối lượng công việc một nhà nghiên cứu AI đơn lẻ hoàn thành mỗi tuần có thể gấp 50 lần con người. Tuy nhiên, thí nghiệm vẫn tiêu tốn sức tính toán, tốc độ nghiên cứu phát triển tổng thể sẽ không trực tiếp tăng 50 lần.

Nếu nghiên cứu phát triển AI đạt được tự động hóa, sau đó có thể xuất hiện hai tình huống:

Một là AI không ngừng cải tiến bản thân, chỉ trong vài tháng đã tiến gần giới hạn năng lực mà chip hiện có có thể hỗ trợ;

Hai là trước tiên nén ba đến sáu năm tiến bộ công nghệ vào một năm, rồi chậm lại vì thiếu sức tính toán và tài nguyên thí nghiệm.

Dwarkesh phân bổ cho hai tình huống này mỗi bên 50% xác suất chủ quan.

Hiện tại, AI vẫn chưa thể hoàn toàn độc lập hoàn thành nghiên cứu phát triển tiên phong. Tìm đúng hướng nghiên cứu cũng phức tạp hơn nhiều so với giải các bài toán có đáp án chuẩn. Nếu phần năng lực này mãi không đột phá, lộ trình thời gian có thể bị trì hoãn. Dwarkesh cho rằng, khả năng AI phải sau năm 2032 mới bắt kịp các nhà nghiên cứu AI hàng đầu của con người vẫn là 25%.