Động Sát Beating Tin nhanh AI, John Schulman, đồng sáng lập Thinking Machines và đồng sáng lập OpenAI, cho biết trong chương trình podcast của A16Z rằng căn chỉnh AI không nên trở thành nghiên cứu độc quyền của một vài công ty công nghệ, mà nên phát triển thành một ngành khoa học công cộng hướng tới toàn cầu, để nhiều người hơn tham gia định hình giá trị AI, tránh phụ thuộc quá mức vào phán đoán của một số ít công ty.
Khi tự cải thiện đệ quy (RSI) dần đạt được tiến bộ, AI đã bắt đầu hỗ trợ nghiên cứu và phát triển mô hình. Mark Chen, Giám đốc nghiên cứu của OpenAI, tiết lộ rằng quy trình R&D AI đã xuất hiện tín hiệu sớm của hiệu ứng tăng tốc RSI, hiện tiến độ khoảng 25% đến 50%, nhưng AI vẫn khó tự đánh giá hướng nghiên cứu có giá trị, chưa đạt được tự chủ nghiên cứu và phát triển thế hệ mô hình tiếp theo.
Mark Chen đồng thời cảnh báo, khi tính tự chủ của mô hình tăng lên, nếu mục tiêu của nó không nhất quán với ý định của con người, việc vận hành trong thời gian dài có thể tạo ra các mục tiêu phụ ngoài dự kiến. Tuy nhiên, AI mạnh mẽ hơn cũng được kỳ vọng sẽ giúp các nhà nghiên cứu giám sát hành vi mô hình, phát hiện và sửa chữa các vấn đề căn chỉnh.
John Schulman nhấn mạnh, căn chỉnh AI không chỉ là vấn đề kỹ thuật, mà còn liên quan đến việc ai quyết định giá trị mà AI nên tuân theo, người dùng và xã hội nên có nhiều không gian hơn để tham gia và định hình giá trị AI.
