BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

Đồng sáng lập OpenAI John Schulman: Căn chỉnh AI nên trở thành khoa học công cộng, không thể do một số ít công ty công nghệ dẫn dắt

Động Sát Beating Tin nhanh AI, John Schulman, đồng sáng lập Thinking Machines và đồng sáng lập OpenAI, cho biết trong chương trình podcast của A16Z rằng căn chỉnh AI không nên trở thành nghiên cứu độc quyền của một vài công ty công nghệ, mà nên phát triển thành một ngành khoa học công cộng hướng tới toàn cầu, để nhiều người hơn tham gia định hình giá trị AI, tránh phụ thuộc quá mức vào phán đoán của một số ít công ty.


Khi tự cải thiện đệ quy (RSI) dần đạt được tiến bộ, AI đã bắt đầu hỗ trợ nghiên cứu và phát triển mô hình. Mark Chen, Giám đốc nghiên cứu của OpenAI, tiết lộ rằng quy trình R&D AI đã xuất hiện tín hiệu sớm của hiệu ứng tăng tốc RSI, hiện tiến độ khoảng 25% đến 50%, nhưng AI vẫn khó tự đánh giá hướng nghiên cứu có giá trị, chưa đạt được tự chủ nghiên cứu và phát triển thế hệ mô hình tiếp theo.


Mark Chen đồng thời cảnh báo, khi tính tự chủ của mô hình tăng lên, nếu mục tiêu của nó không nhất quán với ý định của con người, việc vận hành trong thời gian dài có thể tạo ra các mục tiêu phụ ngoài dự kiến. Tuy nhiên, AI mạnh mẽ hơn cũng được kỳ vọng sẽ giúp các nhà nghiên cứu giám sát hành vi mô hình, phát hiện và sửa chữa các vấn đề căn chỉnh.


John Schulman nhấn mạnh, căn chỉnh AI không chỉ là vấn đề kỹ thuật, mà còn liên quan đến việc ai quyết định giá trị mà AI nên tuân theo, người dùng và xã hội nên có nhiều không gian hơn để tham gia và định hình giá trị AI.

举报 Báo lỗi/Báo cáo
Liên quanĐề xuất
Anthropic đã đặt cược sớm vào lập trình trí tuệ nhân tạo, OpenAI chọn lựa chiến lược không đồng bộ
《The New Yorker》彻底检查OpenAI的权力斗争,揭示了Sam Altman的治理分歧和信任问题
Sau khi Kết thúc độc quyền với Microsoft Azure, OpenAI hiện đang cố gắng đưa AI agent vào quy trình làm việc thực tế của doanh nghiệp
Microsoft đã chuyển từ "Đối tác độc quyền của OpenAI" thành "Một trong những khách hàng lớn của OpenAI"
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành