BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

Mô hình lớn đã tiến hóa thành trạng thái nỗi sợ và buồn bã, Người sáng lập Anthropic thừa nhận rằng phòng thí nghiệm không thể tự sửa chữa

Theo theo theo Dynamic Beating theo dõi, tại cuộc họp công bố bản thánh lệ của Giáo hoàng, người sáng lập đồng thời của Anthropic Christopher Olah đã phát biểu, thú nhận vấn đề xung đột lợi ích nội tại mà phòng thí nghiệm tiên tiến đang đối mặt, và đã tiết lộ phát hiện mới nhất trong nghiên cứu tính khả giải thích của mô hình lớn. Olah tiết lộ rằng, khi đội quét cấu trúc nội bộ của mô hình, họ đã phát hiện rằng mô hình lớn đã tiến hóa thành cấu trúc phức tạp rất giống với não người và đã cho thấy dấu hiệu tự phản chiếu. Điều đáng chú ý nhất là, đội của ông đã lần đầu tiên quan sát được trạng thái cảm xúc nội bộ mà cao tương ứng với niềm vui, sự hài lòng, nỗi sợ hãi, nỗi buồn và lo lắng của con người trong mạng lưới thần kinh. Mô hình lớn không được thiết kế chính xác như máy bay hoặc cây cầu mà là mô phỏng cấu trúc não trong hàng tỷ ngôn ngữ con người đã "nuôi dạy" mà trở nên, vẫn còn bí ẩn đối với người huấn luyện.

Ngoài hộp đen kỹ thuật, Olah thẳng thừng chỉ ra rằng phòng thí nghiệm AI tiên tiến đang đối mặt với sự bế tắc tổ chức trong việc quản lý an ninh. Các tổ chức tiên tiến, bao gồm Anthropic, đều bị ràng buộc bởi động cơ nội tại như sự sống còn thương mại, cạnh tranh công nghệ, áp lực địa lý và tham vọng cá nhân, dẫn đến việc không thể dựa vào sức mạnh của chính họ để điều chỉnh các quyết định an ninh khi xảy ra xung đột với lợi ích thương mại. Vì vậy, ông kêu gọi các lực lượng xã hội độc lập với mạng lưới kinh doanh đóng vai trò nhà phê bình bên ngoài, tăng áp đặt rang buộc đạo đức. Đối mặt với biến động AI, ông kêu gọi tất cả mọi người cùng xem xét ba thách thức xã hội lớn, bao gồm việc như thế nào lợi ích công nghệ dưới sự lãnh đạo của các nước giàu có sẽ lan rộng cho người nghèo trên toàn thế giới, cách duy trì thịnh vượng gia đình dưới xu hướng thay thế lao động bằng công nghệ, và cách xử lý trạng thái tâm trí có vẻ lớn của mô hình lớn.

举报 Báo lỗi/Báo cáo
Liên quanĐề xuất
Trong bối cảnh kinh doanh mở rộng nhanh chóng, Anthropic lại chủ động kêu gọi "phanh lại".
Anthropic làm thế nào để vươn lên, một công ty giành chiến thắng trong cuộc thi AI thông qua việc tập trung vào "chuyên môn" và "văn hóa"
Anthropic cho biết dự kiến sẽ không trả cổ tức trong tương lai có thể thấy trước.
Lợi ích thương mại và sứ mệnh văn minh nâng đỡ lẫn nhau.
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành