Anthropic: Mô hình Claude tồn tại một thứ tương tự như "ý thức tư duy của con người"

BlockBeats tin tức, ngày 7 tháng 7, Anthropic công bố báo cáo nghiên cứu mới nhất, phát hiện ra rằng trong mô hình Claude tự phát xuất hiện một "không gian làm việc toàn cầu" nội bộ có tên là J-space (không gian Jacobian). Đây là tập hợp các mẫu kích hoạt thần kinh chuyên dụng để mô hình suy nghĩ thầm lặng, cho phép mô hình suy nghĩ về các khái niệm mà không cần viết ra, tương tự như tư duy "có ý thức" mà con người có thể báo cáo.

Nghiên cứu xác định các mẫu kích hoạt thần kinh trong J-space thông qua kỹ thuật Jacobian, có thể đọc các khái niệm mà mô hình chưa nói ra và có thể sửa đổi các mẫu này. Thí nghiệm cho thấy việc vô hiệu hóa J-space sẽ làm suy yếu khả năng suy luận đa bước, nhưng không ảnh hưởng đến các nhiệm vụ cơ bản và khả năng nhớ lại sự kiện.

Nhấp vào liên kết gốc bên dưới để tham gia kênh tin tức AI của Beating · Feishu, theo dõi các điểm nóng và tin tức AI toàn cầu 24/7.