动察 Beating Tin nhanh AI, Anthropic công bố một nghiên cứu về bộ nhớ dài hạn của Agent, giới thiệu chi tiết cơ chế "mơ" (Dreaming) của Claude. Sau khi Agent liên tục thực hiện nhiệm vụ, nó sẽ tích lũy một lượng lớn hội thoại, bản ghi thao tác và ghi chú. Nhưng những thông tin này có thể đã lỗi thời, mâu thuẫn với nhau, và khi thực sự cần thì cũng không chắc tìm được.
Anthropic chia bộ nhớ thành bốn tầng: bản ghi gốc, ghi chú chọn lọc, cơ sở tri thức Wiki liên kết với nhau, và chỉ mục ngắn tự động tải mỗi lần khởi động. Claude có thể ghi lại thông tin quan trọng bất cứ lúc nào khi thực hiện nhiệm vụ. "Mơ" thì sẽ xem lại bản ghi lịch sử trong khoảng thời gian giữa các nhiệm vụ, sửa lỗi, xóa nội dung lỗi thời, và đúc kết kinh nghiệm mới từ nhiều lần thực hiện nhiệm vụ. Lần khởi động tiếp theo, Claude chỉ cần tải chỉ mục ngắn, rồi tra cứu bộ nhớ liên quan theo nhu cầu, không cần đọc lại toàn bộ lịch sử.
Anthropic sử dụng khoảng 350.000 tài liệu nội bộ của công ty Stainless để thử nghiệm, tổng cộng 420 triệu Token. Các nhà nghiên cứu cho Opus 5 trải qua 128 vòng hội thoại, liên tục đọc tài liệu, xây dựng Wiki, hợp nhất nội dung trùng lặp và xác minh sự thật.
Trong 25 câu hỏi về các tài liệu này, điểm số khi chỉ dùng công cụ tìm kiếm là 53%, sau khi thêm Wiki được cải thiện dần đạt 61%. Trả lời mỗi câu hỏi còn tiết kiệm trung bình khoảng 20.000 Token. Khi gặp câu hỏi cần tổng hợp nhiều hợp đồng mới trả lời được, ưu thế của Wiki đặc biệt rõ rệt; nhưng nếu câu trả lời nằm ngay trong một tài liệu duy nhất, tìm kiếm thông thường đã đủ.
Anthropic còn cho Claude chơi "Pokémon Red". Phiên bản cũ Sonnet 3.7 ghi lại 413 tệp bộ nhớ, cuối cùng chỉ giành được một huy hiệu. Phiên bản mới Fable 5 chỉ giữ lại 10 tệp, nhưng giành được bốn huy hiệu. Mô hình mới giỏi hơn trong việc phân biệt chiến lược đáng lưu giữ và trạng thái trò chơi có thể xem lại bất cứ lúc nào.
