Tiến hành phân tích ngược mã Claude đã phát hiện ra hai lỗi bộ đệm, có thể tác động âm thầm và làm tăng chi phí API lên 10-20 lần.

Theo theo dõi của 1M AI News, một nhà phát triển đã phân tích đảo ngược Claude Code phiên bản cài đặt độc lập có dung lượng 228MB bằng Ghidra, MITM Proxy và radare2, phát hiện ra hai lỗi cache độc lập nhau nhằm tăng chi phí API lên 10-20 lần mà người dùng không hề hay biết. Phân tích liên quan đã được gửi lên GitHub (vấn đề #40524), được Anthropic xác định là lỗi tái phát và đã được gán để xử lý.

Lỗi đầu tiên tồn tại trong Bun Runtime tùy chỉnh được sử dụng trong phiên bản cài đặt độc lập. Mỗi lần yêu cầu API, Runtime sẽ tìm kiếm một định danh chi phí trong thân yêu cầu và thay thế, nhưng logic thay thế sẽ khớp với mục nhập đầu tiên trong thân yêu cầu. Nếu lịch sử trò chuyện chứa chuỗi đó (ví dụ như đã thảo luận về cơ chế tính phí nội bộ của Claude Code), việc thay thế sẽ khớp với nội dung tin nhắn thay vì từ chỉ báo hệ thống, dẫn đến mỗi yêu cầu kích hoạt việc xây mới toàn bộ bản vá cache. Phương pháp tạm thời để tránh lỗi là chuyển sang chạy npx @anthropic-ai/claude-code, phiên bản gói npm không bao gồm logic thay thế này.

Lỗi thứ hai ảnh hưởng đến tất cả người dùng sử dụng --resume hoặc --continue để khôi phục phiên làm việc, đã được giới thiệu từ v2.1.69 trở đi. Khi khôi phục phiên, vị trí chèn thông tin hệ thống khác biệt so với tạo phiên mới, dẫn đến tiền tố cache không khớp hoàn toàn, toàn bộ lịch sử trò chuyện từ cache trở thành việc xây mới toàn bộ. Các vòng lặp sau của việc khôi phục hoạt động bình thường, nhưng quá trình khôi phục đã tạo ra một lượng chi phí bổ sung lớn, hiện chưa có phương pháp tránh từ bên ngoài.

Nhà phát triển này ước lượng rằng đối với cuộc trò chuyện dài khoảng 500.000 token, Lỗi 1 tăng chi phí mỗi yêu cầu khoảng 0,04 USD, Lỗi 2 tăng chi phí mỗi lần khôi phục khoảng 0,15 USD, kết hợp chi phí cả hai lỗi trong mỗi yêu cầu có thể vượt quá 0,20 USD. Trước đây, kỹ sư Anthropic Lydia Hallie đã xác nhận tốc độ tiếp cận giới hạn sử dụng của người dùng "nhanh hơn so với dự kiến", nhiều người dùng trên diễn đàn Reddit cho rằng các lỗi cache này có thể là một trong những nguyên nhân cơ bản của sự tiêu thụ dị thường.