Động Sát Beating Tin nhanh AI, khả năng lập trình của Gemini 4 Neon của Google nhận được nhiều đánh giá tích cực từ các nhà phát triển, nhưng công cụ lập trình đi kèm Antigravity lại bị phàn nàn tập trung vì mức tiêu thụ Token bất thường.
Rạng sáng ngày 21 tháng 11, người phụ trách Antigravity Varun Mohan thừa nhận rằng tỷ lệ trúng bộ nhớ đệm của Neon khá thấp, đặc biệt là khi khoảng cách giữa hai lần gọi mô hình khá dài, bộ nhớ đệm dễ bị xóa. Google đang mở rộng đáng kể bể bộ nhớ đệm, dự kiến sẽ tăng tỷ lệ trúng thêm khoảng 4%, giúp người dùng hoàn thành ít nhất thêm 20% công việc trong cùng hạn mức. Sau khi hoàn thành cũng sẽ đặt lại hạn mức cho người dùng.
Mỗi lần tác nhân lập trình gọi mô hình, đều cần để mô hình nhận được cuộc hội thoại, mã code và kết quả thực thi công cụ trước đó. Bộ nhớ đệm cho phép mô hình trực tiếp tái sử dụng nội dung đã được xử lý, không cần tính toán lại. Một khi bộ nhớ đệm mất hiệu lực, hàng trăm nghìn Token nội dung lịch sử có thể bị xử lý lại, dẫn đến mức tiêu thụ hạn mức tăng mạnh.
