Jev bắt đầu quản lý Attention, thời gian tạo của MiniMax H3 giảm 41,7%.

动察 Beating AI tin nhanh, nhà phát triển Nhật Bản Kamimoto đã tích hợp Jev vào quy trình tạo video của MiniMax H3. Nó sẽ dựa trên trạng thái vận hành của từng lớp, chọn mức giữ Attention từ bốn mức 1%, 3%, 5%, 10%, sau đó Sparse Attention quyết định cụ thể những tính toán nào có thể bỏ qua.

Trên RTX 4070 12GB, cùng tạo một video khoảng 5 giây, phương án 4-step gốc cần 6 phút 07 giây, sau khi thêm Sparse Attention + điều khiển động Jev giảm xuống 3 phút 34 giây, tổng thời gian rút ngắn 41,7%.

Tuy nhiên, 41,7% này không thể tính hết cho Jev. Bản thân Sparse Attention đã có thể tăng tốc bằng cách tính ít hơn một phần Attention, giữ cố định 5% hoặc 10% cũng sẽ nhanh hơn. Jev làm là điều chỉnh động: lớp quan trọng tính nhiều hơn, lớp không quan trọng tính ít hơn.

Hiện tại vẫn chưa thể chứng minh cách điều chỉnh động này chắc chắn có chất lượng hình ảnh tốt hơn tỷ lệ cố định, tác giả cũng明确表示 chất lượng chưa được xác minh đầy đủ. Mã thực nghiệm đã được mã nguồn mở.