Baidu mã nguồn mở Unlimited-OCR 2: giải mã một bước tài liệu trăm trang nhanh gấp 5,6 lần, không cần xem toàn bộ sách mỗi bước

Động Sát Beating AI tin nhanh, Baidu đã phát hành và mã nguồn mở Unlimited-OCR 2, mô hình có khoảng 3 tỷ tham số, khi suy luận chỉ kích hoạt khoảng 500 triệu tham số.

Phiên bản đầu tiên ra mắt vào tháng 6 đã có thể phân tích liên tục khoảng 40 trang tài liệu, nhưng khi số trang tăng lên, mỗi lần sinh một token vẫn phải chú ý đến thông tin hình ảnh của tất cả các trang, khiến tốc độ giải mã ngày càng chậm.

Phiên bản thứ hai giới thiệu cơ chế chú ý thưa SR-SWA. Mô hình không còn xem toàn bộ thông tin hình ảnh của tất cả các trang mỗi lần, mà tập trung chú ý vào trang hiện tại, sau đó chọn một lượng nhỏ thông tin hình ảnh liên quan, kết hợp với văn bản vừa sinh để tiếp tục nhận dạng. Trong bài kiểm tra trăm trang, giải mã từng bước nhanh hơn khoảng 5,6 lần so với phương án chú ý R-SWA cũ, và nhanh hơn khoảng 7 lần so với chú ý toàn phần truyền thống.

Tiết kiệm bộ nhớ hiển thị cũng rất rõ rệt. Trong bài kiểm tra tài liệu trăm trang, thông qua giải mã theo khối và tái sử dụng bộ nhớ đệm xuyên trang, bộ nhớ đệm KV đỉnh của suy luận một luồng giảm từ 47GB xuống 1,77GB. Trong một nhóm kiểm tra 16 luồng đồng thời khác, thông lượng sinh tăng từ 360 token mỗi giây lên 1315 token.

Baidu cũng đã xây dựng MarathonDocBench, bao gồm 100 tài liệu từ 103 đến 300 trang, để kiểm tra khả năng phân tích tài liệu dài của mô hình. Unlimited-OCR 2 đạt 77,06 điểm, Gemini 3.8 Flash đạt 28,61 điểm, Qwen3.8 Max đạt 22,93 điểm. Các kết quả trên đến từ bài kiểm tra chuẩn do Baidu tự xây dựng.

Khi thực tế xử lý tài liệu siêu dài, hệ thống còn có thể xử lý theo cửa sổ, và tái sử dụng một phần bộ nhớ đệm của cửa sổ trước đó, để giảm thêm chi phí bộ nhớ hiển thị. Tuy nhiên, cửa sổ quá nhỏ có thể ảnh hưởng đến sự liên kết của nội dung xuyên trang. Bài báo cũng thừa nhận rằng cơ chế mới không thể lưu giữ đầy đủ thông tin toàn cục của tài liệu, các cấu trúc tổng thể như tiêu đề nhiều cấp vẫn có thể bị nhận dạng sai.