NVIDIA gắn ngoại vi cho Pi: Agent tự nghiên cứu tìm ra 4 cách tối ưu, Token tiết kiệm tối đa 64%

动察 Beating AI tin nhanh, NVLabs của NVIDIA mã nguồn mở SoL-Pi, thêm một lớp tối ưu hiệu suất cho Coding Agent Harness "Pi". Nhóm nghiên cứu đã xây dựng một quy trình nghiên cứu tự động, cho phép nhiều Agent phân tích quỹ đạo chạy của Pi, đề xuất phương án tối ưu, sửa mã và tự động xác minh. Ban đầu có 152 hướng ứng viên, cuối cùng chỉ giữ lại 4.

4 tối ưu này đều nhằm giảm chi phí trùng lặp. Ví dụ sau khi sửa mã xong thì chạy test luôn, bớt một lần gọi model; các tệp lớn và đầu ra dài đã đọc thì lưu cục bộ trước, khi cần thì lấy lại; sau khi tác vụ con kết thúc thì phán đoán xem có cần nén ngữ cảnh không; log siêu dài thì giao cho model rẻ lọc điểm chính trước, rồi đối chiếu nội dung thực sự đến từ log gốc.

Trên EdgeBench, SoL-Pi so với Pi gốc dùng ít hơn 45%–49% Token, chi phí thấp hơn khoảng một phần ba; so với Harness gốc của Codex, Claude Code, ít hơn 35%–64% Token, theo giá niêm yết API thì chi phí thấp hơn 50%–54%.

Tuy nhiên tiết kiệm tiền sẽ mất đi một chút năng lực, SoL-Pi giữ được khoảng 94% điểm trung bình của Pi; trong 63 tác vụ CPU của Terminal-Bench 4, nó giải được 15, Codex và Pi đều là 18.