Theo dõi từ Động Sát Beating, Li Auto đã công bố báo cáo kỹ thuật về Mach-Mind-4-Flash. Mô hình này đã được ra mắt trước đó, lần này chủ yếu bổ sung các chi tiết về quá trình huấn luyện sau đó.
Nhóm nghiên cứu trước tiên đã huấn luyện riêng biệt hơn chục mô hình chuyên gia trong các lĩnh vực như toán học, mã nguồn, viết lách, bảo mật, tìm kiếm và gọi công cụ. Sau đó, họ sử dụng MOPD (Multi-Teacher Online Policy Distillation) để hợp nhất thành một mô hình đa năng. Mỗi loại bài toán được hướng dẫn bởi chuyên gia tương ứng, giúp giảm thiểu sự ảnh hưởng lẫn nhau giữa các khả năng trong quá trình huấn luyện hỗn hợp.
Báo cáo cũng làm rõ cách huấn luyện Agent. Mô hình không chỉ học tên công cụ và định dạng gọi, mà còn thực sự đọc tệp, sửa mã nguồn, chạy thử nghiệm và gọi công cụ trong một sandbox cách ly. Khi thao tác thất bại, nó có thể thấy lỗi và thay đổi môi trường, sau đó tiếp tục sửa đổi. Huấn luyện công cụ bao gồm hơn 190 lĩnh vực có trạng thái và hơn 3500 giao diện công cụ; một quỹ đạo huấn luyện cho nhiệm vụ lập trình có thể dài tới 300 vòng.
Sự kết hợp này không hoàn toàn không tổn thất. Khả năng tuân thủ hướng dẫn cơ bản được giữ lại, ClawBench và ClawEval thậm chí còn vượt qua các chuyên gia Agent riêng lẻ. Tuy nhiên, SWE-bench Verified giảm từ 73,80 của mô hình chuyên gia xuống còn 71,10. Nhóm nghiên cứu thừa nhận rằng các khả năng chuyên môn cao như lập trình dài hạn vẫn bị mất khi hợp nhất.
Báo cáo cũng tiết lộ cách giảm việc mô hình "suy nghĩ quá nhiều". HMPO thiết lập ngân sách suy luận động dựa trên độ dài trung vị của câu trả lời đúng, chỉ thưởng cho các câu trả lời đúng và ngắn hơn. Phương pháp này rút ngắn độ dài sinh từ 19% đến 46%, với độ chính xác giảm tối đa 0,7 điểm phần trăm. Hiện tại, phương pháp này chỉ được áp dụng cho suy luận một vòng, chưa bao phủ các nhiệm vụ Agent nhiều vòng.
