GLM-5.3 bắt đầu tối ưu hóa hệ thống của chính mình, Đường Kiệt của Zhipu: vòng lặp khép kín tối thiểu của RSI đã xuất hiện

动察 Beating AI tin nhanh, Zhipu tiết lộ, Infra Agent được điều khiển bởi GLM-5.3 đã tham gia tối ưu hóa hệ thống suy luận của GLM-5.3-Flash. Từ lần chạy thông đầu tiên đến tiếp nhận toàn bộ lưu lượng sản xuất chưa đầy hai tuần, thông lượng đầu cuối tăng lên gấp 3,2 lần so với ban đầu.

Đồng sáng lập kiêm nhà khoa học trưởng Đường Kiệt trong phần tổng kết nhắc đến, chỗ Agent dễ bị kẹt nhất hiện nay thường không phải là không biết viết code, mà là không biết vấn đề nằm ở đâu. Ví dụ một lần sửa đổi khiến thông lượng giảm 20%, nó biết mình đã sửa hỏng, nhưng không biết là tầng nào có vấn đề, bước tiếp theo nên kiểm tra gì.

Thế là Zhipu biến phương pháp kiểm tra thường ngày của các kỹ sư kỳ cựu thành một bộ công cụ mà Agent có thể sử dụng trực tiếp. Sau khi Agent sửa xong code, có thể tự kiểm tra kết quả có đúng không, thời gian tiêu tốn ở đâu, phương án nào nhanh hơn, rồi dựa trên kết quả tiếp tục sửa đổi.

Nhờ phương pháp này, Agent đã tìm ra các vấn đề như sai số tính toán ngữ cảnh dài, tắc nghẽn truyền tải KV và tính toán lặp lại của kernel giải mã. Một kernel sau khi viết lại đã tăng tốc 1,71 lần.

Đường Kiệt nhận định, vai trò của kỹ sư sẽ ngày càng giống "người thiết kế phản hồi". Con người chịu trách nhiệm đặt mục tiêu, thiết lập ranh giới và thẩm định các sửa đổi rủi ro cao, Agent tự đưa ra giả thuyết, sửa code, chạy thí nghiệm. Còn xa mới đạt được RSI hoàn chỉnh, nhưng vòng lặp khép kín tối thiểu "mô hình tối ưu hóa hệ thống, hệ thống lại phục vụ mô hình" đã xuất hiện.