Động Sát Beating Tin nhanh AI, nhà khoa học AI trưởng của Tencent Diêu Thuận Vũ cùng nhóm nghiên cứu Hunyuan đã tổ chức hỏi đáp công khai trên Reddit, tiết lộ kế hoạch phát triển thế hệ mô hình Hunyuan tiếp theo.
Có nhà phát triển hỏi, các nhà sản xuất như ByteDance, Kimi đều đang khám phá các mô hình lớn hàng nghìn tỷ tham số, tại sao Hunyuan vẫn dừng ở quy mô khoảng 700 tỷ tham số?
Tencent phản hồi, mô hình nhỏ hơn nhưng được huấn luyện vững chắc cũng có thể vượt qua mô hình lớn hơn, và chi phí huấn luyện thấp hơn. Nhưng nhóm vẫn tin vào Scaling Law, thế hệ mô hình Hy tiếp theo sẽ mở rộng đáng kể quy mô tham số, Hy4 hiện tại cũng sẽ tiếp tục nâng cao năng lực thông qua học tăng cường quy mô lớn.
Tencent cũng tiết lộ lộ trình mô hình nhỏ có thể chạy cục bộ trên máy tính cá nhân. Hy4-mini đã được đưa vào kế hoạch, Flash-Lite nhẹ hơn cũng sẽ được ra mắt.
