Động Sát Beating AI tin nhanh, Tencent Hunyuan chính thức mã nguồn mở Hy4 flash, chỉ hai ngày sau khi mô hình được phát hành. Lần này tung ra một lúc trọng số của ba phiên bản mô hình:
• Hy4 flash: mô hình chính thức đã được tinh chỉnh theo chỉ dẫn, có thể dùng trực tiếp cho hội thoại, suy luận và các tác vụ tác nhân thông minh.
• Hy4 flash-FP8: phiên bản lượng tử hóa 8 bit, chủ yếu dùng để giảm dung lượng bộ nhớ hiển thị khi triển khai mô hình.
• Hy4 flash Base: mô hình nền tảng tiền huấn luyện chưa được tinh chỉnh theo chỉ dẫn, thuận tiện cho nhà phát triển tiếp tục huấn luyện và tùy chỉnh.
Hy4 flash có tổng tham số đạt 224B, mỗi lần suy luận kích hoạt 12B. Ngay cả sau khi lượng tử hóa FP8, ngưỡng triển khai vẫn không hề thấp. Tencent đã mở tải xuống trên GitHub, Hugging Face, ModelScope và GitCode, cộng đồng cũng đã tạo phiên bản lượng tử hóa GGUF để thuận tiện chạy trong các môi trường phần cứng khác nhau.
Mô hình sử dụng Tencent Hy License, cho phép nhà phát triển sử dụng và sửa đổi trọng số theo thỏa thuận, nhưng kèm theo các điều kiện cấp phép. Các nhà cung cấp dịch vụ API mô hình lớn nếu đạt ngưỡng doanh thu hoặc quy mô người dùng quy định thì cần xin cấp phép riêng.
Về Hy4 hàng đầu với 770B tham số, Tencent cho biết vẫn đang tăng tốc mã nguồn mở, hiện chưa công bố thời gian cụ thể.
