Tinygrad cho biết GLM5.2 có thể đạt tốc độ 120 token/giây trên cấu hình Blackwell kết nối hai máy, với giá bán 150.000 USD.

BlockBeats tin tức, ngày 21 tháng 6, nhà bán GPU Tinygrad cho biết, theo nguồn tin đáng tin cậy, mô hình GLM 5.2 trên hai máy tính tinybox kiến trúc Blackwell được kết nối mạng có thể đạt tốc độ suy luận 120 token mỗi giây.

Cấu hình này có giá 150.000 đô la Mỹ, có thể chọn hai máy tinybox tiêu chuẩn hoặc một máy tinybox Pro, đều đạt được hiệu suất như trên. Tinygrad lấy đây làm điểm bán hàng, tập trung vào lộ trình triển khai tư nhân hóa "mua một lần, không bao giờ trả phí đám mây", trực tiếp cạnh tranh với dịch vụ suy luận đám mây tính phí theo nhu cầu.

Hiện tại, thông tin này chưa được GLM chính thức xác nhận, Tinygrad cũng chưa tiết lộ thêm chi tiết kỹ thuật.

---------------------------------
Nhấp vào liên kết gốc bên dưới để tham gia kênh tin tức AI của Beating · Feishu, theo dõi các điểm nóng và tin tức AI toàn cầu 24/7.