Động Sát Beating AI tin nhanh, DeepSeek gần đây đã mã nguồn mở khung suy luận DeepInfer, và tiết lộ rằng cụm máy chủ của họ có thể xử lý 155 nghìn tỷ Token mỗi ngày. Theo giá API của DeepSeek vào giờ thấp điểm quy đổi, trung bình mỗi giờ GPU tương ứng với khoảng 38 USD doanh thu tính phí lý thuyết, nếu tính theo vận hành liên tục cả năm, doanh thu tính phí hàng năm vượt 330 nghìn USD.
DeepSeek nâng cao hiệu quả suy luận thông qua các công nghệ như song song chuyên gia, giải mã suy đoán, lập lịch bất đồng bộ và tối ưu KV Cache, nhưng những con số trên là doanh thu tính phí lý thuyết, không đồng nghĩa với doanh thu hoặc lợi nhuận thực tế. Lợi ích thực tế còn phụ thuộc vào tỷ lệ sử dụng GPU, tỷ lệ yêu cầu trả phí, chi phí phần cứng và điện năng, cũng như độ trễ dịch vụ và các yếu tố khác.
Ngành AI đang đối mặt với tình trạng nhu cầu tăng trưởng và áp lực sinh lời cùng tồn tại. Một mặt, nhu cầu ứng dụng AI và triển khai Agent của doanh nghiệp vừa và nhỏ tiếp tục tăng cao; mặt khác, đầu tư vào huấn luyện mô hình, dịch vụ suy luận và cơ sở hạ tầng vẫn đang bào mòn lợi nhuận của một số doanh nghiệp. Theo báo cáo, doanh thu quý hai của CoreWeave tăng khoảng 112% so với cùng kỳ lên 2,575 tỷ USD, nhưng vẫn lỗ ròng 626 triệu USD.
Phân tích cho rằng, nâng cao hiệu quả suy luận được kỳ vọng sẽ mở rộng không gian lợi nhuận của dịch vụ AI, nhưng sản xuất Token hiệu quả không nhất thiết có nghĩa là sinh lời thương mại. Khi lượng gọi mô hình tăng lên, doanh nghiệp vẫn cần giải quyết vấn đề cân bằng giữa chi phí tính toán, định giá dịch vụ và ý nguyện trả phí của khách hàng.
