Chi phí thực tế của token giảm xuống còn 0,99 USD, SemiAnalysis tiết lộ chi tiêu cho mô hình lớn đã chiếm 30% tiền lương.

Theo dữ liệu giám sát từ Động Sát Beating, các tác nhân AI được triển khai rộng rãi ở phía doanh nghiệp đang làm đảo lộn nền kinh tế đơn vị của ngành dịch vụ chuyên nghiệp. Tổ chức nghiên cứu SemiAnalysis tiết lộ rằng chi tiêu Token mô hình lớn nội bộ đã chiếm 30% tổng lương nhân viên, với mức tiêu thụ trung bình hàng tháng gần 5 tỷ Token mỗi người, và những người đóng góp chính tiêu thụ hơn 100 tỷ Token mỗi tháng. Những công việc như chuyển đổi mô hình Excel và tạo báo cáo tài chính vốn mất nhiều giờ của các nhà phân tích, nay có thể hoàn thành trong vài phút với chi phí Token chỉ vài đô la.

Sự giảm mạnh chi phí sử dụng thực tế là yếu tố then chốt trong việc tái định hình nền kinh tế đơn vị của ngành dịch vụ chuyên nghiệp. Mặc dù giá niêm yết chính thức của Opus 4.7 lên tới 5 đô la cho mỗi triệu Token đầu vào và 25 đô la cho đầu ra, nhưng nhờ tỷ lệ đầu vào/đầu ra lên tới 300:1 trong các tác vụ tác nhân và tỷ lệ hit bộ nhớ đệm prompt trên 90%, chi phí Token hỗn hợp thực tế chỉ còn 0,99 đô la mỗi triệu.

Sự tăng tốc đồng thời của phần mềm và phần cứng đang tiếp tục nén chi phí tạo sinh. Khi chạy DeepSeek R1 trên B300, thông qua các tối ưu hóa phần mềm như wideEP, disagg và MTP, thông lượng GPU đơn có thể tăng từ 1000 token/giây ở baseline lên 14000 token/giây, đạt mức tăng thông lượng phần mềm thuần túy gấp 14 lần. Ở cấp độ phần cứng, GB300 NVL72 với cấu hình tối ưu có thông lượng gấp 17 lần H100 (gấp 32 lần ở FP4), qua đó cung cấp sự đảm bảo cấu trúc cho tăng trưởng biên lợi nhuận của các nhà phát triển mô hình lớn, và dự đoán rằng giá Token vào năm 2027 sẽ thấp hơn nhiều so với mức hiện tại.