Tỷ lệ sử dụng GPU AI chỉ 11% nhưng đã cho thuê 220.000 GPU cho Anthropic, đồng thời cả về mặt tài chính lẫn kỹ thuật.
Theo dõi Đấm của Beating, SpaceX IPO Prospectus đã đưa tốc độ xây dựng Trung tâm Dữ liệu xAI làm điểm bán hàng: Trung tâm Dữ liệu Macrohard thứ hai tại Memphis với Clusters Chip đầu tiên hoạt động trong 91 ngày, so với bình thường của ngành là hai năm; Chi phí cho hai Cluster đầu tiên là 270 triệu đô la/MW, khoảng một phần tư so với tiêu chuẩn trong ngành. Tiết kiệm thời gian thông qua việc tái cấu trúc nhà máy cũ, tiết kiệm tiền thông qua việc di chuyển Turbine khí, Tesla Megapack và hơn 100 máy làm lạnh di động lắp trên mái nhà, mà không cần hạ từ lưới điện cố định.
Nhưng chi phí của giải pháp tạm thời đã bắt đầu biểu hiện. Thời gian hoạt động bình thường của Macrohard xa so với mục tiêu nội bộ 99.9%, với nhiều lần gián đoạn quá trình huấn luyện mô hình. Giám đốc điều hành cấp cao của Starlink, Michael Nicolls, người đảm trách xAI, đã lên tiếng trong một thông báo nội bộ, chỉ trích rằng chỉ có 11% của GPU Nvidia hàng trăm nghìn đang được sử dụng cho "Tỷ lệ sử dụng năng lực mô hình" (MFU), "thấp hơn mức pe", và yêu cầu tăng lên 50% trong vòng vài tháng. Trong khi đó, tổng lỗ kỳ vọng của SpaceX và xAI vào năm 2025 khoảng 50 tỷ đô la, vượt xa 50% so với khoản đầu tư vào tên lửa và vệ tinh của riêng SpaceX.
Môi trường này khi nhìn vào giao dịch hôm nay của Anthropic thuê Colossus 1 trở nên rất tinh tế. SpaceXAI cho biết rằng quy trình huấn luyện đã chuyển sang Colossus 2 lớn hơn, do đó đã cho thuê toàn bộ 22 vạn GPU trên Colossus 1. Tuy nhiên, tỷ lệ sử dụng năng lực mô hình (MFU) chỉ là 11%, cho thấy họ chưa sử dụng hết số chip mà mình có, vì vậy thay vì bỏ tiền điện không cần thiết, việc thuê này là luồng tiền mặt thực sự. Điều này cũng là một điểm cộng cho câu chuyện IPO: thậm chí cả đối thủ cạnh tranh cũng đến thuê sức mạnh tính toán của chúng tôi, không chỉ chứng minh giá trị của cơ sở hạ tầng mà còn có thể được chuyển đổi thành doanh thu.
Chi phí vận hành không chỉ là sự gián đoạn hoạt động. Nhiều giám đốc cấp cao chịu trách nhiệm cho việc xây dựng Macrohard và Colossus đã từ chức trong vài tuần qua, và nhà máy xử lý nước thải trị giá 80 triệu đô la đã bị tạm ngừng vô thời hạn. An ninh công trình cũng là một vấn đề lo lắng: vào tháng 1, một công nhân đã bị mất ngón tay, và vào tháng 9 năm trước, hai nhân viên của đối tác đã bị điện giật, trong số đó một người đã phải nhập viện 53 ngày.
