Musk cũng đặt cược vào NVIDIA cho cả CPU: SpaceX AI triển khai Vera để chạy Agent

Động sát Beating AI tin nhanh, SpaceXAI sẽ triển khai CPU NVIDIA Vera để chạy thế hệ AI Agent tiếp theo. Nó không thay thế GPU tính toán mô hình lớn, mà chủ yếu xử lý các công việc giữa các lần gọi mô hình, bao gồm gọi công cụ, chạy mã, xử lý dữ liệu, điều phối tác vụ và mô phỏng. SpaceXAI cũng sẽ tiếp tục sử dụng Vera Rubin để mở rộng hạ tầng AI cho Grok.

AI Agent càng phức tạp, khối lượng công việc của CPU càng tăng. Sau khi mô hình tạo ra lệnh gọi công cụ, các tác vụ như thực thi mã, truy vấn dữ liệu thường phải giao cho CPU. Nếu CPU chạy quá chậm, GPU sẽ phải chờ kết quả trả về. Vera chính là CPU mà NVIDIA thiết kế riêng cho phần này.

Vera có 88 lõi CPU Olympus do NVIDIA tự phát triển, băng thông bộ nhớ tối đa lên tới 1,2TB/s. NVIDIA cho biết, trong các tác vụ như Agent, học tăng cường và xử lý dữ liệu, tốc độ hoàn thành tác vụ của Vera có thể cao gấp 1,8 lần so với CPU x86.

Phân công phần cứng mà NVIDIA chuẩn bị cho Agent ngày càng rõ ràng: GPU Rubin đảm nhiệm tính toán mô hình lớn, LPU Groq tăng tốc tạo Token, CPU Vera phụ trách gọi công cụ và chạy mã. SpaceXAI còn dự định đưa Vera Rubin lên vũ trụ, thế hệ vệ tinh AI Starmind đầu tiên sẽ dựa trên phiên bản tối ưu hóa của Vera Rubin NVL72.