Theo Động Sát Beating theo dõi, NVIDIA đang đẩy mạnh Nemotron 4, hy vọng biến nó thành một trong những mô hình mã nguồn mở mạnh nhất toàn cầu. The Information dẫn lời nhiều nhân viên dự án cho biết, mô hình lớn nhất trong dòng dự kiến có ít nhất 1 nghìn tỷ tham số, gấp khoảng hai lần Nemotron 3 Ultra. Thông số kỹ thuật cụ thể và thời điểm phát hành vẫn chưa được xác định, và quá trình huấn luyện cuối cùng cũng chưa bắt đầu.
NVIDIA hy vọng dùng các mô hình mã nguồn mở mạnh hơn để thúc đẩy nhu cầu GPU. Công ty trong những năm gần đây đã tăng rõ rệt đầu tư tính toán cho các mô hình tự phát triển. Tính đến tháng 4 năm nay, cam kết mua dịch vụ đám mây trong vài năm tới đã tăng lên 28 tỷ USD, gấp khoảng ba lần so với một năm trước, tuy nhiên con số này cũng bao gồm các mục đích nghiên cứu phát triển khác.
Nemotron 4 cũng đã kéo theo một loạt công ty bên ngoài cùng phát triển. Cursor, Mistral, Thinking Machines, Reflection AI và các bên khác sẽ cung cấp dữ liệu huấn luyện, đánh giá và thiết kế mô hình, còn Prime Intellect đóng góp 300.000 môi trường mô phỏng.
Vấn đề là, nhiều công ty trong số này vốn đã là khách hàng hoặc công ty được đầu tư của NVIDIA. Các công ty mô hình hàng đầu như OpenAI cũng là một trong những khách hàng mua GPU lớn nhất của họ. Giờ đây, khi NVIDIA tự mình tấn công vào phân khúc mô hình mã nguồn mở hàng đầu, họ vừa muốn mở rộng thị trường mô hình mã nguồn mở, vừa bắt đầu cạnh tranh với chính khách hàng và đối tác của mình.
