Musk lại vẽ bánh vẽ: Grok4.8 với 2,5T tham số, cuối tuần này kết thúc tiền huấn luyện và chuyển sang RL

Động Sát Beating AI tin nhanh, Grok 4.7 còn chưa ra mắt, Musk đã bắt đầu hé lộ trước về Grok 4.8. Ông nói 4.8 là một mô hình quy mô 2,5T tham số, được huấn luyện bằng ngăn xếp phần mềm C++ mới của SpaceXAI, tuần này sẽ kết thúc tiền huấn luyện, sau đó bắt đầu học tăng cường.

Ngăn xếp C++ này cũng là chiếc bánh vẽ mà Musk đã nhiều lần nhắc đi nhắc lại trước đây. Cuối tháng 6, ông nói rằng trong khoảng ba tháng sẽ viết lại phần lớn phần mềm huấn luyện và suy luận của Grok thành C/C++, xóa bỏ nhiều lớp trung gian, và tối ưu riêng cho NVIDIA GB300, dự kiến sau khoảng ba tháng sẽ mang lại "cải tiến khổng lồ".

Tuy nhiên, Grok 4.7 vừa bị hoãn vì vấn đề RL. Musk trước đó nói nó sẽ ra mắt khoảng ngày 12 tháng 9, gần đến lúc lên sóng lại thừa nhận mô hình sẽ từ bỏ quá sớm trước các bài toán khó, kiểm tra đáp án cũng không đủ nghiêm ngặt. Chiếc bánh vẽ trước còn chưa ra lò, chiếc bánh tiếp theo đã vào lò nướng rồi.