Mercury 3 thách thức GPT-6 Luna: lớn hơn 40 lần so với thế hệ đầu tiên, tốc độ đo chính thức vẫn vượt 1.000 Token/giây

Động Sát Beating AI tin nhanh, công ty AI Hoa Kỳ Inception phát hành mô hình ngôn ngữ khuếch tán Mercury 3. Các mô hình lớn thông thường thường tạo Token từng cái một, còn Mercury tạo song song một loạt văn bản, rồi sửa đi sửa lại.

Inception cho biết, số tham số của mô hình mới mở rộng hơn 40 lần so với Mercury thế hệ đầu, nhưng trên GPU NVIDIA vẫn đạt 1068 Token mỗi giây, gần với 1107 Token của Mercury 2.5 thế hệ trước. Ngữ cảnh cũng mở rộng từ 260 nghìn lên 1 triệu Token.

Kết quả tự kiểm tra được công bố cho thấy, ở mức suy luận trung bình, thành tích tổng hợp của Mercury 3 cao hơn một chút so với GPT-6 Luna và Claude Haiku 5.5, tốc độ tạo đạt gấp 4 đến 8 lần hai mô hình này.

Trong bài kiểm tra lập trình DeepSWE, Mercury 3 đạt 46,3%, kém 51,6% của Haiku 5.5; chuyển sang SWE-Bench Atlas, lại dẫn trước đối thủ với 51,1% so với 32,3%.

Đồng sáng lập Inception thừa nhận trên Hacker News rằng, mô hình mới chưa thể thay thế Opus hoặc Fable đảm nhận vai trò Agent chính, nhưng đã có thể đảm nhận các nhiệm vụ con như viết mã.

Mercury 3 đã mở qua Inception API, OpenRouter, Baseten và Vercel. Trong thời gian phát hành giảm giá 50%, mỗi triệu Token đầu vào là 0,10 USD, đầu ra là 0,35 USD; giá bình thường lần lượt là 0,20 và 0,70 USD. Chính thức cung cấp 100 triệu Token dùng thử miễn phí.

Tuy nhiên, tốc độ nghìn Token được quảng cáo chính thức không chắc người dùng thông thường có thể trải nghiệm. OpenRouter hiển thị, tốc độ đầu ra trung vị của Mercury 3 khoảng 180 Token mỗi giây, chỉ bằng một phần sáu so với đo tốc độ chính thức.