Động Sát Beating Tin nhanh AI, Inkling 2 Small mà Thinking Machines vừa mã nguồn mở có 594 tỷ tham số, cần ít nhất 500GB VRAM để chạy. Nhiều nhà phát triển cho rằng nó quá lớn, vì vậy Thinking Machines đã ra mắt Inkling 2 Mini nhỏ hơn, tổng tham số giảm xuống còn 26,4 tỷ, mỗi lần sinh Token kích hoạt 3,4 tỷ tham số khác nhau, cuối cùng có thể chạy trên laptop thông thường.
Mini sử dụng kiến trúc Transformer tuần hoàn giống như GPT-6 Astra. Mô hình chỉ có 24 lớp mạng, nhưng 12 lớp ở giữa sẽ chạy lặp lại 3 lần. Tương đương với việc mỗi lần sinh một Token, đều phải trải qua tính toán 48 lớp, nhưng chỉ cần lưu trữ trọng số của 24 lớp. Thông qua việc tái sử dụng cùng một bộ tham số, mô hình không cần tiếp tục mở rộng kích thước mà vẫn có thể thực hiện suy luận phức tạp hơn.
Điểm tổng hợp của Artificial Analysis đạt 20,1 điểm, ngang bằng với Qwen3.8-27B, nhưng chi phí đánh giá từng hạng mục chỉ bằng khoảng một phần sáu của mô hình sau, thời gian chỉ bằng khoảng một phần tư. Kết quả thử nghiệm do Thinking Machines công bố cho thấy, tỷ lệ vượt qua nhiệm vụ lập trình DeepSWE v1.1 đạt 48,2%, vượt qua 42,2% của Qwen; nhưng trong bài kiểm tra nhiệm vụ tự động hóa văn phòng AutomationBench-AA, điểm số là 41,8%, vẫn thấp hơn 48,2% của Qwen.
Kiến trúc tuần hoàn cũng mang lại một vấn đề: mô hình có thể hoàn thành nhiều suy luận hơn ở bên trong, không cần viết ra từng bước suy nghĩ, bên ngoài có thể khó kiểm tra quá trình suy luận của nó hơn. Thinking Machines đã huấn luyện riêng một mô hình nghiên cứu có thể điều chỉnh số lần tuần hoàn. Thí nghiệm phát hiện, số lần tuần hoàn càng nhiều, mô hình có thể hoàn thành các nhiệm vụ phức tạp hơn mà không dựa vào suy luận văn bản, nhưng tạm thời chưa phát hiện khả năng giám sát chuỗi tư duy bị giảm rõ rệt.
Inkling 2 Mini đã mở toàn bộ trọng số, sử dụng giấy phép Apache 2.0. Phiên bản chính thức khoảng 20GB, có thể chạy ngoại tuyến trên Mac có 32GB RAM. Unsloth cũng đã ra mắt phiên bản lượng tử hóa bit thấp, thiết bị có 16GB RAM là có thể chạy.
