BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

Thinking Machines ra mắt Inkling 2 Mini: 26,4 tỷ tham số, điểm benchmark ngang ngửa Qwen3.8-27B

Động Sát Beating Tin nhanh AI, Inkling 2 Small mà Thinking Machines vừa mã nguồn mở có 594 tỷ tham số, cần ít nhất 500GB VRAM để chạy. Nhiều nhà phát triển cho rằng nó quá lớn, vì vậy Thinking Machines đã ra mắt Inkling 2 Mini nhỏ hơn, tổng tham số giảm xuống còn 26,4 tỷ, mỗi lần sinh Token kích hoạt 3,4 tỷ tham số khác nhau, cuối cùng có thể chạy trên laptop thông thường.


Mini sử dụng kiến trúc Transformer tuần hoàn giống như GPT-6 Astra. Mô hình chỉ có 24 lớp mạng, nhưng 12 lớp ở giữa sẽ chạy lặp lại 3 lần. Tương đương với việc mỗi lần sinh một Token, đều phải trải qua tính toán 48 lớp, nhưng chỉ cần lưu trữ trọng số của 24 lớp. Thông qua việc tái sử dụng cùng một bộ tham số, mô hình không cần tiếp tục mở rộng kích thước mà vẫn có thể thực hiện suy luận phức tạp hơn.


Điểm tổng hợp của Artificial Analysis đạt 20,1 điểm, ngang bằng với Qwen3.8-27B, nhưng chi phí đánh giá từng hạng mục chỉ bằng khoảng một phần sáu của mô hình sau, thời gian chỉ bằng khoảng một phần tư. Kết quả thử nghiệm do Thinking Machines công bố cho thấy, tỷ lệ vượt qua nhiệm vụ lập trình DeepSWE v1.1 đạt 48,2%, vượt qua 42,2% của Qwen; nhưng trong bài kiểm tra nhiệm vụ tự động hóa văn phòng AutomationBench-AA, điểm số là 41,8%, vẫn thấp hơn 48,2% của Qwen.


Kiến trúc tuần hoàn cũng mang lại một vấn đề: mô hình có thể hoàn thành nhiều suy luận hơn ở bên trong, không cần viết ra từng bước suy nghĩ, bên ngoài có thể khó kiểm tra quá trình suy luận của nó hơn. Thinking Machines đã huấn luyện riêng một mô hình nghiên cứu có thể điều chỉnh số lần tuần hoàn. Thí nghiệm phát hiện, số lần tuần hoàn càng nhiều, mô hình có thể hoàn thành các nhiệm vụ phức tạp hơn mà không dựa vào suy luận văn bản, nhưng tạm thời chưa phát hiện khả năng giám sát chuỗi tư duy bị giảm rõ rệt.


Inkling 2 Mini đã mở toàn bộ trọng số, sử dụng giấy phép Apache 2.0. Phiên bản chính thức khoảng 20GB, có thể chạy ngoại tuyến trên Mac có 32GB RAM. Unsloth cũng đã ra mắt phiên bản lượng tử hóa bit thấp, thiết bị có 16GB RAM là có thể chạy.

举报 Báo lỗi/Báo cáo
Liên quanĐề xuất
Tốc độ tạo ra "thần tượng" của AI và sự rút lui của dòng vốn đang chạy đua trong cùng một mùa hè.
Trong năm 2026, AI Doanh nghiệp của Anthropic dự kiến sẽ vượt qua OpenAI
Meta hiện tại có thể truy cập đến Pool tài sản, và nó không còn ở cùng một cấp độ với năm 2012
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành