BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

Kimi K3 đã có thể chạy trên máy Mac, nhưng người dùng thông thường vẫn không thể chạy được.

Theo Động Sát Beating giám sát, công ty công cụ AI mã nguồn mở Unsloth đã phát hành phiên bản 1-bit GGUF của Kimi K3, nén mô hình từ 1,56TB xuống còn 594GB. Người dùng có thể chạy cục bộ trên Mac thông qua Unsloth Studio hoặc llama.cpp.

Tuy nhiên, phiên bản này yêu cầu ít nhất khoảng 610GB bộ nhớ. Theo phương án chính thức, Mac Studio cấu hình cao nhất 512GB còn phải kết hợp với một thiết bị bộ nhớ 128GB. Nếu không đủ bộ nhớ, có thể tải tạm qua ổ cứng, nhưng tốc độ sẽ giảm đáng kể.

Cộng đồng còn có các phiên bản MLX cắt giảm 350GB và 451GB, có thể chạy trên một chiếc Mac Studio 512GB duy nhất. Nhưng chúng đã loại bỏ 73% đến 80% số chuyên gia, tốc độ thực tế khoảng 0,14 đến 0,20 token/s, và khả năng cũng giảm rõ rệt.

Liên quanĐề xuất
Người nước ngoài nói rằng còn sốc hơn cả ngày vệ tinh Liên Xô phóng lên không trung.
Citigroup và Bank of America Securities cho rằng, mặc dù Kimi K3 giảm chi phí suy luận, nhưng có thể kích thích nhiều lệnh gọi hơn, ngữ cảnh dài hơn và các tác vụ tác nhân thông qua "Nghịch lý Jevons", từ đó đẩy cao nhu cầu về GPU, HBM, DDR5, eSSD và cơ sở hạ tầng mạng.
Mô hình trọng số mở giá rẻ một lần nữa tác động đến câu chuyện định giá AI.
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành