Theo Động Sát Beating giám sát, công ty công cụ AI mã nguồn mở Unsloth đã phát hành phiên bản 1-bit GGUF của Kimi K3, nén mô hình từ 1,56TB xuống còn 594GB. Người dùng có thể chạy cục bộ trên Mac thông qua Unsloth Studio hoặc llama.cpp.
Tuy nhiên, phiên bản này yêu cầu ít nhất khoảng 610GB bộ nhớ. Theo phương án chính thức, Mac Studio cấu hình cao nhất 512GB còn phải kết hợp với một thiết bị bộ nhớ 128GB. Nếu không đủ bộ nhớ, có thể tải tạm qua ổ cứng, nhưng tốc độ sẽ giảm đáng kể.
Cộng đồng còn có các phiên bản MLX cắt giảm 350GB và 451GB, có thể chạy trên một chiếc Mac Studio 512GB duy nhất. Nhưng chúng đã loại bỏ 73% đến 80% số chuyên gia, tốc độ thực tế khoảng 0,14 đến 0,20 token/s, và khả năng cũng giảm rõ rệt.
