Cohere mở mã nguồn Command A+: Mô hình MoE 218B với các đặc điểm chính là Agent Doanh nghiệp và Chủ quyền Dữ liệu.

Theo giám sát từ Beating của Dynamic, Cohere chính thức mã nguồn mở Mô hình Chuyên gia kết hợp thưa thớt Command A+ với 218 tỷ tham số, hỗ trợ xây dựng đa cấp doanh nghiệp và triển khai riêng tư dựa trên Giấy phép Apache 2.0. Mô hình mới được thiết kế đặc biệt để đáp ứng nhu cầu chủ quyền dữ liệu cho cơ sở hạ tầng then chốt, hỗ trợ doanh nghiệp triển khai cách ly vật lý mà không bị ràng buộc bởi nhà cung cấp.

Tổng số tham số của mô hình mới là 218 tỷ (218B), nhưng trong mỗi lần suy luận chỉ kích hoạt 250 tỷ (25B) tham số, đạt được sự cân bằng giữa hiệu suất tính toán và khả năng sinh ra. Hiệu suất suy luận được tối ưu hóa giúp mô hình chỉ cần hai GPU NVIDIA H100 hoặc một GPU B200 để chạy, và Hugging Face cũng đồng bộ hóa các phiên bản lượng tử hóa có độ chính xác thấp như W4A4, giảm thêm ngưỡng triển khai.

Command A+ hỗ trợ đa phương tiện tự nhiên, cung cấp cửa sổ ngữ cảnh đầu vào với 128 nghìn (128K) Token và độ dài đầu ra 6.4 vạn Token. Nó được tối ưu hóa sâu cho luồng công việc Agentic bao gồm lý luận phức tạp, gọi các công cụ tự động, truy vấn cơ sở dữ liệu và xử lý tài liệu dài, và hỗ trợ 48 ngôn ngữ bao gồm tất cả ngôn ngữ chính thức của Liên minh châu Âu.