NVIDIA mã nguồn mở Bolt E4B: thiết bị RAM 8GB chạy đồng thời mô hình thị giác và hội thoại

Động Sát Beating Tin nhanh AI, NVIDIA mã nguồn mở mô hình AI nhỏ Nemotron 3.5 Bolt E4B 4GB, chuyên dành cho trợ lý giọng nói cục bộ, nhân vật trò chơi và robot. Nó được huấn luyện tiếp dựa trên Google Gemma 4 E4B, tăng cường khả năng hội thoại liên tục, hiểu chỉ thị và gọi công cụ. Tổng tham số của mô hình khoảng 8 tỷ, nhưng phần lớn tham số chỉ cần tra bảng để sử dụng, không cần thực hiện tính toán phức tạp, quy mô tính toán cốt lõi khoảng 4 tỷ tham số.

NVIDIA còn trình diễn robot để bàn Reachy Mini. Cosmos 3 Edge chịu trách nhiệm nhận diện môi trường xung quanh, Bolt chịu trách nhiệm trò chuyện và gọi chương trình cài đặt sẵn để điều khiển hành động của robot. Hai mô hình chạy đồng thời trên một Jetson Orin Nano chỉ có 8GB bộ nhớ.