Tether giới thiệu Khung cảnh AI mới: Điện thoại di động có thể huấn luyện Mô hình AI 10 tỷ tham số

Tin tức BlockBeats, ngày 17 tháng 3, nhà phát hành stablecoin Tether đã thông báo rằng nền tảng trí tuệ nhân tạo của họ, QVAC Fabric, đã ra mắt khung việc điều chỉnh LoRA toàn cầu đầu tiên hướng tới Microsoft BitNet (1-bit LLM), cho phép mô hình ngôn ngữ cỡ tỷ tham số có thể được huấn luyện và suy luận trên phần cứng thông thường, bao gồm laptop, GPU dành cho người tiêu dùng và điện thoại thông minh.

Đại diện chính thức cho biết rằng khung việc điều chỉnh này đã giảm đáng kể ngưỡng ram và sức mạnh tính toán cần thiết cho việc huấn luyện mô hình trí tuệ nhân tạo, hỗ trợ cho nhiều loại GPU di động (như Adreno, Mali, Apple Bionic) cũng như Intel, AMD, Apple Silicon.

Trong quá trình thử nghiệm, mô hình BitNet 1.25 tỷ tham số có thể hoàn thành điều chỉnh trên Samsung S25 trong khoảng 10 phút; mô hình 10 tỷ tham số có thể hoàn thành trên Samsung S25 trong khoảng 1 giờ 18 phút, trên iPhone 16 trong khoảng 1 giờ 45 phút, và team thậm chí đã thành công trong việc điều chỉnh mô hình 130 tỷ tham số trên iPhone 16.

Về hiệu suất, tốc độ suy diễn của mô hình BitNet trên GPU di động tăng từ 2 đến 11 lần so với CPU. Đồng thời, các bài kiểm tra cho thấy mô hình BitNet-1B có thể giảm tối đa tới 77.8% lượng ram so với mô hình 16-bit trong nhiệm vụ suy luận và điều chỉnh.

Paolo Ardoino cho biết, công nghệ này nhằm mục đích giảm thiểu sự phụ thuộc vào tính toán đám mây lớn và phần cứng trí tuệ nhân tạo riêng biệt, cho phép việc huấn luyện mô hình trí tuệ nhân tạo có thể hoàn thành trên thiết bị cục bộ và cung cấp nền tảng cho các mô hình mới như trí tuệ nhân tạo phi tâm trung và học liên minh.