Bittensor mạng lưới con hoàn thành quá trình huấn luyện trước lớn nhất về LLM trong lịch sử, tái hiện câu chuyện về AI

Tin tức BlockBeats, ngày 16 tháng 3, theo tin từ chính thức, Mạng lưới con Bittensor Templar(SN3) đã hoàn thành việc huấn luyện trước lịch sử lớn nhất trong lịch sử với Covenant-72B phi tập trung vào ngày 10 tháng 3. Các người ủng hộ cộng đồng cho rằng sự kiện này chứng minh rằng Bittensor không phải là một "đồng tiền khái niệm", mà là cơ sở hạ tầng phi tập trung có thể sản xuất các mô hình AI hàng đầu một cách thật sự.

Theo thông tin, Covenant-72B là một mô hình ngôn ngữ có 720 tỷ tham số, được đào tạo trước bởi nhóm Templar trên Mạng lưới con Bittensor 3, hoàn toàn dựa trên Internet phổ quát, không cần trung tâm dữ liệu. Mô hình này đã đạt được điểm số 67.1 trong bài kiểm tra MMLU (zero-shot), vượt qua các mô hình cơ sở tập trung như LLaMA-2-70B và LLM360 K2 cùng điều kiện đánh giá. Đó là mô hình ngôn ngữ hợp tác không cần phép lớn nhất từ trước đến nay, và trong suốt quá trình hoạt động, hơn 70 nút khác nhau đã đóng góp tài nguyên tính toán. Nhóm đã phát hành tất cả các trọng số và điểm kiểm tra theo giấy phép Apache.

Có thể bị ảnh hưởng bởi tin tức này, Bittensor (TAO) và mã thông báo mạng lưới con của mình đã tăng giá, TAO tăng 54.8% trong hai tuần gần đây. Mã thông báo mạng lưới con τemplar đã tăng 194% trong vòng 7 ngày gần đây, hiện giá 19.3 đô la Mỹ.