Tether phát hành bộ dữ liệu Token STEM trị giá 191,4 tỷ, đặt cược vào "khả năng giải thích" của các mô hình nhỏ cục bộ

Tin BlockBeats, ngày 23 tháng 9, Tether AI Research thuộc gã khổng lồ stablecoin Tether hôm nay đã phát hành QVAC Genesis III, một bộ dữ liệu huấn luyện tổng hợp dành cho các lĩnh vực khoa học, công nghệ, kỹ thuật và toán học, với quy mô đạt 191,43 tỷ Token, bao phủ 159,6 triệu tài liệu.

Được biết, Tether hy vọng qua đó nâng cao khả năng suy luận và giảng dạy của các mô hình AI nhỏ, giúp nhiều trợ lý AI có thể chạy trực tiếp trên laptop, điện thoại và máy chủ cục bộ, giảm bớt sự phụ thuộc liên tục vào các mô hình đám mây lớn.

Genesis III tiếp nối lộ trình dữ liệu của Genesis I và Genesis II, nội dung bao phủ 19 lĩnh vực liên quan đến hệ thống chương trình như sinh học, hóa học, vật lý, toán học, khoa học máy tính, y học, kỹ thuật điện và học máy, hướng đến các ứng dụng cấp trung học phổ thông, đại học và chuyên nghiệp. Tether cho biết, bộ dữ liệu sẽ tập trung huấn luyện mô hình giải thích các bước giải bài, nhận diện suy luận sai và đưa ra sửa chữa, thay vì chỉ đưa ra đáp án cuối cùng.

Theo kết quả kiểm thử được Tether công bố, mô hình 1,7 tỷ tham số được huấn luyện bằng dữ liệu cấp lựa chọn của Genesis III đạt tỷ lệ trả lời hiệu quả 99,45% trong các bài kiểm tra chuẩn liên quan. So với mô hình huấn luyện Cosmopedia-v2 có quy mô Token tương đương, Genesis III có điểm số trên các bài kiểm tra chuẩn ARC-Easy, ARC-Challenge và MMLU STEM lần lượt tăng 28,57, 21,35 và 15,03 điểm phần trăm.