Claude tối ưu hóa 36 mô hình sinh học trong chưa đầy 4 tuần, tốc độ trung bình tăng khoảng 4 lần

动察 Beating AI tin nhanh, Anthropic đã để Claude thực hiện một vòng tối ưu hiệu năng cho 36 mô hình sinh học mã nguồn mở. Chưa đầy 4 tuần, các mô hình này chạy nhanh trung bình khoảng 4 lần, bao phủ các tác vụ như dự đoán cấu trúc protein, thiết kế protein và phân tích genome. Mã tối ưu liên quan đã được mở mã nguồn toàn bộ.

Claude làm không chỉ là sửa mã Python, mà còn tự viết các GPU kernel như FlashPairformer, trực tiếp nâng cao hiệu quả tính toán GPU từ tầng thấp. Trong thử nghiệm chính thức, một số phép tính vốn rất tốn thời gian nhanh hơn tối đa 3,2 lần. Gặp các mô hình khác nhau, Claude còn lần lượt tìm điểm nghẽn, xóa các phép tính lặp lại, hoặc cache trước những dữ liệu thường dùng.

Toàn bộ quá trình do hai nhà nghiên cứu mô hình sinh học của Anthropic giám sát, nhưng cả hai trước đó đều không có kinh nghiệm tối ưu suy luận hoặc kỹ thuật kernel. Ngay cả khi yêu cầu kết quả trước và sau tối ưu hoàn toàn nhất quán, các mô hình này trung bình vẫn tăng tốc khoảng 1,6 lần; nếu cho phép kết quả mô hình có sai khác nhỏ trong phạm vi bình thường, mức tăng tốc trung bình có thể đạt khoảng 4 lần.

Anthropic trước đây làm một thí nghiệm thiết kế protein, mỗi mục tiêu cần tối đa khoảng 2500 giờ GPU H100. Sau khi tối ưu, một chiếc H200 chạy 24 giờ đã có thể đạt hiệu quả gần tương đương, chi phí GPU cộng Claude tổng cộng khoảng 150 USD. Thí nghiệm vốn phải đốt hàng nghìn giờ GPU, giờ chỉ cần khoảng một ngày là chạy xong.