Ma trận tính toán Huawei Ascend 950PR chỉ đạt bốn phần mười tốc độ của H100, DeepSeek đang ép hiệu năng từ phần mềm

Động Sát Beating Tin nhanh AI, năm ngoái, DeepSeek đã thử dùng chip Huawei Ascend để huấn luyện R2, nhưng ngay cả khi kỹ sư Huawei có mặt tại chỗ hỗ trợ cũng không chạy được. Độ ổn định của chip, giao tiếp giữa các card và hỗ trợ phần mềm đều tồn tại vấn đề. Năm nay hai bên tiếp tục hợp tác sâu hơn. Cuối tháng 9, DeepSeek đã công bố tập trung sáu bộ mã thích ứng Ascend; tháng 10 lại có tin Huawei đang điều chỉnh thiết kế chip thế hệ tiếp theo theo nhu cầu mô hình của DeepSeek.

Tổ chức nghiên cứu bán dẫn SemiAnalysis gần đây đã công bố kết quả đo thực tế của Ascend 950PR. Các nhà nghiên cứu đã chọn 1055 nhóm phép tính ma trận thường dùng cho mô hình lớn, phát hiện chương trình nền tảng của chính Huawei đã giúp 950PR phát huy 86% năng lực tính toán khả dụng của nó, cao hơn mức 75,5% của NVIDIA H100. Nhưng tốc độ tính toán thực tế vẫn chỉ bằng 43% của H100, và so với B300 mới hơn thì chỉ còn 21%.

DeepSeek đang giảm việc di chuyển dữ liệu và thời gian chờ trong phần mềm. Ví dụ, khi chạy tính toán attention, hai phần dữ liệu vốn cần đọc riêng rẽ, sau khi FlashMLA điều chỉnh cách lưu trữ, có thể lấy đủ trong một lần. Một bộ công cụ khác là TileLang có thể giúp chip vừa tính toán vừa tải trước lô dữ liệu tiếp theo. SemiAnalysis đo thực tế cho thấy, lập lịch tự động giúp giảm tối đa khoảng 40% thời gian của một số tác vụ tính toán nhỏ. DeepSeek cũng đã chuyển giao DeepEP phụ trách giao tiếp chuyên gia MoE, nhưng giao tiếp và tính toán vẫn tranh chấp băng thông bộ nhớ, Huawei dự định tiếp tục cải tiến firmware.

950PR được thử nghiệm lần này chủ yếu hướng đến xử lý đầu vào suy luận, còn 950DT là loại mà DeepSeek chuẩn bị dùng cho huấn luyện trước quy mô lớn nhanh nhất vào cuối năm. Trước đó hai bên đã tiến hành thử nghiệm cấp nghìn card, nhưng để hàng vạn chip liên tục hoàn thành một vòng huấn luyện mô hình lớn, vẫn cần giải quyết các vấn đề phối hợp và ổn định phức tạp hơn.