Động Sát Beating Tin nhanh AI, tổ chức nghiên cứu Epoch AI ước tính mới nhất, dòng chip Blackwell của NVIDIA đóng góp 74% năng lực xử lý yêu cầu AI Agent tăng thêm trên toàn cầu trong năm qua. Trong đó, GB300 một card trong điều kiện kiểm thử cụ thể có thể xử lý đồng thời lượng yêu cầu Agent gấp khoảng 25 lần H100, gấp 8 lần H200.
Agent lập trình cần đọc mã lặp đi lặp lại, lưu giữ hội thoại lịch sử, gọi công cụ. Chip ngoài việc tính toán còn phải dùng bộ nhớ hiển thị để lưu lượng lớn ngữ cảnh và đọc dữ liệu nhanh chóng. Dung lượng bộ nhớ hiển thị, băng thông đọc ghi, và tốc độ liên lạc giữa nhiều chip đều ảnh hưởng đến số lượng Agent có thể chạy đồng thời.
Theo cách đo truyền thống số lần tính toán mỗi giây, hiệu năng đỉnh của GB300 chỉ khoảng 2,5 lần H100. Nhưng tổng hợp các yếu tố này, Epoch AI ước tính năng lực xử lý yêu cầu Agent của nó đạt khoảng 25 lần.
Từ quý II năm 2025 đến quý II năm 2026, lượng yêu cầu Agent mà chip AI bán ra tích lũy toàn cầu có thể xử lý đồng thời tăng lên 4,6 lần, trong khi hiệu năng đỉnh cùng kỳ chỉ tăng lên 2,6 lần.
CEO tạm thời của NVIDIA Colette Kress xác nhận tại cuộc họp điện thoại báo cáo tài chính ngày 17 tháng 11 rằng công ty đã ngừng xuất khẩu sang Trung Quốc các chip trung tâm dữ liệu dòng Hopper được cấp phép, bao gồm H200. Huawei thì dự kiến ra mắt Ascend 960DT vào quý I năm 2027, thông số hiệu năng đỉnh FP8 công bố gần với H200.
