Tiêu đề Ban đầu: "Bài Diễn Thuyết Toàn Văn của Huang Renxun tại GTC: Thời Đại Suy Luận Đã Đến, Doanh Thu Năm 2027 Ít Nhất 1 Nghìn Tỷ USD, Tôm Càng Trở Thành Hệ Điều Hành Mới"

Tác Giả Ban đầu: Bao Yilong, Wall Street Journal

Ngày 16 tháng 3 năm 2026, Hội Nghị Lớn GTC 2026 của NVIDIA chính thức khai mạc, người sáng lập kiêm CEO của NVIDIA Huang Renxun đã có bài diễn thuyết chính.

Trong buổi hội thảo được xem là "Hành Hương Hàng Năm của Ngành AI" này, Huang Renxun đã phác thảo sự chuyển đổi của NVIDIA từ một "công ty chip" thành "công ty cơ sở hạ tầng và nhà máy AI". Đối mặt với vấn đề về tính liên tục của hiệu suất và không gian tăng trưởng mà thị trường quan tâm nhất, Huang Renxun đã phân tích kỹ lưỡng Logic Kinh Doanh Cơ Bản đang thúc đẩy sự tăng trưởng trong tương lai - "Kinh tế Nhà Máy Token".

Dự Báo Hiệu Suất Vô Cùng Lạc Quan, "Nhu Cầu Năm 2027 Ít Nhất 1 Nghìn Tỷ USD"

Trong hai năm qua, nhu cầu tính toán trí tuệ nhân tạo toàn cầu đã tăng theo cấp số nhân. Khi các mô hình lớn di chuyển từ "Nhận Biết" và "Tạo Ra" sang "Suy Luận" và "Hành Động (Thực Hiện Nhiệm Vụ)", lượng công suất tính toán đã tăng đột ngột. Để giải quyết vấn đề của tầm nhìn về đơn đặt hàng và tầm nhìn doanh thu mà thị trường rất quan tâm, Huang Renxun đã đưa ra một dự báo cực kỳ mạnh mẽ.

Trong bài diễn thuyết, Huang Renxun thẳng thừng nói:

Vào cùng thời điểm năm ngoái, tôi đã nói rằng, chúng ta đã thấy nhu cầu có độ tin cậy cao lên tới 5000 tỷ USD, bao gồm cả Blackwell và Rubin cho đến năm 2026. Bây giờ, ngay tại thời điểm này, tôi dự thấy rằng đến năm 2027 sẽ có ít nhất 1 nghìn tỷ USD nhu cầu (ít nhất 1 nghìn tỷ USD).

Dự Báo Nghìn Tỷ của Huang Renxun đã đẩy giá cổ phiếu NVIDIA tăng hơn 4.3%.

Không chỉ vậy, anh đồng thời bổ sung thêm về con số này:

Điều này có phải là hợp lý không? Đó chính là điều tôi sẽ nói tiếp theo. Trên thực tế, chúng ta sẽ thậm chí không thể đáp ứng nhu cầu. Tôi chắc chắn rằng nhu cầu tính toán thực tế sẽ cao hơn nhiều so với con số này.

Huang Renxun chỉ ra rằng, hệ thống của NVIDIA hiện nay đã chứng minh mình là "cơ sở hạ tầng giá thấp nhất thế giới". Miễn là NVIDIA có thể chạy gần như mọi mô hình trí tuệ nhân tạo, tính linh hoạt này sẽ khiến cho số tiền 1 nghìn tỷ USD mà khách hàng đầu tư có thể được tận dụng đầy đủ và duy trì vòng đời dài.

Hiện tại, 60% doanh thu của NVIDIA đến từ năm nhà cung cấp dịch vụ đám mây siêu lớn hàng đầu, trong khi 40% còn lại được phân bố rộng rãi trong các lĩnh vực như đám mây chủ quyền, doanh nghiệp, công nghiệp, robot và tính toán Edge.

Kinh tế Nhà máy Token, Hiệu suất mỗi Watt quyết định Sứ mệnh Kinh doanh

Để giải thích tính hợp lý của nhu cầu 1 nghìn tỷ này, Huang Renxun đã trình diễn một cách tư duy kinh doanh hoàn toàn mới cho CEO của các công ty toàn cầu.Ông chỉ ra rằng trong tương lai, trung tâm dữ liệu không còn là kho lưu trữ tập tin mà là một "nhà máy" sản xuất Token (đơn vị cơ bản được tạo ra từ trí tuệ nhân tạo).

Huang Renxun nhấn mạnh:

Mỗi trung tâm dữ liệu, mỗi nhà máy, theo cách định nghĩa, đều bị hạn chế bởi điện năng. Một nhà máy 1GW sẽ không bao giờ trở thành 2GW, đó là luật lý học và nguyên tử. Dưới công suất cố định, người có công suất xuyên suốt mỗi Watt Token cao nhất sẽ có chi phí sản xuất thấp nhất.

Huang Renxun chia dịch vụ AI trong tương lai thành bốn cấp độ kinh doanh:

· Cấp độ Miễn phí (cao xuyên suốt, tốc độ thấp)

· Cấp độ Trung cấp (~3 đô la cho mỗi triệu token)

· Cấp độ Cao cấp (~6 đô la cho mỗi triệu token)

· Cấp độ Tăng tốc (~45 đô la cho mỗi triệu token)

· Cấp độ Siêu tốc (~150 đô la cho mỗi triệu token)

Ông chỉ ra rằng, với mô hình ngày càng lớn và ngữ cảnh ngày càng dài, trí tuệ nhân tạo sẽ trở nên thông minh hơn, nhưng tỷ lệ tạo Token sẽ giảm. Huang Renxun cho biết:

Trong nhà máy Token này, công suất xuyên suốt của bạn và tốc độ tạo Token sẽ trực tiếp biến đổi thành doanh thu chính xác của bạn vào năm sau.

Huang Renxun nhấn mạnh kiến trúc của NVIDIA có thể giúp khách hàng đạt được hiệu suất cực cao ở cấp độ Miễn phí, đồng thời ở cấp độ suy luận có giá trị cao nhất, nâng hiệu suất lên đến 35 lần.

Vera Rubin đạt 350 lần tăng tốc trong hai năm, Groq điền vào tầng suy luận cực nhanh

Dưới sự ràng buộc của ranh giới vật lý này, NVIDIA giới thiệu hệ thống tính toán trí tuệ nhân tạo phức tạp nhất từ trước đến nay của mình, Vera Rubin. Huang Renxun nói:

Khi nhắc đến Hopper trước đây, tôi sẽ cầm lên một vi mạch, đó là rất dễ thương. Nhưng khi nhắc đến Vera Rubin, mọi người nghĩ đến toàn bộ hệ thống. Trong hệ thống được làm mát 100% bằng chất lỏng này, và không còn cáp truyền thống, các rack mà trước đây mất hai ngày để cài đặt, hiện nay chỉ mất hai giờ.

Huang Renxun chỉ ra rằng, thông qua thiết kế phần cứng mềm từ đầu đến cuối cùng, Vera Rubin đã tạo ra một bước tiến dữ dội trong dữ liệu trong cùng một trung tâm dữ liệu 1GW:

Trong vòng hai năm ngắn ngủi, chúng tôi đã tăng tốc độ tạo mã Token từ 22 triệu lên 700 triệu, đạt được tăng trưởng lên đến 350 lần. Trong khi đó, Định luật Moore chỉ mang lại khoảng 1,5 lần tăng trưởng trong cùng thời kỳ.

Để giải quyết vấn đề chật vật khi thực hiện suy luận cực kỳ nhanh chóng (ví dụ: 1000 Token/giây), NVIDIA đã đưa ra giải pháp cuối cùng tích hợp từ công ty được mua lại là Groq: suy luận không đối xứng.

Huang Renxun giải thích:

Đặc điểm của hai vi xử lý này hoàn toàn khác nhau. Vi xử lý của Groq có 500MB SRAM, trong khi một vi xử lý Rubin có 288GB bộ nhớ.

Huang Renxun chỉ ra rằng, thông qua hệ thống phần mềm Dynamo, NVIDIA đã giao việc "đổ đầy trước" cần lượng tính toán lớn và bộ nhớ hiển thị cho Vera Rubin, và giao việc "giải mã" cực kỳ nhạy cảm với độ trễ cho Groq. Huang Renxun cũng đưa ra khuyến nghị về cấu hình năng lực doanh nghiệp:

Nếu công việc của bạn chủ yếu là về sản lượng cao, hãy sử dụng 100% Vera Rubin; nếu bạn có yêu cầu tạo mã Token ở cấp độ lập trình cao với số lượng lớn, đưa ra 25% quy mô trung tâm dữ liệu cho Groq.

Theo thông tin rò rỉ, vi xử lý Groq LP30 được sản xuất hàng loạt bởi Samsung, dự kiến ​​sẽ xuất hàng trong Quý 3, trong khi rack Vera Rubin đầu tiên đã hoạt động trên điện toán đám mây Microsoft Azure.

Ngoài ra, đối với công nghệ kết nối ánh sáng, Huang Renxun trình bày công tắc chuyển đổi quang học CPO Spectrum X đầu tiên trên thế giới đã được sản xuất hàng loạt, và dẹp bỏ tranh cãi trên con đường "lùi đồng, tiến sáng" trên thị trường:

Chúng tôi cần nhiều khả năng sản xuất cáp đồng hơn, nhiều khả năng sản xuất chip quang học hơn, nhiều khả năng sản xuất CPO hơn.

Đại lý chấm dứt SaaS truyền thống, 「Lương hàng năm+Token」 trở thành tiêu chuẩn Silicon Valley

Ngoài rào cản về phần cứng, Hoàng Nhân Hiôn đã dành nhiều không gian cho cuộc cách mạng trong phần mềm và sinh thái trí tuệ nhân tạo, đặc biệt là sự bùng nổ của Đại lý (Agent).

Anh ấy đã miêu tả dự án mã nguồn mở OpenClaw là 「Dự án mã nguồn mở được yêu thích nhất trong lịch sử nhân loại」, gọi nó như là đã vượt qua thành tựu của Linux trong 30 năm qua chỉ sau vài tuần. Hoàng Nhân Hiôn mạnh mẽ khẳng định rằng, OpenClaw về bản chất là 「hệ điều hành」 của máy tính Đại lý.

Hoàng Nhân Hiôn tuyên bố:

Mỗi công ty SaaS (phần mềm dưới dạng Dịch vụ) đều sẽ trở thành công ty AaaS (Agent-as-a-Service, Đại lý dưới dạng Dịch vụ). Không thể phủ nhận rằng, để đảm bảo an toàn cho Đại lý có khả năng truy cập dữ liệu nhạy cảm và thực thi mã, NVIDIA đã ra mắt thiết kế tham chiếu NeMo Claw cấp doanh nghiệp, bổ sung Bộ máy chính sách và Bộ chỉ đạo riêng tư.

Với người lao động bình thường, cuộc cách mạng này cũng cận kề. Hoàng Nhân Hiôn đã vẽ nên hình ảnh của tương lai cho môi trường làm việc:

Trong tương lai, mỗi kỹ sư của công ty chúng tôi sẽ cần một ngân sách Token hàng năm. Mức lương cơ bản của họ có thể là vài chục nghìn đô la, tôi sẽ rút ra khoảng một nửa số tiền đó như Token để họ có thể đạt được hiệu quả tăng gấp 10. Đây đã trở thành công cụ tuyển dụng mới của Silicon Valley: Lương bạn cầm bao nhiêu Token?

Cuối buổi diễn thuyết, Hoàng Nhân Hiôn đã 「phanh phui」 về kiến trúc máy tính thế hệ tiếp theo Feynman, sẽ đạt được sự mở rộng ngang bằng giữa dây đồng và CPO lần đầu tiên. Điều khiến người ta tưởng tượng hơn là, NVIDIA đang phát triển máy tính trung tâm dữ liệu trên vũ trụ 「Vera Rubin Space-1」, mở rộng hoàn toàn không gian tưởng tượng cho sức mạnh trí tuệ nhân tạo vươn ra bên ngoài Trái đất.

Diễn thuyết GTC 2026 của Hoàng Nhân Hiôn, bản dịch đầy đủ như sau (Công cụ AI hỗ trợ):

Người dẫn chương trình: Chào mừng Người sáng lập và CEO NVIDIA Hoàng Nhân Hiôn lên sân khấu.

Hoàng Nhân Hiôn, Người sáng lập và CEO: Chào mừng đến với GTC. Tôi muốn nhắc nhở mọi người rằng đây là một hội nghị kỹ thuật. Tôi rất vui mừng khi thấy nhiều người sớm xếp hàng để tham gia, và khi thấy mọi người trong phòng, tôi cảm thấy rất hạnh phúc.

Tại GTC, chúng tôi sẽ tập trung vào ba chủ đề chính: Công nghệ, Nền tảng và Hệ sinh thái.

Hiện tại, NVIDIA đang sở hữu ba nền tảng chính: Nền tảng CUDA-X, Nền tảng Hệ thống, và nền tảng AI Factory mới nhất của chúng tôi.

Trước khi bắt đầu chính thức, tôi muốn cảm ơn người dẫn chương trình của phần giới thiệu - Sarah Guo từ Conviction, Alfred Lin từ Công ty Mạo hiểm đầu tiên của NVIDIA, và Gavin Baker - nhà đầu tư chính của NVIDIA. Ba người này có cái nhìn sâu sắc về công nghệ và có ảnh hưởng rộng lớn trong toàn bộ hệ sinh thái công nghệ. Tất nhiên, tôi cũng muốn cảm ơn tất cả các vị khách mời mà tôi mời đến dự sự kiện hôm nay. Xin cảm ơn đội ngũ siêu sao này.

Tôi cũng muốn cảm ơn tất cả các doanh nghiệp có mặt hôm nay. NVIDIA là một công ty nền tảng, chúng tôi có công nghệ, nền tảng và hệ sinh thái phong phú. Các doanh nghiệp có mặt hôm nay đại diện cho hầu hết các bên tham gia trong ngành công nghiệp trị giá 1 triệu tỷ USD, với tổng cộng 450 doanh nghiệp tài trợ cho sự kiện này, tôi xin chân thành cảm ơn.

Sự kiện này sẽ bao gồm tổng cộng 1.000 diễn đàn công nghệ, 2.000 diễn giả, sẽ bao trùm từng tầng của kiến trúc "Bánh gato 5 tầng" của trí tuệ nhân tạo - từ cơ sở hạ tầng như đất đai, điện năng và phòng máy đến chip, nền tảng, mô hình, và các ứng dụng đa dạng đang thúc đẩy toàn bộ ngành công nghiệp.

CUDA: 20 Năm Phát triển Công nghệ

Mọi thứ bắt đầu từ đây. Năm nay là kỷ niệm 20 năm của CUDA.

Trong suốt 20 năm, chúng tôi luôn tận tụy với kiến trúc này. CUDA là một sự phát minh mang tính cách mạng - Công nghệ SIMT (Single Instruction, Multiple Threads) cho phép nhà phát triển viết chương trình bằng mã giá trị và mở rộng nó thành ứng dụng đa luồng, độ khó lập trình thấp hơn rất nhiều so với kiến trúc SIMD trước đó. Chúng tôi gần đây cũng đã thêm tính năng Tiles, giúp nhà phát triển lập trình nhân vững (Tensor Core) một cách dễ dàng hơn, cùng với các cấu trúc toán học đa dạng mà trí tuệ nhân tạo ngày nay phụ thuộc vào. Hiện nay, CUDA đã có hàng ngàn công cụ, trình biên dịch, cấu trúc, và thư viện, với hàng trăm nghìn dự án mã nguồn mở trong cộng đồng, và đã được tích hợp sâu vào mỗi hệ sinh thái công nghệ.

Biểu đồ này tiết lộ 100% logic chiến lược của NVIDIA, tôi đã nói về biểu đồ này từ đầu. Phần khó nhất để thực hiện, cũng là yếu tố cốt lõi nhất, chính là "Khối lượng cài đặt" ở phía dưới của biểu đồ. Sau 20 năm, chúng tôi đã tích luỹ hàng triệu thiết bị chạy CUDA trên toàn cầu.

Cardasus cổ GPU của chúng tôi bao gồm tất cả các nền tảng đám mây, phục vụ cho gần như tất cả các nhà sản xuất máy tính và ngành công nghiệp. Sự lớn mạnh của CUDA đúng là nguyên nhân chính khiến cho bánh xe này không ngừng tăng tốc. Sự lớn mạnh thu hút các nhà phát triển, các nhà phát triển tạo ra các thuật toán mới và đạt được các bước đột phá, các bước đột phá tạo ra các thị trường mới, các thị trường mới tạo ra hệ sinh thái mới và thu hút thêm nhiều doanh nghiệp tham gia, từ đó mở rộng sự lớn mạnh—bánh xe này đang tiếp tục tăng tốc.

Số lượng tải xuống của thư viện NVIDIA đang tăng với tốc độ đáng kinh ngạc, quy mô lớn và tốc độ tăng trưởng không ngừng. Bánh xe này giúp nền tảng tính toán của chúng tôi có thể hỗ trợ các ứng dụng quy mô lớn và các đột phá mới liên tục.

Quan trọng hơn, nó còn mang lại tuổi thọ rất dài cho các cơ sở hạ tầng này. Lý do rất rõ ràng: Có rất nhiều ứng dụng chạy trên NVIDIA CUDA, bao gồm mọi giai đoạn trong vòng đời của trí tuệ nhân tạo, mọi nền tảng xử lý dữ liệu, và mọi bộ giải pháp cho các nguyên lý khoa học. Vì vậy, khi lắp đặt GPU NVIDIA, giá trị sử dụng thực tế rất cao. Đó cũng là lý do tại sao giá đám mây của chúng tôi cho GPU kiến trúc Ampere được phát hành sáu năm trước đang tăng.

Nguyên nhân cốt lõi của tất cả những điều này là: Số lượng lắp đặt lớn, bánh xe mạnh mẽ, hệ sinh thái phát triển rộng lớn. Khi các yếu tố này hoạt động cùng nhau, kết hợp với việc chúng tôi liên tục cập nhật phần mềm, chi phí tính toán sẽ liên tục giảm. Việc tăng tốc tính toán đồng thời nâng cao hiệu suất ứng dụng đáng kể, cùng với việc chúng tôi duy trì phần mềm và tiếp tục phát triển, người dùng không chỉ nhận được sự bứt phá hiệu suất ban đầu, mà còn tiếp tục hưởng lợi từ việc giảm chi phí tính toán. Chúng tôi sẵn lòng hỗ trợ mỗi GPU trên toàn cầu trong thời gian dài vì chúng hoàn toàn tương thích về kiến trúc.

Lý do khiến chúng tôi sẵn lòng làm điều này là vì số lượng lắp đặt rất lớn—mỗi lần tối ưu hóa mới được phát hành, đều có thể hưởng lợi cho hàng triệu người dùng. Sự kết hợp động này khiến cho kiến trúc NVIDIA không ngừng mở rộng phạm vi phủ sóng, tăng tốc sự phát triển của chính nó, liên tục giảm chi phí tính toán, kích thích tạo ra sự phát triển mới. CUDA chính là trái tim của tất cả điều đó.

Từ GeForce đến CUDA: Hành trình mười lăm năm của sự tiến hóa

Và chuyến hành trình của chúng tôi với CUDA, thực tế đã bắt đầu cách đây hai mươi lăm năm.

GeForce—Tôi tin rằng nhiều người trong số bạn đã lớn lên theo cùng GeForce. GeForce là dự án tiếp thị thành công nhất của NVIDIA. Chúng tôi bắt đầu tạo ra khách hàng tương lai khi bạn vẫn chưa có khả năng mua sản phẩm—đã từ thời điểm cha mẹ của bạn thay thế bạn trở thành người dùng đầu tiên của NVIDIA, mua sản phẩm của chúng tôi từng năm cho đến một ngày, bạn trưởng thành trở thành nhà khoa học máy tính xuất sắc, trở thành khách hàng và nhà phát triển thực sự.

Đây là nền tảng mà GeForce đã đặt cơ sở cho nó cách đây hai mươi năm. Hai mươi năm trước, chúng tôi đã phát minh ra bộ xử lý hình ảnh có thể lập trình - một đột phá rõ ràng nhưng có ý nghĩa sâu sắc, cũng là bộ xử lý hình ảnh có thể lập trình đầu tiên trên thế giới, tức là bộ xử lý hình ảnh pixel. Năm năm sau đó, chúng tôi đã tạo ra CUDA - một trong những khoản đầu tư quan trọng nhất từ trước đến nay. Khi đó, tài chính của công ty có hạn nhưng chúng tôi đã đặt phần lớn lợi nhuận vào đây, cam kết mở rộng CUDA từ GeForce đến mỗi máy tính. Chúng tôi đã rất kiên định với điều này vì chúng tôi tin tưởng vào tiềm năng của nó. Mặc dù ban đầu gặp nhiều khó khăn, công ty đã duy trì niềm tin này suốt 13 thế hệ, tức là suốt hai mươi năm, và bây giờ CUDA đã trở nên vô cùng phổ biến.

Đúng là bộ xử lý hình ảnh pixel đã thúc đẩy cuộc cách mạng của GeForce. Và khoảng tám năm trước, chúng tôi đã ra mắt RTX - một cuộc cách mạng toàn diện của kiến trúc cho thời đại đồ họa máy tính hiện đại. GeForce đã đưa CUDA đến với toàn thế giới, và netflix là lý do khiến Alex Krizhevsky, Ilya Sutskever, Geoffrey Hinton, Andrew Ng và nhiều học giả khác nhận ra rằng GPU có thể trở thành công cụ tăng tốc học sâu, từ đó khơi nguồn cho cuộc cách mạng trí tuệ nhân tạo mười năm trước.

Mười năm trước, chúng tôi quyết định kết hợp bộ xử lý lập trình được với hai ý tưởng mới hoàn toàn: Một là Ray Tracing phần cứng, đây là một thách thức lớn về mặt công nghệ; Hai là một ý tưởng lúc bấy giờ rất tiên phong - khoảng mười năm trước, chúng tôi đã dự đoán rằng trí tuệ nhân tạo sẽ thay đổi toàn bộ thế giới đồ họa máy tính. Giống như GeForce đã đưa AI đến với toàn thế giới, thì AI ngày nay cũng đang tái tạo lại cách thức thực hiện của toàn bộ đồ họa máy tính.

Hôm nay, tôi muốn giới thiệu tương lai với mọi người. Đó chính là công nghệ đồ họa thế hệ tiếp theo của chúng tôi, được chúng tôi gọi là Neural Rendering - sự hòa trộn sâu sắc giữa đồ họa 3D và trí tuệ nhân tạo. Đó chính là DLSS 5, hãy nhìn.

Neural Rendering: Sự hòa trộn giữa dữ liệu cấu trúc và trí tuệ nhân tạo

Điều này không phải là điều kỳ diệu sao? Đồ họa máy tính được hồi sinh.

Chúng tôi đã làm gì? Chúng tôi đã kết hợp đồ họa 3D có thể kiểm soát được (nền tảng thực tế của thế giới ảo) với dữ liệu cấu trúc của nó, sau đó kết hợp với trí tuệ nhân tạo có tính sinh sản và tính xác suất. Một cách tự định rõ hoàn toàn, một cách ngẫu nhiên nhưng rất chân thực - chúng tôi đã kết hợp hai ý tưởng này lại với nhau, bằng cách sử dụng dữ liệu cấu trúc để kiểm soát chính xác, cũng như thực hiện một cách thời gian thực. Cuối cùng, nội dung không chỉ đẹp mắt, mà còn hoàn toàn có thể kiểm soát.

Dữ liệu cấu trúc và AI dựa trên Generation sẽ hội nhập trong mọi ngành công nghiệp một cách liên tục. Dữ liệu cấu trúc là nền tảng của AI đáng tin cậy.

Nền tảng Tăng tốc Dữ liệu Cấu trúc và Phi Cấu trúc

Bây giờ tôi sẽ hướng dẫn mọi người xem một biểu đồ kiến trúc công nghệ.

Dữ liệu cấu trúc - các nền tảng quan trọng như SQL, Spark, Pandas, Velox, cùng với Snowflake, Databricks, Amazon EMR, Azure Fabric, Google BigQuery và nhiều nền tảng quan trọng khác đều đang xử lý các khung dữ liệu (Data Frame). Những bảng dữ liệu này giống như bảng tính khổng lồ, chứa đựng toàn bộ thông tin của thế giới doanh nghiệp, là sự thật cơ bản của tính toán doanh nghiệp (Ground Truth).

Trong kỷ nguyên AI, chúng ta cần để AI sử dụng dữ liệu cấu trúc và tăng tốc mạnh mẽ. Trước đây, việc tăng tốc xử lý dữ liệu cấu trúc nhằm giúp doanh nghiệp hoạt động hiệu quả hơn. Tuy nhiên, trong tương lai, AI sẽ sử dụng dữ liệu cấu trúc với tốc độ vượt xa con người, các đại lý trí tuệ của AI cũng sẽ truy xuất dữ liệu cấu trúc một cách lớn lao.

Đối với dữ liệu phi cấu trúc, các cơ sở dữ liệu vector, tệp PDF, video, âm thanh và các loại dữ liệu không cấu trúc khác tạo nên hầu hết hình thức dữ liệu trên thế giới - khoảng 90% dữ liệu được tạo ra hàng năm là dữ liệu phi cấu trúc. Trước đây, dữ liệu này gần như không thể sử dụng: chúng ta đọc chúng, lưu trữ vào hệ thống tệp, và chỉ vậy thôi. Chúng ta không thể truy vấn, khó để truy xuất, vì dữ liệu không cấu trúc thiếu cách chỉ mục đơn giản, phải hiểu nghĩa vụ và ngữ cảnh của nó. Nhưng bây giờ, AI có thể làm điều đó - thông qua công nghệ cảm nhận và hiểu đa dạng, AI có thể đọc tệp PDF, hiểu nghĩa và nhúng nó vào các cấu trúc lớn hơn có thể truy vấn.

NVIDIA đã tạo ra hai thư viện cơ bản cho điều này:

· cuDF: Được sử dụng cho xử lý khung dữ liệu, dữ liệu cấu trúc tăng tốc

· cuVS: Được sử dụng cho lưu trữ vector, dữ liệu ngữ nghĩa và AI dữ liệu không cấu trúc

Cả hai nền tảng này sẽ trở thành một trong những nền tảng cơ bản quan trọng nhất trong tương lai.

Hôm nay, chúng tôi thông báo đã hợp tác với nhiều doanh nghiệp. IBM - người phát minh ra ngôn ngữ SQL, sẽ sử dụng cuDF để tăng tốc nền tảng dữ liệu WatsonX của họ. Dell đã phối hợp với chúng tôi để tạo ra Dell AI Data Platform, hội nhập cuDF và cuVS, và đã tăng đáng kể hiệu suất trong dự án thực tế của NTT Data. Đối với Google Cloud, chúng tôi không chỉ tăng tốc cho Vertex AI, mà còn tăng tốc BigQuery, và đã hợp tác với Snapchat để giảm chi phí tính toán của họ gần 80%.

Lợi ích của Tăng tốc tính toán là sự kết hợp của ba yếu tố: Tốc độ, Quy mô, Chi phí. Điều này liên quan chặt chẽ đến Định lý Moore - thông qua việc Tăng tốc tính toán để đạt được bước nhảy về hiệu suất, đồng thời tiếp tục tối ưu hóa thuật toán, làm cho mọi người đều có thể hưởng lợi từ việc giảm chi phí tính toán liên tục.

NVIDIA đã xây dựng nền tảng Tăng tốc tính toán, trên đó có rất nhiều thư viện: RTX, cuDF, cuVS và nhiều thứ khác. Những thư viện này đã được tích hợp vào hệ thống dịch vụ đám mây toàn cầu và OEM, cùng nhau tiếp cận người dùng toàn cầu.

Hợp tác Chặt chẽ với Nhà cung cấp Dịch vụ Đám mây

Hợp tác với các nhà cung cấp dịch vụ đám mây hàng đầu

Google Cloud: Chúng tôi tăng tốc Vertex AI và BigQuery, tích hợp sâu với JAX/XLA, đồng thời có hiệu suất xuất sắc trên PyTorch - NVIDIA là công ty duy nhất trên thế giới có hiệu suất tốt trên cả PyTorch và JAX/XLA. Chúng tôi đã đưa Base10, CrowdStrike, Puma, Salesforce và các khách hàng khác vào hệ sinh thái Google Cloud.

AWS: Chúng tôi tăng tốc EMR, SageMaker và Bedrock, tích hợp sâu với AWS. Điều khiến tôi rất hào hứng trong năm nay là việc chúng tôi sẽ mang OpenAI vào AWS, điều này sẽ thúc đẩy mạnh mẽ sự tăng trưởng tiêu thụ của AWS trong lĩnh vực điện toán đám mây, giúp OpenAI mở rộng triển vọng triển khai khu vực và quy mô tính toán.

Microsoft Azure: Siêu máy tính 100 PFLOPS của NVIDIA là siêu máy tính đầu tiên mà chúng tôi xây dựng, cũng là siêu máy tính đầu tiên triển khai trên Azure, mở đường cho việc hợp tác quan trọng với OpenAI. Chúng tôi đẩy nhanh dịch vụ đám mây Azure và AI Foundry, hợp tác thúc đẩy mở rộng khu vực Azure và hợp tác sâu trong tìm kiếm Bing.

Một điểm đáng chú ý là khả năng "Tính toán Bảo mật (Confidential Computing)" của chúng tôi - đảm bảo ngay cả nhà điều hành cũng không thể xem xét dữ liệu và mô hình của người dùng - GPU của NVIDIA là nhóm GPU hỗ trợ tính toán bảo mật đầu tiên trên thế giới, có thể hỗ trợ triển khai bảo mật của mô hình OpenAI và Anthropic trong môi trường đám mây ở khắp các khu vực trên thế giới. Ví dụ, chúng tôi đã tăng tốc toàn bộ quy trình làm việc EDA và CAD của Synopsys, và triển khai trên Microsoft Azure.

Oracle: Chúng tôi là khách hàng AI đầu tiên của Oracle, tôi tự hào vì được giải thích khái niệm Đám mây AI của Oracle lần đầu tiên. Sau đó, họ phát triển mạnh mẽ và chúng tôi cũng đã giới thiệu nhiều đối tác như Cohere, Fireworks, OpenAI cho họ.

CoreWeave: Đây là nền tảng Đám mây AI đầu tiên trên thế giới, chuyên dành cho việc chứa GPU và cung cấp dịch vụ Đám mây AI, với một cộng đồng khách hàng xuất sắc và động lực tăng trưởng mạnh mẽ.

Palantir + Dell: Ba bên đã hợp tác để tạo ra một nền tảng AI hoàn toàn mới, dựa trên nền tảng Ontology của Palantir và nền tảng AI, có thể triển khai AI ở bất kỳ quốc gia nào, trong bất kỳ môi trường cô lập nào và hoàn toàn cục bộ — từ xử lý dữ liệu (vector hóa hoặc cấu trúc) đến toàn bộ ngăn xếp tính toán tăng tốc của AI, toàn diện.

NVIDIA đã thiết lập mối quan hệ đặc biệt này với các nhà cung cấp dịch vụ đám mây toàn cầu — chúng tôi đưa khách hàng vào Đám mây, đây là một môi trường sinh thái win-win.

Tích hợp dọc, mở ngang: Chiến lược cốt lõi của NVIDIA

NVIDIA là công ty tích hợp dọc đầu tiên và mở ngang trên toàn cầu.

Điều cần thiết của mô hình này rất đơn giản: tăng tốc tính toán không phải là vấn đề về chip, cũng không phải là vấn đề về hệ thống, mà biểu diễn đầy đủ của nó nên được xem xét là tăng tốc của ứng dụng. CPU có thể làm cho máy tính chạy nhanh hơn toàn bộ, nhưng con đường này đã đạt đến giới hạn. Trong tương lai, chỉ qua tăng tốc cụ thể cho ứng dụng hoặc lĩnh vực cụ thể, mới có thể đem lại sự nhảy vọt về hiệu suất và giảm chi phí một cách liên tục.

Đây chính là lý do khiến NVIDIA phải sâu rộng vào từng thư viện, từng lĩnh vực, từng ngành công nghiệp cụ thể. Chúng tôi là một công ty tích hợp dọc trong lĩnh vực tính toán, không có con đường khác để đi. Chúng tôi phải hiểu rõ ứng dụng, hiểu rõ lĩnh vực, hiểu sâu sắc về các thuật toán và có khả năng triển khai chúng trong bất kỳ tình huống nào — từ trung tâm dữ liệu, đám mây, cục bộ, biên độ và thậm chí hệ thống robot.

Đồng thời, NVIDIA duy trì tư cách mở ngang, sẵn lòng tích hợp công nghệ vào bất kỳ nền tảng đối tác nào, để cho toàn thế giới đều có thể hưởng lợi từ việc tăng tốc tính toán.

Cấu trúc người tham dự GTC năm nay là minh chứng cho điều này. Tỷ lệ ngành dịch vụ tài chính trong số người tham dự năm nay cao nhất — họ mong muốn những người phát triển đến, không phải là nhà giao dịch. Hệ sinh thái của chúng tôi bao gồm chuỗi cung ứng hàng hóa từ nguồn cung đến nguồn tiêu thụ. Bất kỳ doanh nghiệp nào, có tuổi đời 50, 70 hoặc 150 năm, đều đã trải qua năm được coi là thời kỳ tốt nhất trong lịch sử của họ trong năm ngoái. Chúng tôi đang ở đầu một điều vô cùng quan trọng.

CUDA-X: Bộ Máy Tính Tăng Tốc Đa Ngành

Trên mọi lĩnh vực dọc, NVIDIA đã có mặt sâu rộng:

Tự Hành: Có ảnh hưởng sâu rộng, ảnh hưởng sâu rộng

Dịch Vụ Tài Chính: Đầu tư lượng tử đang chuyển từ kỹ thuật đặc trưng thủ công sang học sâu dựa trên siêu máy tính, chào đón "Thời điểm Transformer" của riêng mình

Y Tế và Sức Khỏe: Đang trải qua "Thời điểm ChatGPT" của riêng mình, bao gồm phát hiện thuốc với trợ giúp của AI, hỗ trợ chẩn đoán của AI, dịch vụ khách hàng y tế, vv.

Công Nghiệp: Một làn sóng xây dựng lớn nhất thế giới đang bắt đầu, nhà máy AI, nhà máy vi xử lý, nhà máy trung tâm dữ liệu đã mọc lên

Giải Trí và Trò Chơi: Nền tảng AI thời gian thực hỗ trợ dịch, trực tiếp, tương tác trò chơi, cùng với đại lý mua sắm thông minh

Robot: Sâu rộng hơn mười năm, ba kiến trúc máy tính lớn (máy tính huấn luyện, máy tính mô phỏng, máy tính máy bay) đều có mặt, có tổng cộng 110 loại robot trưng bày tại triển lãm này

Viễn Thông: Với quy mô khoảng 2 nghìn tỷ USD, trạm cơ sở sẽ phát triển từ chức năng liên lạc đơn lẻ thành nền tảng hạ tầng AI, nền tảng tương ứng được đặt tên là Aerial, hợp tác sâu rộng với các công ty như Nokia, T-Mobile

Lõi của tất cả các lĩnh vực này chính là thư viện CUDA-X của chúng tôi—đó là nơi mà NVIDIA, như một công ty thuật toán, tồn tại. Những thư viện này là tài sản quan trọng nhất của công ty, cho phép nền tảng tính toán hiện thực hóa giá trị thực tế trên mọi ngành.

Một trong những thư viện quan trọng nhất, là cuDNN (Thư viện Mạng Nơ-ron Sâu CUDA), nó đã cách mạng hóa hoàn toàn trí tuệ nhân tạo, khơi nguồn cho cú sốc AI hiện đại.

(Phát Video Demo CUDA-X)

Mọi người vừa xem quan sát là mô phỏng—bao gồm bộ giải phương trình dựa trên nguyên lý vật lý, mô hình AI đại diện vật lý, và mô hình robot AI vật lý. Tất cả đều là mô phỏng, không có bất kỳ đồ họa thủ công hoặc ràng buộc khớp nào. Đây chính là khả năng cốt lõi của NVIDIA: thông qua sự hiểu biết sâu rộng về thuật toán và kết hợp hữu ích với nền tảng tính toán, mở khóa những cơ hội này.

Doanh Nghiệp Sinh Thái AI và Thời Đại Tính Toán Mới

Bạn vừa xem các tập đoàn hàng đầu trong ngành như Walmart, L'Oréal, J.P. Morgan, Roche, Toyota đang xác định ngày nay, cùng với một số lượng lớn các công ty mà chúng ta chưa từng nghe tới—chúng ta gọi họ là Doanh Nghiệp Sinh Thái AI. Danh sách này rất lớn, bao gồm OpenAI, Anthropic, cũng như nhiều công ty mới phục vụ cho các lĩnh vực dọc.

Trong hai năm qua, ngành này đã trải qua một sự bùng nổ đáng kinh ngạc. Vốn đầu tư rót vào các doanh nghiệp khởi nghiệp đã đạt 1,500 tỷ đô la, lập kỷ lục lịch sử của nhân loại. Quan trọng hơn, quy mô đầu tư mỗi giao dịch đã lần đầu tiên tăng từ mức vài triệu đô la lên hàng tỷ đô la.

Chỉ có một lý do duy nhất: Đây là lần đầu tiên trong lịch sử, mỗi công ty trong ngành này đều cần một lượng lớn tài nguyên tính toán và một lượng lớn token. Ngành này đang tạo ra, tạo ra token, hoặc tăng giá trị cho token từ các tổ chức như Anthropic, OpenAI.

Giống như Cuộc cách mạng PC, Cuộc cách mạng Internet, Cuộc cách mạng Điện toán Đám mây mỗi một hoàn cảnh đã sinh ra một số lượng công ty mang tính biểu tượng, cuộc cách mạng nền tảng tính toán này cũng sẽ tạo ra một số lượng công ty ảnh hưởng mạnh mẽ, trở thành một lực lượng quan trọng của thế giới tương lai.

Ba Điểm Mốc Lịch Sử Đang Thúc Đẩy Mọi Thứ Này

Trong hai năm qua, điều gì đã xảy ra? Ba sự kiện quan trọng.

Thứ nhất: ChatGPT, Khởi đầu Thời Đại AI Tạo Sinh (Từ cuối năm 2022 đến năm 2023)

Nó không chỉ có thể cảm nhận và hiểu, mà còn có thể tạo ra nội dung độc đáo. Tôi đã trình bày sự kết hợp giữa AI tạo sinh và đồ họa máy tính. AI tạo sinh đã thay đổi cách tính toán một cách cơ bản—tính toán chuyển từ tìm kiếm sang tạo sinh, điều này ảnh hưởng sâu sắc đến kiến ​​trúc máy tính, cách triển khai và ý nghĩa tổng thể.

Thứ hai: AI Ráp, Biểu tượng là o1

Khả năng suy luận cho phép AI có thể tự phản ánh, lập kế hoạch, phân rã vấn đề—phân chia vấn đề mà nó không thể hiểu trực tiếp thành các bước có thể xử lý. o1 khiến cho AI tạo sinh trở nên đáng tin cậy, có thể suy luận dựa trên thông tin thực sự. Vì vậy, lượng token nhập vào context và lượng token đầu ra để suy nghĩ đã tăng đáng kể, lượng tính toán đi kèm cũng tăng đáng kể.

Thứ ba: Claude Code, Mô hình Thông minh Đầu tiên

Nó có thể đọc tệp, viết mã, biên dịch, kiểm thử, đánh giá và lặp lại. Claude Code đã đổi mới toàn bộ ngành kỹ thuật phần mềm - 100% kỹ sư của NVIDIA đều sử dụng một hoặc nhiều trong số Claude Code, Codex và Cursor, không có một kỹ sư phần mềm nào không hưởng lợi từ trí tuệ nhân tạo.

Đây là một điểm cột hoàn toàn mới - bạn không còn hỏi trí tuệ nhân tạo "là gì, ở đâu, làm thế nào" nữa, mà bạn để nó "tạo ra, thực thi, xây dựng", để nó chủ động sử dụng các công cụ, đọc tệp, phân rã vấn đề và hành động. Từ cảm nhận, tới sáng tạo, tới suy luận, và đến hiện giờ đây là lần đầu trí tuệ nhân tạo thực sự có thể hoàn thành công việc.

Trong hai năm qua, lượng tính toán cần thiết cho suy luận tăng khoảng 10,000 lần, việc sử dụng tăng khoảng 100 lần. Tôi tin rằng trong hai năm qua, nhu cầu tính toán tăng gấp 1 triệu lần - đây là cảm nhận chung của mọi người, cảm nhận của OpenAI, cũng như của Anthropic. Nếu có thêm sức mạnh tính toán, chúng ta có thể tạo ra nhiều mã thông báo hơn, tăng thu nhập, và trí tuệ nhân tạo sẽ trở nên thông minh hơn. Điểm cột suy luận đã đến.

Kỷ nguyên cơ sở hạ tầng trị giá ngàn tỷ đô la của Trí tuệ Nhân tạo

Vào thời điểm này năm ngoái, tôi nói ở đây rằng, chúng tôi rất tự tin về nhu cầu và đơn hàng mua sắm của Blackwell và Rubin cho đến năm 2026, ước tính là khoảng 500 tỷ đô la.

Hôm nay, tại GTC một năm sau, tôi đứng ở đây nói với mọi người: nhìn đến năm 2027, con số mà tôi nhìn thấy ít nhất là 1 ngàn tỷ đô la. Và tôi tin rằng, nhu cầu tính toán thực sự sẽ vượt xa con số đó.

2025: Năm suy luận của NVIDIA

Năm 2025 là năm suy luận của NVIDIA. Chúng tôi hy vọng đảm bảo rằng, ngoài quá trình huấn luyện và sau huấn luyện, thì tại mọi giai đoạn trong vòng đời của trí tuệ nhân tạo, chúng ta vẫn giữ vững sự xuất sắc, giúp cơ sở hạ tầng đã đầu tư có thể hoạt động hiệu quả, với tuổi thọ hữu ích kéo dài hơn và chi phí đơn vị thấp hơn.

Cùng lúc đó, Anthropic và Meta chính thức gia nhập nền tảng NVIDIA, đồng thời đại diện cho một phần ba nhu cầu sức mạnh tính toán của trên toàn cầu. Mô hình nguồn mở đã tiến sát mức độ tiên tiến, không giới hạn.

NVIDIA là công ty hiện tại duy nhất trên thế giới có thể chạy tất cả các lĩnh vực trí tuệ nhân tạo - ngôn ngữ, sinh học, đồ họa máy tính, thị giác máy tính, giọng nói, protein và hóa học, robot và nhiều hơn nữa - tất cả các mô hình trí tuệ nhân tạo trên một nền tảng, dù ở cạnh bờ hay điện toán đám mây, dù bằng ngôn ngữ nào. Cấu trúc NVIDIA phổ quát cho tất cả các kịch bản này, điều này khiến chúng tôi trở thành nền tảng chi phí thấp nhất và đáng tin cậy nhất.

Hiện nay, 60% doanh thu của NVIDIA đến từ năm nhà cung cấp dịch vụ đám mây siêu lớn hàng đầu trên thế giới, phần còn lại 40% được phân bố rộng rãi trong các lĩnh vực đám mây khu vực, đám mây chủ quyền, doanh nghiệp, công nghiệp, robot, tính toán lề, và nhiều lĩnh vực khác. Sự lan rộng của trí tuệ nhân tạo chính là nơi mà sự đàn đốn của nó hiện diện - đây chắc chắn là một cuộc cách mạng toàn diện đối với nền tảng tính toán mới.

Grace Blackwell và NVLink 72: Sự đổi mới kiến trúc táo bạo

Trong thời kỳ hoàng kim của kiến trúc Hopper, chúng tôi quyết định hoàn toàn tái kiến trúc hệ thống, mở rộng NVLink từ 8 đường thành NVLink 72, tiến hành phân rã và xây dựng lại hoàn toàn hệ thống tính toán. NVLink 72 của Grace Blackwell là một nỗ lực công nghệ lớn lao, không dễ dàng đối với bất kỳ đối tác nào, tôi xin chân thành cảm ơn tất cả mọi người.

Đồng thời, chúng tôi giới thiệu NVFP4 - không chỉ là FP4 thông thường, mà còn là một loại nhân lõi tensor và đơn vị tính toán hoàn toàn mới. Chúng tôi đã chứng minh được rằng NVFP4 có thể thực hiện suy luận mà không mất độ chính xác, đồng thời mang lại sự cải thiện lớn về hiệu suất và hiệu quả năng lượng, và cũng áp dụng cho việc huấn luyện.

Ngoài ra, một loạt các thuật toán mới như Dynamo và TensorRT-LLM đã ra đời, chúng tôi thậm chí đã bỏ hàng tỷ đô la để xây dựng một siêu máy tính với mục đích tối ưu hóa lõi, được gọi là Đám mây DGX.

Kết quả đã chứng minh, hiệu suất suy luận của chúng tôi đáng chú ý. Dữ liệu từ Semi Analysis - đây là đánh giá hiệu suất suy luận trí tuệ nhân tạo toàn diện nhất cho đến nay - cho thấy NVIDIA dẫn đầu rõ rệt cả về số lượng token mỗi watt và chi phí mỗi token. Theo định luật Moore, H200 có thể mang lại cải thiện hiệu suất 1.5 lần, nhưng chúng tôi đã đạt được 35 lần. Dylan Patel từ Semi Analysis thậm chí đã nói: "Jensen sandbagged, thực tế là 50 lần." Anh ấy nói đúng.

Tôi trích dẫn lời ông ấy: "Jensen sandbagged".

Chi phí mỗi token của NVIDIA là thấp nhất trên toàn thế giới, không ai có thể sánh kịp. Lý do nằm ở Thiết kế Cộng tác Tối ưu cực (Extreme Co-design).

Thí dụ về Fireworks, trước khi NVIDIA cập nhật toàn bộ phần mềm và thuật toán, tốc độ trung bình của mỗi token ước lượng khoảng 700 token mỗi giây; sau cập nhật gần 5,000 token mỗi giây, tăng khoảng 7 lần. Đó chính là sức mạnh của Thiết kế Cộng tác Tối ưu cực.

Nhà Máy Trí Tuệ Nhân Tạo: Từ Trung Tâm Dữ Liệu đến Nhà Máy Token

Trung tâm dữ liệu trước đây là nơi lưu trữ tài liệu, nhưng hiện nay nó là nhà máy sản xuất token. Mỗi nhà cung cấp dịch vụ đám mây, mỗi công ty trí tuệ nhân tạo trong tương lai sẽ đều chú trọng vào hiệu suất "nhà máy token".

Đây là điểm chính của tôi:

· Trục Dọc: Tốc Độ Thông Lượng (Throughput) — Số lượng token tạo ra mỗi giây ở công suất cố định

· Trục Ngang: Tốc Độ Giao Tác (Token Speed) — Tốc độ phản hồi của mỗi lần suy luận, tốc độ càng nhanh, mô hình có thể sử dụng càng lớn, ngữ cảnh càng dài, trí tuệ nhân tạo càng thông minh

Token là mặt hàng thông dụng mới, khi trở nên trưởng thành, sẽ được phân loại giá:

· Tầng Miễn Phí (cao thông lượng, thấp tốc độ)

· Tầng Trung Cấp (~$3 mỗi triệu token)

· Tầng Cao Cấp (~$6 mỗi triệu token)

· Tầng Cao Tốc (~$45 mỗi triệu token)

· Tầng Siêu Cao Tốc (~$150 mỗi triệu token)

So với Hopper, Grace Blackwell đã tăng 35 lần thông lượng ở tầng giá trị cao nhất và giới thiệu tầng mới. Để đơn giản hóa ước lượng mô hình, phân chia 25% công suất vào bốn tầng, Grace Blackwell có thể tạo ra gấp 5 lần doanh thu so với Hopper.

Vera Rubin: Hệ Thống Tính Toán Trí Tuệ Nhân Tạo Thế Hệ Tiếp Theo

(Phát Video Giới Thiệu Hệ Thống Vera Rubin)

Vera Rubin là một hệ thống hoàn chỉnh, tối ưu từ đầu đến cuối, thiết kế đặc biệt cho khối lượng công việc độc lập:

· Trung Tâm Tính Toán Mô Hình Ngôn Ngữ Lớn: Cụm GPU NVLink 72, xử lý Prefill và KV Cache trước

· CPU Vera Mới: Thiết kế đặc biệt cho hiệu suất luồng đơn cực cao, sử dụng bộ nhớ LPDDR5, kết hợp hiệu suất năng lượng tuyệt vời, là CPU trung tâm dữ liệu duy nhất trên thế giới sử dụng LPDDR5, phù hợp cho việc gọi các công cụ trí tuệ nhân tạo

· Hệ thống Lưu trữ：BlueField 4 + CX 9, nền tảng lưu trữ mới dành cho thời đại Trí tuệ Nhân tạo, 100% ngành công nghiệp lưu trữ toàn cầu gia nhập CPO Spectrum X Switch: Switch Ethernet Quang học đóng gói chung đầu tiên trên thế giới, đã sản xuất hàng loạt

·  Khung Kyber：Hệ thống khung mới, hỗ trợ 144 card GPU kết hợp thành một miền NVLink duy nhất, tính toán phía trước, chuyển đổi NVLink phía sau, tạo ra một máy tính khổng lồ

· Rubin Ultra: Nút siêu tính toán thế hệ tiếp theo, thiết kế cắm đứng, kết hợp với Khung Kyber, hỗ trợ kết nối NVLink quy mô lớn hơn

Vera Rubin đã chuyển sang 100% làm mát bằng chất lỏng, thời gian lắp đặt đã được rút ngắn từ hai ngày xuống còn hai giờ, sử dụng làm mát nước nóng 45°C, giảm áp lực làm mát trung tâm dữ liệu đáng kể. Lần này Satya（Nadella） đã đăng bài viết xác nhận, hệ thống Vera Rubin đầu tiên đã được triển khai và hoạt động trên Microsoft Azure, điều này khiến tôi rất phấn khích.

Tích hợp Groq: Mở rộng cự li hiệu suất suy luận

Chúng tôi đã mua lại đội ngũ Groq và nhận được quyền sử dụng công nghệ của họ. Groq là bộ xử lý luồng dữ liệu xác định (Deterministic Dataflow Processor), sử dụng biên dịch tĩnh và lập lịch trình biên dịch, có lượng lớn SRAM, được tối ưu hóa cho suy luận một lần các khối công việc, có độ trễ cực thấp và tốc độ tạo mã thông ức cực cao.

Tuy nhiên, dung lượng bộ nhớ của Groq có hạn (500MB SRAM trên chip), khó có thể chứa thông số mô hình lớn và Bộ nhớ Cache KV một cách độc lập, hạn chế ứng dụng theo quy mô lớn.

Giải pháp chính là Dynamo — một bộ phần mềm lập lịch trình suy luận. Chúng tôi thông qua Dynamo đã giải thể đường ống suy luận:

· Tải trước (Prefill) và giải mã cơ chú ý (Attention)：Hoàn thành trên Vera Rubin (cần lượng sức mạnh tính toán lớn và lưu trữ Bộ nhớ Cache KV)

· Giải mã Mạng Feed-Forward (Feed-Forward Network Decode)： tức phần tạo mã thông ức, hoàn thành trên Groq (cần băng thông cực cao và độ trễ thấp)

Hai phần tử được kết hợp chặt chẽ thông qua Ethernet, giảm độ trễ khoảng một nửa bằng cách sử dụng chế độ đặc biệt. Dưới sự điều phối thống nhất từ Dynamo, hệ thống hoạt động AI này đã cải thiện hiệu suất tổng thể lên 35 lần và mở ra một tầng sống mới cho hiệu suất suy luận không thể tiếp cận trước đây với NVLink 72.

Kiến nghị kết hợp Groq và Vera Rubin:

Nếu khối lượng công việc chủ yếu là về tốc độ xử lý cao, sử dụng 100% Vera Rubin. Nếu có nhiều công việc tạo mã với giá trị cao như sinh mã token,

bạn có thể giới thiệu Groq với tỷ lệ kiến nghị khoảng 25% Groq + 75% Vera Rubin. Groq LP30 do Samsung đại trì, hiện đã đi vào sản xuất hàng loạt và dự kiến sẽ bắt đầu giao hàng từ Q3. Cảm ơn sự hỗ trợ toàn diện từ Samsung.

Bước Nhảy Suy Luận Lịch Sử

Đo lường tiến bộ công nghệ trước đó: trong vòng 2 năm, tỷ lệ sinh mã token của Máy Nhà Máy AI 1 gigawatt sẽ tăng từ 2,200 triệu token/giây lên 7 tỷ token/giây, tăng 350 lần. Đó chính là sức mạnh của thiết kế cộng tác cực đỉnh.

Lộ Trình Công Nghệ

· Blackwell: Đang hoạt động, Hệ thống tủ máy chuẩn Oberon, mở rộng đường truyền bằng đồng lên NVLink 72, mở rộng tùy chọn bằng quang lên NVLink 576

· Vera Rubin (hiện tại): Tủ máy Kyber, NVLink 144 (đồng); Tủ máy Oberon, NVLink 72 + quang, mở rộng lên NVLink 576; Spectrum 6, switch CPO đầu tiên trên thế giới

· Vera Rubin Ultra (sắp ra mắt): GPU thế hệ mới của Rubin Ultra, chip LP35 (lần đầu tích hợp NVFP4), nâng cao hiệu suất một cách đáng kể hơn

· Feynman (thế hệ tiếp theo): GPU hoàn toàn mới, chip LP40 (được phát triển bởi NVIDIA và nhóm Groq, tích hợp NVFP4), CPU hoàn toàn mới - Rosa (Rosalyn), BlueField 5, CX 10; hỗ trợ cả hai phương thức mở rộng bằng đồng và CPO trên tủ máy Kyber

Đường dẫn rõ ràng: Mở rộng Dây đồng, Mở rộng Quang học (Scale-Up), Mở rộng Quang học (Scale-Out) đều tiến hành song song, chúng tôi cần tất cả các đối tác tiếp tục mở rộng sản xuất trong mảng Dây đồng, Sợi quang và CPO.

NVIDIA DSX: Nền tảng sinh học số của Nhà máy AI

Nhà máy AI trở nên phức tạp hơn, nhưng các nhà cung cấp công nghệ thành phần của nó chưa bao giờ hợp tác vào giai đoạn thiết kế cho đến khi họ "gặp nhau" tại Trung tâm dữ liệu - điều này rõ ràng không đủ.

Do đó, chúng tôi đã tạo ra Omniverse, cùng với Nền tảng NVIDIA DSX dựa trên nó - một nền tảng cho tất cả các đối tác để cùng thiết kế và vận hành một Nhà máy AI cấp giga trong thế giới ảo. DSX cung cấp:

· Hệ thống mô phỏng cơ khí, nhiệt, điện, mạng cấp tủ

· Kết nối với lưới điện, thực hiện lập lịch tiết kiệm năng lượng cùng nhau

· Tối ưu hóa năng lượng động và làm mát dựa trên Max-Q trong Trung tâm dữ liệu

Ước lượng thận trọng, hệ thống này có thể cải thiện hiệu quả sử dụng năng lượng khoảng 2 lần, và ở quy mô mà chúng tôi đang thảo luận, đây là một lợi ích đáng kể. Omniverse bắt đầu từ Trái đất số để chịu đựng mọi loại rủi ro gấp đôi, chúng tôi đang xây dựng cùng đối tác toàn cầu Nhà máy máy tính lớn nhất trong lịch sử nhân loại.

Ngoài ra, NVIDIA đang mở rộng sang không gian. Chip Thor đã được chứng nhận chịu phóng xạ và đang hoạt động trên vệ tinh. Chúng tôi đang phát triển Vera Rubin Space-1 cùng với đối tác, được sử dụng để xây dựng Trung tâm Dữ liệu không gian. Trên không gian chỉ có thể dựa vào tản nhiệt bức xạ, quản lý nhiệt là thách thức chính, chúng tôi đang tập hợp các kỹ sư hàng đầu để giải quyết vấn đề này.

OpenClaw: Hệ điều hành cho Thời đại Tổ chức Thông minh

Peter Steinberger đã phát triển một phần mềm có tên là OpenClaw. Đây là dự án mã nguồn mở phổ biến nhất trong lịch sử nhân loại, chỉ trong vài tuần đã vượt qua thành tích 30 năm của Linux.

OpenClaw về bản chất là một Hệ thống tổ chức thông minh (Agentic System), có khả năng:

· Quản lý tài nguyên, truy cập công cụ, hệ thống tập tin và mô hình ngôn ngữ lớn

· Thực hiện lập lịch, nhiệm vụ định kỳ

· Phân rã vấn đề thành từng bước nhỏ hơn và gọi các tác nhân con

· Hỗ trợ đầu vào/đầu ra đa dạng (âm thanh, video, văn bản, email, v.v.)

Theo cú pháp của hệ điều hành, đúng với bản chất là một hệ điều hành — hệ điều hành máy tính thông minh. Windows đã giúp máy tính cá nhân trở nên có thể, OpenClaw giúp các tác nhân thông minh cá nhân trở nên có thể.

Mỗi doanh nghiệp cần phải phát triển chiến lược OpenClaw riêng của mình, giống như chúng ta cần chiến lược Linux, chiến lược HTML, chiến lược Kubernetes.

Tái Cấu Trúc Toàn Diện Của IT Doanh Nghiệp

IT Doanh Nghiệp trước OpenClaw: Dữ liệu và tệp được đưa vào hệ thống, chảy qua công cụ và luồng công việc, cuối cùng trở thành công cụ được con người sử dụng. Các công ty phần mềm tạo ra công cụ, các công ty tích hợp hệ thống (GSI) và các công ty tư vấn giúp doanh nghiệp sử dụng các công cụ đó.

IT Doanh Nghiệp sau OpenClaw: Mỗi công ty SaaS sẽ chuyển đổi để trở thành một công ty AaaS (Agentic as a Service, Cung cấp dịch vụ thông tin) — không chỉ cung cấp công cụ mà còn cung cấp các tác nhân trí tuệ nhân tạo chuyên sâu trong lĩnh vực cụ thể.

Nhưng ở đây có một thách thức chính: Tác nhân nội bộ của doanh nghiệp có thể truy cập dữ liệu nhạy cảm, thực thi mã, và giao tiếp bên ngoài. Điều này cần phải được kiểm soát chặt chẽ trong môi trường doanh nghiệp.

Do đó, chúng tôi đã hợp tác với Peter để tích hợp tính bảo mật vào phiên bản doanh nghiệp, giới thiệu:

· Móc NeMo (Thiết kế tham khảo): Cốt lõi doanh nghiệp dựa trên OpenClaw, tích hợp bộ công cụ trí tuệ nhân tạo toàn diện của NVIDIA

· Lớp Bảo vệ Mở (Lớp Bảo mật): Đã được tích hợp vào OpenClaw, cung cấp máy chủ quy tắc, hàng rào mạng, định tuyến riêng tư, đảm bảo an ninh dữ liệu doanh nghiệp

· Đám Mây NeMo: Có thể tải xuống và sử dụng, và kết nối với tất cả các máy chủ quy tắc của các công ty SaaS

Đây là sự hồi sinh nghệ thuật của IT doanh nghiệp, một ngành công nghiệp nguyên thủy vốn trị giá 2 nghìn tỷ đô la sẽ sớm trở thành một ngành trị giá hàng chục nghìn tỷ đô la, dịch chuyển từ việc cung cấp công cụ sang cung cấp dịch vụ tác nhân trí tuệ nhân tạo chuyên sâu.

Tôi có thể thấy hoàn toàn rõ ràng rằng: Trong tương lai, mỗi kỹ sư trong công ty sẽ đều có ngân sách token hàng năm. Mức lương hàng năm của họ có thể là hàng trăm nghìn đô la, tôi sẽ cung cấp cho họ một phần token bằng mức lương của họ để tăng hiệu suất của họ lên 10 lần. "Số lượng token kèm theo khi tuyển dụng" đã trở thành một chủ đề tuyển dụng mới của Silicon Valley.

Mỗi doanh nghiệp trong tương lai sẽ vừa là người sử dụng token (dành cho các kỹ sư) vừa là nhà sản xuất token (cung cấp dịch vụ cho khách hàng của họ). Ý nghĩa của OpenClaw không thể coi thường, nó quan trọng như HTML, Linux.

Sáng kiến Mô hình Mở NVIDIA

Đối với Việc tùy chỉnh Thực thể thông minh (Custom Claw), chúng tôi cung cấp các mô hình tiên tiến do NVIDIA tự nghiên cứu:

Mô hình Nemotron kích thước lớn Cosmos mô hình ngôn ngữ Thế giới (World Foundation Model) GROOT mô hình robot hình người thông dụng Alpamayo tự lái BioNeMo sinh học số Phys-AIAI vật lý

Chúng tôi đang ở vị thế tiên tiến trong mỗi lĩnh vực và cam kết liên tục phát triển - sau Nemotron 3 sẽ có Nemotron 4, sau Cosmos 1 sẽ có Cosmos 2, Groq cũng sẽ tiếp tục phát triển đến đời thứ hai.

Nemotron 3 trong OpenClaw được xếp vào ba mô hình tốt nhất trên thế giới, ở mức tiên tiến. Nemotron 3 Ultra sẽ trở thành mô hình cơ sở mạnh nhất từ trước đến nay, hỗ trợ các quốc gia xây dựng trí tuệ nhân tạo chủ quyền.

Hôm nay, chúng tôi tự hào công bố việc thành lập Liên minh Nemotron, đầu tư hàng tỷ đô la để thúc đẩy nghiên cứu phát triển mô hình trí tuệ nhân tạo cơ bản. Các thành viên của liên minh bao gồm: BlackForest Labs, Cursor, LangChain, Mistral, Perplexity, Reflection, Sarvam (Ấn Độ), Thinking Machines (Lab của Mira Murati) vv.

Mỗi công ty phần mềm doanh nghiệp gia nhập, họ sẽ tích hợp Thiết kế tham khảo NeMo Claw và Bộ công cụ trí tuệ nhân tạo của NVIDIA vào sản phẩm của mình.

Trí tuệ nhân tạo vật lý và Robot

Thực thể số học hoạt động trong thế giới số — viết mã, phân tích dữ liệu; trong khi AI vật lý là một thực thể có hình thể, cũng chính là robot.

Tại GTC lần này, có tổng cộng 110 loại robot xuất hiện, gần như tập hợp tất cả các công ty nghiên cứu phát triển robot trên toàn cầu. NVIDIA cung cấp ba máy tính (máy tính huấn luyện, máy tính mô phỏng, máy tính trên xe) và toàn bộ bộ công cụ phần mềm cùng mô hình AI.

Về phần tự lái, đến "Thời điểm ChatGPT của Tự lái" đã đến. Hôm nay, chúng tôi công bố bốn đối tác mới tham gia vào nền tảng NVIDIA RoboTaxi Ready: BYD, Hyundai, Nissan, Geely, tổng sản lượng hàng năm 18 triệu xe. Cộng thêm Mercedes-Benz, Toyota, General Motors đã từng công bố trước đó, đội hình ngày càng mạnh mẽ. Chúng tôi cũng thông báo đạt được hợp tác lớn với Uber, sẽ triển khai và kết nối xe RoboTaxi Ready tại nhiều thành phố.

Về phần robot công nghiệp, ABB, Universal Robotics, KUKA cùng nhiều công ty robot khác đã hợp tác với chúng tôi, kết hợp mô hình AI vật lý với hệ thống mô phỏng, thúc đẩy việc triển khai robot trên dây chuyền sản xuất toàn cầu.

Về phần viễn thông, Caterpillar và T-Mobile cũng tham gia. Trong tương lai, trạm cơ sở không dây sẽ không còn chỉ là một nút truyền thông, mà là một NVIDIA Aerial AI RAN — có khả năng cảm nhận lưu lượng theo thời gian thực, điều chỉnh hình dạng sóng, thực hiện nền tính toán cạnh thông minh giúp tiết kiệm năng lượng và tăng hiệu suất.

Phần Đặc biệt: Sự xuất hiện của Robot Olaf

(Phát video trình diễn Robot Disney Olaf)

Huang Renxun: Người tuyết đến! Newton hoạt động bình thường! Omniverse cũng hoạt động bình thường! Olaf, bạn có khỏe không?

Olaf: Gặp bạn tôi thật sự rất vui.

Huang Renxun: Vâng, vì là tôi đã cung cấp cho bạn máy tính — Jetson!

Olaf: Đó là gì vậy?

Huang Renxun: Chính nó đang ở trong bụng của bạn.

Olaf: Thật kỳ diệu.

Huang Renxun: Bạn đã học cách đi trong Omniverse.

Olaf: Tôi thích đi bộ. Đi bộ tốt hơn nhiều so với cưỡi tuần lộc nhìn lên bầu trời xinh đẹp.

황인훈: Đúng vậy, chính vì mô phỏng vật lý - dựa trên bộ giải Newton chạy trên NVIDIA Warp, mà chúng tôi phát triển chung với Disney và DeepMind, cho phép bạn thích nghi với thế giới vật lý thực.

Olaf: Tôi đang nghĩ về điều này.

황인훈: Đó chính là điểm thông minh của bạn. Tôi là người tuyết, không phải quả cầu tuyết.

황인훈: Bạn có thể tưởng tượng không? Công viên Disneyland của tương lai - tất cả những nhân vật robot này tự do đi lang thang trong khu vực công viên. Nhưng nói thật, tôi nghĩ bạn sẽ cao hơn một chút. Tôi chưa bao giờ thấy một người tuyết thấp như vậy.

Olaf: (Giữ im lặng)

황인훈: Hãy giúp tôi kết thúc bài phát biểu hôm nay, được không?

Olaf: Tuyệt vời quá!

Tổng Kết Bài Phát Biểu Chính

황인훈: Hôm nay, chúng ta đã cùng thảo luận về các chủ đề chính sau:

1. Sự Lên Ngôi của Điểm Lật Lớn về Lý Thuyết: Lý thuyết đã trở thành khối lượng công việc quan trọng nhất của trí tuệ nhân tạo, token là hàng hóa lớn mới, hiệu suất lý thuyết trực tiếp ảnh hưởng đến doanh thu

2. Thời Đại Nhà Máy Trí Tuệ Nhân Tạo: Trung tâm dữ liệu đã chuyển từ cơ sở lưu trữ tệp sang nhà máy sản xuất token, trong tương lai mỗi công ty sẽ đo lường hiệu quả qua "hiệu suất nhà máy trí tuệ nhân tạo"

3. Cách Mạng Tác Nhân Thông Minh OpenClaw: OpenClaw đã mở ra thời đại tính toán tác nhân, ngành công nghiệp CNTT đang chuyển từ thời đại công cụ sang thời đại tác nhân thông minh, mỗi công ty cần phải từng bước chiến lược OpenClaw

4. Trí Tuệ Nhân Tạo Vật Lý và Robot: Trí tuệ có cơ thể đang được triển khai quy mô lớn, xe tự hành, robot công nghiệp, robot hình người cùng tạo nên cơ hội lớn tiếp theo của trí tuệ nhân tạo vật lý

Xin cảm ơn mọi người, GTC vui vẻ!

Liên kết Gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia