Tiêu đề video: Silicon Valley Vector x Đồng sáng lập Fireworks Benny Chen: Mô hình mã nguồn mở, tốc độ tăng token, tối ưu suy luận và tùy chỉnh mô hình
Tác giả video: Silicon Valley Vector 硅谷坐标
Biên tập: Peggy, BlockBeats

Lời tòa soạn: Trong bối cảnh các mô hình mã nguồn mở đang tăng tốc tiến gần đến các mô hình tiên phong đóng mã nguồn, và giá suy luận liên tục giảm, các cuộc thảo luận trong ngành đang chuyển từ "ai sở hữu mô hình mạnh nhất" sang "ai có thể đưa mô hình vào sản xuất với chi phí thấp hơn". Nhưng khi năng lực mô hình trở nên tương đồng và sự tăng trưởng tiêu thụ token trở thành điểm đồng thuận, một câu hỏi cơ bản hơn bắt đầu nổi lên: Điều mà doanh nghiệp thực sự sẵn sàng trả tiền, là các cuộc gọi mô hình rẻ hơn, hay là trí tuệ chuyên biệt có thể hoàn thành ổn định các nhiệm vụ cụ thể?

Gần đây, người dẫn chương trình của "Silicon Valley Vector", ông Tào Khanh Vân, đã có một buổi đối thoại với đồng sáng lập Fireworks AI, ông Trần Vũ Phi. Fireworks nằm giữa mô hình và ứng dụng doanh nghiệp, chủ yếu cung cấp dịch vụ suy luận mô hình mã nguồn mở, tối ưu hiệu suất và tùy chỉnh cho khách hàng. So với việc chỉ thảo luận liệu mã nguồn mở có thể theo kịp mã nguồn đóng hay không, quan sát của Trần Vũ Phi gần với khối lượng công việc thực tế hơn: Token chảy về đâu, vì sao doanh nghiệp trả tiền, và mô hình còn thiếu gì để đi từ bằng chứng khái niệm đến sản xuất.

Trong buổi đối thoại này, Trần Vũ Phi đã phân rã câu hỏi "mã nguồn mở hay mã nguồn đóng sẽ thắng" thành một nhóm các vấn đề cấu trúc cơ bản hơn: Liệu tăng trưởng token có thể chuyển hóa thành doanh thu, liệu năng lực tổng quát có thể thay thế tích lũy chuyên sâu theo ngành, liệu các mô hình giá rẻ có thể vượt qua đánh giá của doanh nghiệp, và làm thế nào nền tảng suy luận có thể thu được giá trị giữa các nhà cung cấp đám mây và các công ty ứng dụng.

Thứ nhất, quy mô sử dụng và giá trị thương mại của các mô hình mã nguồn mở đang phân hóa. Trước đây, khả năng theo kịp và giá cuộc gọi là các chỉ số chính để đánh giá sức cạnh tranh của mã nguồn mở; hiện tại, nền tảng Fireworks xử lý khoảng 40 đến 50 nghìn tỷ token mỗi ngày, và khối lượng sử dụng thực tế của các mô hình mã nguồn mở đã mở rộng nhanh chóng. Nhưng lưu lượng miễn phí, trợ cấp khuyến mãi và sự khác biệt về giá mô hình có thể khiến thống kê token đánh giá quá cao một phần nhu cầu. Khách hàng có thể gọi lượng lớn các mô hình giá rẻ, nhưng vẫn dành ngân sách cao nhất cho các mô hình mã nguồn đóng có hiệu quả tốt nhất. Điều này có nghĩa là, giai đoạn tiếp theo của mã nguồn mở không chỉ là mở rộng lưu lượng, mà còn là chứng minh rằng nó có thể đạt hoặc vượt các mô hình tiên phong trong các nhiệm vụ giá trị cao, và chuyển hóa lợi thế chi phí thành ý định trả tiền.

Thứ hai, các mô hình tổng quát và mô hình chuyên ngành đang bắt đầu phát triển theo các hướng khác nhau. Trước đây, mỗi lần nâng cấp mô hình tiên phong đều có thể trực tiếp loại bỏ một loạt các mô hình tinh chỉnh; hiện tại, các ứng dụng chuyên ngành như luật, y tế, lập trình đang tích lũy các đánh giá, dữ liệu và quy trình làm việc chi tiết hơn, và mục tiêu tối ưu của chúng cũng dần tách biệt khỏi các phòng thí nghiệm tiên phong. Các mô hình tổng quát cần nâng cao giới hạn năng lực, trong khi các mô hình chuyên ngành cần phân phối kết quả ổn định trong các tình huống giới hạn. Loại trước có thể giải quyết các vấn đề rộng hơn, loại sau lại hiểu rõ hơn cách người dùng định nghĩa "đúng". Điều này có nghĩa là, rào cản của các công ty chuyên ngành không chỉ là sở hữu một mô hình tùy chỉnh, mà còn là khả năng liên tục chuyển hóa nhu cầu ngành thành hệ thống đánh giá, và di chuyển lặp lại theo các bản cập nhật mô hình cơ sở.

Thứ ba, điểm nghẽn trong triển khai AI doanh nghiệp đang chuyển từ nguồn cung mô hình sang năng lực đánh giá. Trước đây, việc chứng minh khái niệm (PoC) của doanh nghiệp thường dựa vào trải nghiệm dùng thử và đánh giá chủ quan; hiện tại, khi AI bước vào các khâu sản xuất như trung tâm chăm sóc khách hàng, tra cứu pháp lý và hỗ trợ y tế, chỉ dựa vào "trông có vẻ hiệu quả" không còn đủ để hỗ trợ quyết định mua sắm. Doanh nghiệp phải biết mô hình hiệu quả trên những tác vụ nào, khi nào thất bại, và việc chuyển từ mã nguồn đóng sang mã nguồn mở sẽ thay đổi chi phí và chất lượng ra sao. Vì vậy, đánh giá không còn là công cụ phụ trợ, mà trở thành hạ tầng kết nối mua sắm, huấn luyện và triển khai sản xuất. Ai định nghĩa được tác vụ, thiết lập phân bố kiểm thử và liên tục cập nhật tiêu chuẩn, người đó mới thực sự nắm quyền lựa chọn mô hình.

Thứ tư, giá trị của nền tảng suy luận (inference) đang chuyển từ "bán hạ tầng tính toán giá rẻ" sang tổ chức mô hình, phần cứng và quy trình làm việc. Trước đây, tối ưu hóa suy luận chủ yếu được hiểu là giảm chi phí cho từng Token; hiện tại, bộ nhớ đệm (cache), phân chia tác vụ, định tuyến mô hình và quản lý ngữ cảnh đều có thể trực tiếp thay đổi tỷ lệ hoàn thành tác vụ. Các mô hình khác nhau không cần tranh giành cùng một vị trí, mà có thể đảm nhận vai trò người thực thi và cố vấn riêng biệt. Logic kinh doanh của Fireworks cũng nhờ đó mà đứng vững: không tự xây dựng phần cứng nặng vốn, mà thông qua huấn luyện, tùy chỉnh và suy luận liên tục, gắn doanh thu với việc sử dụng thực tế mô hình của khách hàng. Tuy nhiên, đối thủ chính của con đường này không phải là một công ty cloud mới duy nhất, mà là các nhà cung cấp cloud lớn có khả năng kiểm soát đồng thời hạ tầng tính toán, phần mềm và điểm tiếp cận khách hàng.

Thứ năm, sự trỗi dậy của mô hình mã nguồn mở chưa chắc làm suy yếu nhu cầu hạ tầng, mà ngược lại có thể nén biên lợi nhuận ở tầng mô hình và đẩy giá trị sâu hơn về suy luận và hạ tầng tính toán. Các gã khổng lồ công nghệ liên tục tăng chi tiêu vốn không chỉ để tính toán lợi nhuận ngắn hạn, mà còn để cân nhắc rủi ro dài hạn nếu bỏ lỡ chu kỳ AI. Tuy nhiên, đối với các công ty cloud mới phụ thuộc vào nguồn vốn bên ngoài, chi phí nợ, trì hoãn dự án và chu kỳ thu hồi vốn vẫn là những ràng buộc trực tiếp hơn. Mô hình ngày càng rẻ hơn không có nghĩa là việc xây dựng và vận hành hệ thống AI cũng sẽ nhẹ nhàng hơn theo cùng nhịp độ.

Nếu nén cuộc đối thoại này thành một nhận định, thì đó là: việc mô hình mã nguồn mở bắt kịp chỉ là điểm khởi đầu; giai đoạn tiếp theo của thương mại hóa AI sẽ xoay quanh đánh giá, tùy chỉnh, hiệu quả suy luận và quy trình làm việc của khách hàng.

Dưới đây là nội dung gốc (được biên tập lại để dễ đọc hiểu):

TL；DR

·Mô hình mã nguồn mở đang nhanh chóng bắt kịp mô hình mã nguồn đóng, nhưng tăng trưởng Token không đồng nghĩa với tăng trưởng doanh thu; ngân sách doanh nghiệp vẫn ưu tiên chảy vào các mô hình hiệu quả nhất.

·Chưng cất (distillation) chỉ giúp mô hình mã nguồn mở thu hẹp khoảng cách trong ngắn hạn; khả năng cạnh tranh dài hạn vẫn phụ thuộc vào huấn luyện độc lập, dữ liệu đánh giá, nhân tài và hạ tầng tính toán.

·Việc nâng cấp mô hình tổng quát không nhất thiết loại bỏ mô hình chuyên ngành; rào cản trong các lĩnh vực như pháp lý, y tế đang chuyển từ năng lực mô hình sang đánh giá, dữ liệu và quy trình làm việc.

·Chìa khóa để AI doanh nghiệp chuyển từ PoC sang sản xuất không nằm ở việc tăng thêm lựa chọn mô hình, mà ở việc xây dựng hệ thống đánh giá có khả năng đo lường chất lượng, chi phí và ranh giới thất bại.

·Tối ưu hóa suy luận đã mở rộng từ việc giảm chi phí trên mỗi token sang bộ nhớ đệm, phân chia tác vụ và định tuyến mô hình, bản thân thiết kế hệ thống có thể khiến tổ hợp nhiều mô hình vượt qua một mô hình tiên phong duy nhất.

·Mô hình tùy chỉnh phù hợp hơn với các nền tảng SaaS theo chiều dọc phục vụ số lượng lớn khách hàng cùng loại, một doanh nghiệp đơn lẻ thường thiếu phân bố dữ liệu đủ rộng và khả năng đánh giá liên tục.

·Năng lực cạnh tranh của Fireworks không nằm ở việc sở hữu GPU, mà ở việc kết nối huấn luyện, tùy chỉnh và suy luận liên tục, nhưng đối thủ dài hạn thực sự vẫn là các gã khổng lồ đám mây có thể bao phủ toàn bộ ngăn xếp công nghệ.

·Sự phổ biến của mô hình mã nguồn mở chưa chắc làm suy yếu nhu cầu phần cứng, nó có khả năng cao sẽ nén biên lợi nhuận của tầng mô hình và phân phối lại giá trị ngành sang sức mạnh tính toán, hạ tầng suy luận và quy trình làm việc doanh nghiệp.

Điểm chính của cuộc phỏng vấn

Mã nguồn mở sẽ tiếp tục đuổi kịp, nhưng chưng cất không phải là giải pháp dài hạn

Đội ngũ Fireworks phần lớn đến từ hệ sinh thái PyTorch của Meta. Dựa trên kinh nghiệm phát triển phần mềm trước đây như hệ điều hành, cơ sở dữ liệu, đội ngũ tin rằng trong dài hạn, phần mềm có giá trị quan trọng cuối cùng sẽ xuất hiện các giải pháp mã nguồn mở có tính cạnh tranh. Mô hình lớn có thể phát triển theo lộ trình tương tự, chỉ là tốc độ đuổi kịp lần này nhanh hơn so với dự đoán ban đầu của Trần Vũ Phi.

Một mặt, doanh thu định kỳ hàng năm của các công ty mô hình mã nguồn đóng như OpenAI, Anthropic vẫn đang tăng trưởng nhanh chóng; mặt khác, các mô hình mã nguồn mở giữa Trung Quốc và Mỹ cũng đang nhanh chóng thu hẹp khoảng cách năng lực và đẩy giá suy luận xuống rất thấp. Mã nguồn mở và mã nguồn đóng không phải là mối quan hệ tổng bằng không khi một bên tăng trưởng thì bên kia chắc chắn suy giảm.

Đối với việc một số mô hình mã nguồn mở chưng cất từ đầu ra của mô hình mã nguồn đóng, Trần Vũ Phi cho rằng cách này có thể giúp mô hình đạt trình độ cao trong ngắn hạn, nhưng khó trở thành lộ trình dài hạn đáng tin cậy. Các nhà cung cấp mã nguồn đóng có thể dần dần vá các cơ chế API và bảo mật, giảm khả năng quá trình suy luận và dữ liệu liên quan bị trích xuất.

Nhưng sự tiến bộ của mô hình mã nguồn mở không hoàn toàn phụ thuộc vào chưng cất. Chỉ cần hệ thống đánh giá không ngừng hoàn thiện, chi phí dữ liệu tiếp tục giảm, cùng với đủ nhân tài, GPU và năng lực kỹ thuật, các đội ngũ mã nguồn mở vẫn có thể độc lập huấn luyện ra các mô hình có tính cạnh tranh. Các công ty như Meta sở hữu nguồn lực tính toán và nhân tài, không có lý do gì để duy trì khoảng cách lớn với các mô hình tiên phong mã nguồn đóng trong dài hạn.

Điều này không có nghĩa là mô hình mã nguồn đóng sẽ mất thị trường. Trần Vũ Phi ví cả hai như Apple và Android: hệ sinh thái mở có thể tiếp nhận quy mô sử dụng lớn hơn, còn sản phẩm mã nguồn đóng dẫn đầu liên tục có thể giữ chân các khách hàng giá trị cao ít nhạy cảm với giá nhờ trải nghiệm ổn định, nhận diện thương hiệu và niềm tin doanh nghiệp.

Việc mua sắm của doanh nghiệp thường thiên về bảo thủ. "Không ai bị sa thải vì mua IBM" mô tả chính xác tâm lý ra quyết định này. Chỉ cần khách hàng vẫn tin rằng mua mô hình mã nguồn đóng hàng đầu an toàn hơn, các công ty như OpenAI, Anthropic vẫn có thể duy trì lợi thế nhất định. So với khoảng cách công nghệ ngắn hạn, tâm lý người dùng và khả năng thâm nhập thị trường có thể khó thay đổi hơn.

Trần Vũ Phi dự đoán, ARR của các công ty mô hình đóng vẫn sẽ tăng trưởng, nhưng con số này chưa chắc phản ánh đầy đủ lợi ích kinh tế cuối cùng mà họ thu được. Ví dụ, một phần doanh thu có thể phải chia sẻ với các nhà cung cấp đám mây, ARR tăng không nhất thiết chuyển hóa thành tỷ lệ tương ứng của doanh thu kế toán và lợi nhuận. Liệu quyền thương lượng của mô hình đóng có suy giảm hay không, cần phải chờ các công ty liên quan công bố thông tin tài chính đầy đủ hơn mới có thể đánh giá.

Về dài hạn, mã nguồn mở có thể đạt được quy mô gọi API lớn hơn, trong khi mã nguồn đóng tiếp tục nắm giữ các nhu cầu có biên lợi nhuận cao hơn. Ranh giới thương mại giữa hai bên không chỉ được quyết định bởi năng lực mô hình, mà còn bao gồm thương hiệu, kênh phân phối, niềm tin khách hàng và cách thức phân chia doanh thu.

Token đang chảy về mã nguồn mở, nhưng doanh thu vẫn theo hiệu quả

Theo giới thiệu của Trần Vũ Phi, nền tảng Fireworks hiện xử lý khoảng 40 đến 50 nghìn tỷ Token mỗi ngày. Theo số liệu công khai mà ông trích dẫn, quy mô này đã vượt qua lưu lượng API doanh nghiệp mà Gemini và OpenAI công bố ra bên ngoài.

Nhu cầu chính trên nền tảng đến từ lập trình, y tế, cộng tác văn phòng và nghiên cứu chuyên sâu. Trong đó, ngày càng nhiều nhiệm vụ trước đây không được coi là lập trình, đang được định nghĩa lại thành "vấn đề lập trình".

PowerPoint, Excel và các phần mềm văn phòng khác là ví dụ điển hình. Khi mô hình có thể vận hành các phần mềm này thông qua mã hoặc công cụ có cấu trúc, các phương pháp tạo mã, gọi công cụ và học tăng cường hiện có có thể được chuyển sang bối cảnh văn phòng. Nhiều công ty SaaS theo chiều dọc cũng đang đóng gói các công cụ ngành thành môi trường mà mô hình có thể gọi, sau đó thông qua học tăng cường, giúp mô hình làm quen với quy trình làm việc cụ thể.

Trần Vũ Phi phân loại nhu cầu hiện tại thành hai loại chính: một là lập trình, hai là nghiên cứu chuyên sâu. Các ứng dụng theo chiều dọc khác nhau sẽ kết hợp cả hai, tạo thành các Agent chuyên biệt hướng đến các bối cảnh như luật pháp, y tế, văn phòng.

Ông đặc biệt lạc quan về các sản phẩm cộng tác văn phòng dành cho người dùng phi kỹ thuật. Trước đây, phần lớn nguồn lực của ngành được đầu tư vào các nhu cầu "dành cho học sinh khoa học tự nhiên" như toán học và lập trình, nhưng các nhu cầu tạo slide, xử lý tài liệu và làm video dành cho đông đảo nhân viên tri thức có thể tăng trưởng nhanh hơn.

Sự phát triển của Agent thao tác máy tính lại chậm hơn so với kỳ vọng trước đây. Hơn một năm trước, các sản phẩm này từng được cho là có thể bỏ qua các API phức tạp, sử dụng máy tính trực tiếp như con người; trong thực tế phát triển, các doanh nghiệp để giảm chi phí lại chuyển nhiều quy trình làm việc sang văn bản thuần túy. Mô hình văn bản rẻ hơn và dễ tích hợp vào quy trình hiện có hơn. Khi chi phí máy ảo giảm và môi trường chạy được cải thiện, Agent thao tác máy tính vẫn có thể có không gian lớn hơn, nhưng con đường tối ưu hóa cụ thể vẫn đang được khám phá.

Tuy nhiên, tăng trưởng Token không thể trực tiếp đại diện cho giá trị thương mại. Các bảng xếp hạng định tuyến mô hình công khai thường bị ảnh hưởng bởi hạn mức miễn phí và các hoạt động khuyến mãi, cùng một số lượng Token cũng có thể tương ứng với mức giá hoàn toàn khác nhau. Lưu lượng do mô hình giá rẻ tạo ra và lưu lượng do mô hình tiên tiến đắt đỏ tạo ra có ý nghĩa khác nhau ở cấp độ doanh thu.

Trần Vũ Phi cho rằng, doanh thu phản ánh lựa chọn thực sự của khách hàng tốt hơn số lượng Token. Khi doanh nghiệp không quá nhạy cảm với giá cả, ngân sách vẫn sẽ chảy về phía mô hình có hiệu quả tốt nhất. Vì vậy, khi Fireworks hỗ trợ khách hàng tùy chỉnh mô hình, mục tiêu hàng đầu thường không phải là đạt được "hiệu quả giá tốt", mà là đạt hoặc vượt qua các mô hình nguồn đóng hàng đầu trong các tác vụ cụ thể.

Thị trường lập trình cũng có sự phân hóa giữa mức độ sử dụng và doanh thu. Mức tiêu thụ Token gần như chắc chắn sẽ tiếp tục tăng trưởng, nhưng nếu các mô hình phổ biến liên tục giảm giá, mức giá thấp hơn sẽ kích thích nhiều lượt gọi hơn, nhưng không nhất thiết mở rộng doanh thu thị trường một cách đồng bộ. Giống như việc điện phổ cập không có nghĩa là lợi nhuận đều thuộc về các công ty phát điện, sự tăng trưởng về số lượng gọi AI cũng không thể trực tiếp trả lời câu hỏi giá trị ngành cuối cùng nằm ở tầng nào.

Trong thời gian tới, mức độ sử dụng của các mô hình nguồn mở có thể tiếp tục tăng, nhưng liệu chi tiêu liên quan có mở rộng đồng bộ hay không phụ thuộc vào việc doanh nghiệp có sẵn sàng đầu tư nguồn lực để tùy chỉnh hay không. Nếu ngày càng nhiều công ty có thể khiến các mô hình nguồn mở tùy chỉnh thách thức các mô hình nguồn đóng trong các tác vụ cụ thể, lưu lượng truy cập và doanh thu sẽ tiếp tục dịch chuyển về phía nguồn mở; nếu chi phí tùy chỉnh, tỷ lệ thất bại và năng lực tổ chức tiếp tục là rào cản, các mô hình nguồn đóng vẫn sẽ tiếp nhận phần lớn nhu cầu giá trị cao.

Mô hình tổng quát nâng cao giới hạn năng lực, mô hình chuyên ngành tích lũy rào cản tác vụ

Mỗi khi một mô hình tiên tiến mới được phát hành, thị trường lại đặt ra một câu hỏi: liệu các mô hình được doanh nghiệp đầu tư dữ liệu và tài chính để tinh chỉnh có nhanh chóng mất đi giá trị hay không?

Trần Vũ Phi cho biết, năm 2025 thực sự có khá nhiều mô hình tùy chỉnh bị thay thế bởi các mô hình nền tảng thế hệ mới, nhưng đến năm 2026, tình trạng này đã giảm đi rõ rệt. Theo ông, đây là tín hiệu tích cực cho thấy giá trị thương mại của các mô hình chuyên ngành đang dần ổn định.

Nguyên nhân nằm ở chỗ, các mô hình tổng quát và ứng dụng chuyên ngành đang được tối ưu hóa theo những hướng khác nhau. Các phòng thí nghiệm tiên phong cần chứng minh mô hình có thể giải quyết các vấn đề toán học, khoa học và nghiên cứu dược phẩm khó hơn; còn các công ty chuyên ngành như luật, y tế lại tập trung vào nhu cầu người dùng cụ thể, tỷ lệ hoàn thành tác vụ, độ chính xác trích dẫn và độ tin cậy của quy trình làm việc.

«Làm tốt một Agent trong lĩnh vực chuyên ngành và giải quyết giả thuyết Riemann có thể là hai loại công việc hoàn toàn khác nhau.»

Lấy công ty AI pháp lý Harvey làm ví dụ, lợi thế của họ không chỉ đến từ việc sử dụng mô hình nền tảng nào, mà còn từ việc phân rã các tác vụ pháp lý, hệ thống đánh giá, xử lý dữ liệu và quy trình sản phẩm. Kịch bản y tế cũng tương tự, các sản phẩm khác nhau cần xây dựng tiêu chuẩn chuyên biệt xoay quanh cách làm việc của bác sĩ, nguồn tài liệu và yêu cầu về độ chính xác.

Những đánh giá và dữ liệu này sẽ không tự động mất hiệu lực khi có mô hình mới được phát hành. Sau khi mô hình nền tảng được nâng cấp, các công ty chuyên ngành có thể chuyển môi trường huấn luyện hiện có sang mô hình mới mà không cần phải hiểu lại toàn bộ ngành. Khi các đánh giá ngày càng chi tiết và quy trình làm sạch dữ liệu ngày càng trưởng thành, các mô hình chuyên ngành hình thành nên một năng lực tích lũy liên tục xoay quanh các tác vụ cụ thể.

Về mặt lý thuyết, các công ty mô hình tiên phong cũng có thể tập trung nguồn lực để thâm nhập thị trường pháp lý hoặc y tế và đánh bại các sản phẩm hiện có trong một lĩnh vực duy nhất. Nhưng cách làm này chưa chắc đã phù hợp với mục tiêu kinh doanh của họ. Các công ty mô hình đa năng cần phục vụ nhiều đối tượng khách hàng rộng rãi, nếu dồn quá nhiều nguồn lực vào một lĩnh vực dọc, họ có thể khó duy trì quy mô thị trường và định giá mà mình theo đuổi.

Trần Vũ Phi ví mô hình đa năng như một chuỗi nhà hàng cần phục vụ nhiều khẩu vị khác nhau, còn mô hình dọc thì giống một nhà hàng chuyên về một số ít món ăn. Loại sau không cần giải quyết mọi vấn đề, chỉ cần vượt trội rõ rệt so với giải pháp đa năng trong các nhiệm vụ mục tiêu là có thể thiết lập không gian thanh toán độc lập.

Khả năng không đồng đều nhưng chuyên môn hóa cao này cũng được ông gọi là "Jagged Intelligence". Một mô hình pháp lý có thể không giải được giả thuyết Riemann, nhưng lại có thể vượt qua các mô hình đa năng có quy mô lớn hơn trong một số loại nhiệm vụ pháp lý nhất định. Đối với khách hàng doanh nghiệp, khả năng hoàn thành công việc một cách đáng tin cậy thường quan trọng hơn việc mô hình có sở hữu năng lực rộng hơn hay không.

Không phải mọi doanh nghiệp đều phù hợp với mô hình tùy chỉnh. Trần Vũ Phi cho rằng, khách hàng phù hợp nhất là các công ty SaaS dọc phục vụ nhiều tổ chức cùng loại, chứ không phải một bệnh viện, công ty luật hay doanh nghiệp cuối đơn lẻ.

Nền tảng SaaS dọc có thể tiếp cận nhiều khách hàng, hiểu được nhu cầu chung giữa các tổ chức khác nhau, đồng thời có thể xây dựng hệ thống đánh giá bao phủ nhiều tình huống hơn. Một doanh nghiệp đơn lẻ thường thiếu phân bố dữ liệu đủ rộng và khả năng đánh giá liên tục, thay vì tự huấn luyện mô hình, tốt hơn nên cố định hóa quy trình nội bộ thành kỹ năng, công cụ hoặc Agent, rồi gọi mô hình nền tảng bên ngoài để hoàn thành nhiệm vụ.

Trong các dự án học tăng cường tùy chỉnh, GPU là chi phí chính, nhưng dữ liệu và môi trường huấn luyện cũng quan trọng không kém. Đội ngũ cần kiểm tra xem mô hình có xuất hiện hành vi "reward hacking" hay không, tức là lợi dụng lỗ hổng đánh giá để đạt điểm cao mà không thực sự hoàn thành nhiệm vụ; đồng thời cũng cần đảm bảo môi trường huấn luyện ổn định và có thể mở rộng quy mô huấn luyện.

Môi trường ban đầu không nhất thiết phải đạt tới hàng trăm nghìn mẫu. Trần Vũ Phi cho biết, chỉ cần vài nghìn môi trường huấn luyện là có thể khởi động học tăng cường, vì mô hình sẽ liên tục khám phá và tạo ra một lượng lớn quỹ đạo trong quá trình huấn luyện. Giả sử mỗi bước huấn luyện chạy 128 lần trên một môi trường, thì một nghìn dữ liệu ban đầu có thể tạo ra khoảng 128 nghìn quỹ đạo huấn luyện.

Sau khi mô hình tùy chỉnh được đưa vào vận hành, vẫn cần "tái đào tạo". Khi một mô hình nền tảng mã nguồn mở mới được phát hành, nền tảng có thể chuyển hệ thống huấn luyện và đánh giá ban đầu sang mô hình mới. Chỉ cần tiêu chuẩn đánh giá và môi trường nhiệm vụ đã được cố định, việc chuyển đổi bản thân nó không nhất thiết tốn nhiều thời gian; điều thực sự tạo ra khối lượng công việc liên tục là khách hàng thêm vào các tình huống, quy trình làm việc và nhiệm vụ khó hơn mới.

Vì vậy, tài sản cốt lõi của một công ty dọc không phải là trọng số của một thế hệ mô hình cụ thể, mà là dữ liệu, đánh giá và quy trình làm việc có thể chuyển đổi lặp đi lặp lại theo các bản cập nhật của mô hình nền tảng.

Doanh nghiệp AI mắc kẹt ở PoC, thiếu không phải mô hình mà là đánh giá

Khi doanh nghiệp lựa chọn mô hình mã nguồn mở hay mã nguồn đóng, điều quan trọng nhất không chỉ là hiệu suất và giá cả, mà là sự tin cậy.

Vì hợp đồng doanh nghiệp thường kéo dài từ một đến hai năm, bên mua cần đánh giá liệu nhà cung cấp dịch vụ và hệ sinh thái của họ có thể hỗ trợ lâu dài cho nhu cầu kinh doanh hay không. Mô hình mã nguồn mở có thể rẻ hơn và linh hoạt hơn, nhưng các nhà cung cấp mã nguồn đóng vẫn chiếm ưu thế trong việc truyền thông thương hiệu, câu chuyện thành công và nhận thức thị trường.

Trần Vũ Phi cho rằng, điểm yếu rõ ràng nhất của mô hình mã nguồn mở và nhà cung cấp dịch vụ hiện nay không phải là công nghệ, mà là khả năng thâm nhập thị trường. Các công ty mô hình mã nguồn đóng có thể liên tục củng cố nhận thức người dùng thông qua các buổi trình diễn năng lực mới và kết quả nghiên cứu, trong khi hệ sinh thái mã nguồn mở lại thiếu một hệ thống tiếp thị và giao tiếp khách hàng thống nhất.

Phương thức triển khai cũng đang thay đổi. Trước đây, doanh nghiệp chú trọng hơn đến triển khai tại chỗ, nhưng ngày càng nhiều khối lượng công việc chuyển sang đám mây. Chỉ cần nhà cung cấp dịch vụ có thể xây dựng niềm tin ở các khâu như bảo mật, mạng riêng ảo, thì dịch vụ đám mây đa người thuê thường kinh tế hơn so với GPU độc quyền của doanh nghiệp.

Một doanh nghiệp đơn lẻ khó có thể giữ cho một nhóm GPU luôn được sử dụng với hiệu suất cao, trong khi nền tảng có thể tổng hợp nhu cầu của các khách hàng khác nhau, nâng cao hiệu quả sử dụng phần cứng. Khi chi phí suy luận chiếm tỷ trọng ngày càng lớn trong chi phí vận hành của doanh nghiệp, lợi thế chi phí từ cơ sở hạ tầng dùng chung sẽ càng rõ rệt hơn.

Một trong những rào cản lớn nhất khi doanh nghiệp chuyển từ chứng minh khái niệm sang sản xuất là thiếu đánh giá nghiêm ngặt. Nhiều công ty, dù đã sử dụng AI trong các khâu quan trọng như trung tâm chăm sóc khách hàng, vẫn đánh giá hiệu quả mô hình theo cách gần như dùng thử theo cảm tính, thay vì thiết lập các tiêu chuẩn kiểm thử có thể lặp lại.

Không có đánh giá, doanh nghiệp vừa không thể so sánh ổn định giữa mô hình mã nguồn mở và mã nguồn đóng, vừa không thể xác định liệu cập nhật mô hình có thực sự cải thiện hoạt động kinh doanh hay không. Vì vậy, Trần Vũ Phi cho rằng, nhân tài có thể thiết kế đánh giá AI vẫn còn khan hiếm. Một hệ thống đánh giá đáng tin cậy có thể giúp doanh nghiệp hoàn tất việc thay thế mô hình và tiết kiệm chi phí dài hạn cao hơn nhiều so với chi phí xây dựng.

Điều này về bản chất không khác gì kiểm thử đơn vị trong các công ty phần mềm truyền thống. Trước đây, các công ty SaaS cần chạy một bộ kiểm thử trước khi bàn giao phần mềm; ngày nay, các công ty AI theo chiều dọc cần thiết lập một bộ đánh giá để xác nhận Agent đạt tiêu chuẩn tương ứng trước khi đưa vào sản xuất. Trọng tâm công việc của ngành đang chuyển từ một phần "viết kiểm thử" sang "viết đánh giá", nhưng cốt lõi vẫn là biến chất lượng sản phẩm thành năng lực tổ chức có thể đo lường và tích lũy.

Sự phát triển của các công ty dữ liệu bên thứ ba cũng có thể được dùng làm chỉ số quan sát việc triển khai AI trong doanh nghiệp. Nếu khách hàng của họ vẫn tập trung vào một số phòng thí nghiệm tiên phong, điều đó cho thấy không gian để các doanh nghiệp thông thường xây dựng năng lực AI độc lập vẫn còn hạn chế; nếu nguồn thu nhập dần phân tán, có thể nghĩa là nhiều doanh nghiệp bắt đầu mua dữ liệu, xây dựng đánh giá và tự huấn luyện mô hình của riêng mình.

Điều doanh nghiệp thực sự thiếu không phải là nhiều mô hình hơn, mà là một bộ tiêu chuẩn có thể xác định đúng sai, nhận diện thất bại và hỗ trợ quyết định mua sắm.

Tối ưu hóa suy luận chuyển từ giảm chi phí Token sang điều phối hệ thống

Mảng kinh doanh cốt lõi đầu tiên của Fireworks là tối ưu hóa suy luận. Trần Vũ Phi cho rằng công việc này vẫn còn nhiều dư địa, bởi hiệu suất vận hành của một mô hình khi mới ra mắt thường có khoảng cách rõ rệt so với hiệu suất sau khi được tối ưu hóa trong thời gian dài.

Vấn đề nền tảng cần giải quyết là làm sao rút ngắn chu kỳ tối ưu hóa này, để mô hình mới khi lên sóng có thể tiến gần nhất đến trạng thái tối ưu. Ngoài bản thân thời gian chạy của mô hình, bộ nhớ đệm, điều phối và hạ tầng hỗ trợ đều ảnh hưởng đến chi phí cuối cùng. Nhiều tối ưu hóa đến từ vô số công việc kỹ thuật vụn vặt, vì vậy tối ưu hóa suy luận vẫn là một mảng kinh doanh thâm dụng lao động.

So với API bên thứ nhất do nhà phát triển mô hình cung cấp, Fireworks đồng thời phục vụ nhiều mô hình nền tảng và mô hình tùy chỉnh, có thể quan sát được nhiều mẫu lưu lượng và khối lượng công việc đa dạng hơn. Nhà sản xuất mô hình trước tiên phải phục vụ mô hình của mình một cách ổn định cho người dùng rộng rãi, còn nền tảng bên thứ ba có thể thực hiện tối ưu hóa chi tiết hơn dựa trên đặc điểm yêu cầu của từng khách hàng cụ thể.

Định tuyến mô hình không chỉ để giảm chi phí. Trong một thí nghiệm chung giữa Fireworks và Harvey, hệ thống để một mô hình đóng vai người thực thi nhiệm vụ, mô hình khác đóng vai cố vấn, chia các tác vụ ngữ cảnh dài thành nhiều tác vụ con ngắn hơn. Vì hiệu quả của mô hình lớn có thể suy giảm khi ngữ cảnh dài ra, sau khi phân công hợp lý, hiệu suất tổng thể của hệ thống có thể vượt qua cả việc sử dụng riêng mô hình mạnh nhất.

Trần Vũ Phi ví quá trình này giống như tối ưu hóa hiệu suất CPU. Nhà phát triển cần hiểu đặc tính của bộ xử lý, rồi chia chương trình thành khối lượng công việc phù hợp với bộ xử lý đó. Tương tự, trong hệ thống AI, mô hình nền tảng có thể được xem như một bộ xử lý văn bản: đội ngũ cần hiểu ranh giới năng lực của các mô hình khác nhau, rồi thiết kế khung nhiệm vụ, cuối cùng đặt mô hình phù hợp vào vị trí phù hợp.

Tối ưu hóa phần cứng cũng không thể chỉ nhìn vào các chỉ số riêng lẻ của GPU, HBM, CPU và mạng. Khi mô hình bắt đầu được huấn luyện, nó thường đã được thiết kế dựa trên tỷ lệ tính toán và bộ nhớ của phần cứng hiện có. Do đó, việc chuyển mô hình từ GPU của Nvidia sang GPU AMD có đặc tính tương tự tương đối dễ dàng, nhưng chuyển sang ASIC có kiến trúc khác biệt có thể đòi hỏi rất nhiều công sức.

Một phần cứng mới có thành công hay không không chỉ phụ thuộc vào việc thông số có gần với Nvidia hay không, mà còn ở quy mô cung ứng, hệ sinh thái phần mềm và động lực kinh tế có thúc đẩy nhà phát triển tối ưu hóa mô hình cho nó hay không. Ngay cả khi cấu hình phần cứng tương tự Nvidia, nếu nhà phát triển không nhận được lợi ích đủ lớn khi sử dụng nó, thì cũng khó hình thành hệ sinh thái.

Nền tảng suy luận cuối cùng không chỉ tối ưu hóa tốc độ chạy của mô hình, mà là cách thức kết hợp giữa mô hình, tác vụ và phần cứng.

Fireworks không sở hữu phần cứng, nhưng phải kết nối huấn luyện và suy luận

Trước xu hướng các nhà cung cấp đám mây AI mở rộng sang tầng phần mềm, Fireworks tạm thời không có kế hoạch tự xây dựng phần cứng hoặc đầu tư mạnh vào GPU. Trần Vũ Phi mô tả mô hình của công ty gần giống với "bên cho thuê trung gian": lấy năng lực tính toán từ các nhà cung cấp hạ tầng, tập trung vào phần mềm tính toán, dịch vụ suy luận và tùy chỉnh mô hình.

Sự khác biệt giữa Fireworks và các nền tảng đám mây AI thông thường nằm ở chỗ phần lớn lưu lượng trên nền tảng không đến từ các mô hình cơ sở chưa qua chỉnh sửa, mà là các mô hình tùy chỉnh. Trần Vũ Phi cho rằng, cuộc cạnh tranh về suy luận mô hình cơ sở sẽ ngày càng khốc liệt, lợi nhuận có khả năng đến từ các mô hình chuyên biệt có thể mang lại kết quả tốt hơn cho khách hàng.

Fireworks kết nối huấn luyện và suy luận thành một mảng kinh doanh thống nhất. Công ty giúp khách hàng huấn luyện mô hình và hy vọng lưu lượng suy luận sau khi mô hình được triển khai sẽ tăng trưởng liên tục. So với các nhà cung cấp chỉ thu phí huấn luyện hoặc phí tư vấn, cấu trúc doanh thu này giúp nền tảng gắn kết hơn với hiệu quả sử dụng lâu dài của khách hàng: khách hàng tạo ra nhiều giá trị hơn từ mô hình, Fireworks mới có thể thu được nhiều doanh thu hơn từ suy luận liên tục.

Một số nhà cung cấp dịch vụ học tăng cường chỉ cung cấp huấn luyện hoặc tư vấn, doanh thu của họ không nhất thiết liên quan trực tiếp đến hiệu quả sử dụng sau khi mô hình được triển khai. Logic kinh doanh của Fireworks là nâng cao hiệu quả mô hình thông qua huấn luyện, sau đó thu hồi lợi nhuận từ lưu lượng suy luận tiếp theo. Họ không bán các dự án huấn luyện một lần, mà là khả năng giúp mô hình của khách hàng liên tục tạo ra lượng sử dụng.

Những đối thủ thực sự có khả năng bao phủ toàn bộ chuỗi không phải là các công ty đám mây mới đơn lẻ, mà là các nhà cung cấp dịch vụ đám mây lớn như AWS, Microsoft Azure và Google Cloud. Họ vừa sở hữu năng lực tính toán, vừa có thể xây dựng dịch vụ học tăng cường, nền tảng suy luận và công cụ phát triển.

Fireworks một mặt cạnh tranh với các nhà cung cấp đám mây, mặt khác cũng phụ thuộc vào hạ tầng của họ và hợp tác với họ. Hiện tại công ty hợp tác chặt chẽ nhất với Azure, khách hàng có thể sử dụng hạn mức Azure để mua dịch vụ Fireworks, đồng thời cũng triển khai hợp tác với AWS và Google Cloud.

Trần Vũ Phi cho rằng, khả năng tối ưu hóa suy luận hiện tại của Fireworks vẫn vượt trội so với các dịch vụ tương tự của các nhà cung cấp đám mây, nhưng hiệu năng đơn điểm không phải là rào cản vững chắc nhất. Điều quan trọng hơn là hoàn thành toàn bộ chu trình vận hành máy học từ huấn luyện, triển khai, đánh giá đến suy luận, mang lại trải nghiệm liền mạch cho nhà phát triển. So với các công ty đám mây mới, Fireworks bao phủ chuỗi dài hơn; so với các gã khổng lồ đám mây, họ cần duy trì lợi thế về chuyên môn hóa và tốc độ thực thi.

Ngay cả khi trong tương lai AI có thể tự động hoàn thành việc tối ưu hóa nhân, suy luận và hậu huấn luyện, việc hiểu nhu cầu khách hàng vẫn có thể là một công việc khó có thể thay thế hoàn toàn. Một hệ thống có thể giải quyết các bài toán phức tạp, nhưng chưa chắc đã hiểu được quy trình, ràng buộc và tiêu chí đánh giá của doanh nghiệp một cách tự nhiên. Giá trị lâu dài của Fireworks cuối cùng vẫn phụ thuộc vào việc có thể chuyển hóa nhu cầu khách hàng thành mô hình, đánh giá và sản phẩm có thể vận hành được hay không.

Phí bảo hiểm của mô hình nén mã nguồn mở, sức mạnh tính toán vẫn là ràng buộc cuối cùng

Trong một đến hai năm tới, thách thức lớn nhất mà Fireworks phải đối mặt vẫn là sức mạnh tính toán. Việc công ty có thể có được đủ tài nguyên tính toán với giá cả hợp lý hay không sẽ trực tiếp giới hạn tăng trưởng doanh thu. Trần Vũ Phi đã tóm tắt trạng thái hiện tại của Fireworks là "bị ràng buộc bởi sức mạnh tính toán" và nhận định rằng ít nhất trong năm tới, toàn bộ thị trường vẫn có thể duy trì trạng thái này.

Điều này cũng ảnh hưởng đến quan điểm của ông về chi tiêu vốn AI của các gã khổng lồ công nghệ. Thị trường thường đánh giá liệu Google, Meta và các công ty khác có đầu tư quá mức hay không dựa trên tỷ suất hoàn vốn; nhưng đối với các công ty này, một rủi ro khác có thể lớn hơn: nếu AI cuối cùng mang lại lợi nhuận cực cao, mà họ bỏ lỡ vòng cạnh tranh này vì cắt giảm đầu tư, họ có thể vĩnh viễn mất vị trí trên bàn cờ.

Vì vậy, ngay cả khi đầu tư vượt mức trong ngắn hạn, cái giá phải trả cũng chỉ có thể là áp lực lên báo cáo tài chính và phải tiêu hao khấu hao trong vài năm tới. Đối với các gã khổng lồ công nghệ có dòng tiền dài hạn và khả năng huy động vốn, điều này thường không phải là rủi ro sinh tồn; nhưng bỏ lỡ chu kỳ công nghệ quan trọng thì có thể là.

Tình hình của các công ty cloud mới thì khác. Họ cần tính toán chặt chẽ hơn về lợi nhuận dự án, chi phí huy động vốn và chu kỳ thu hồi vốn. Trần Vũ Phi khuyến nghị nên chú ý đến xếp hạng trái phiếu, sự trì hoãn dự án và khả năng tái cấp vốn của các công ty liên quan. Nếu trong 3 đến 6 tháng tới có bên tham gia không thể tiếp tục vay do vấn đề tín dụng và cần tái cơ cấu nợ, liệu thị trường có còn sẵn sàng tiếp nhận vốn hay không sẽ trở thành điểm mấu chốt để kiểm chứng khả năng huy động vốn của cơ sở hạ tầng AI.

Đối với câu chuyện thị trường rằng "mô hình mã nguồn mở đuổi kịp mô hình mã nguồn đóng sẽ làm giảm nhu cầu phần cứng", Trần Vũ Phi giữ thái độ hoài nghi. Theo quan điểm của ông, việc nâng cao năng lực của mô hình mã nguồn mở trước tiên làm suy yếu khả năng định giá ở tầng mô hình. Nếu tổng chi tiêu AI không đổi, giá trị ngược lại có thể chuyển dịch sang các công ty cung cấp sức mạnh tính toán và cơ sở hạ tầng.

Tuy nhiên, liệu chi tiêu vốn AI cuối cùng có thể mang lại lợi nhuận đủ hay không vẫn là một câu hỏi chưa có lời giải. Các dự án sức mạnh tính toán thường cần nhiều năm để thu hồi vốn đầu tư, và cục diện cung cầu sau một năm đã rất khó dự đoán. Tín hiệu tương đối rõ ràng ở giai đoạn hiện tại là, dù là Fireworks hay nhiều khách hàng mà họ phục vụ, vẫn đang tìm kiếm thêm sức mạnh tính toán.

Sự cạnh tranh giữa mã nguồn mở và mã nguồn đóng sẽ không chỉ được quyết định bởi bảng xếp hạng mô hình. Khi khoảng cách năng lực tiếp tục thu hẹp, giá trị ngành sẽ phụ thuộc nhiều hơn vào việc ai có thể định nghĩa nhiệm vụ, xác minh hiệu quả và đưa mô hình vào sản xuất với chi phí bền vững.

[Liên kết video]

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia