原文标题： Cuộc Phỏng Vấn với CEO của OpenAI Sam Altman và CEO của AWS Matt Garman về Bedrock Managed Agents
原文 tác giả: Ben Thompson, Stratechery
Dịch thuật: Peggy, BlockBeats

Biên tập lời: Vào ngày 27 tháng 4, OpenAI và Microsoft vừa chỉnh sửa hợp đồng hợp tác, Azure không còn độc quyền sử dụng mô hình của OpenAI, điều này cho phép OpenAI mở rộng sản phẩm của mình lên các nền tảng đám mây khác như AWS.

Ghi chú: Azure là nền tảng tính toán đám mây của Microsoft, thường được gọi là Microsoft Azure. Giống như AWS và Google Cloud, nó chủ yếu cung cấp dịch vụ đám mây cho doanh nghiệp bao gồm máy chủ, cơ sở dữ liệu, lưu trữ, mạng, bảo mật, triển khai mô hình AI, v.v.

Đối với bên ngoài, điều này dường như chỉ là một thay đổi trong kênh phân phối dịch vụ đám mây; nhưng từ cuộc trò chuyện giữa Sam Altman và CEO của AWS Matt Garman, có vẻ thay đổi quan trọng hơn nằm ở việc, AI đang chuyển từ "gọi mô hình" sang giai đoạn "quy trình làm việc doanh nghiệp".

Bài viết này được dịch từ cuộc phỏng vấn của Stratechery với Sam Altman và Matt Garman, tập trung vào việc triển khai Bedrock Managed Agents được phát triển bởi OpenAI và AWS, thảo luận về sự tương đồng giữa việc chuyển đổi nền tảng đám mây và AI, khó khăn trong triển khai agent cấp doanh nghiệp, sự khác biệt giữa AgentCore và dịch vụ quản lý, cũng như vị trí của AWS trong cạnh tranh cơ sở hạ tầng AI.

Ghi chú: Stratechery được sáng lập bởi nhà phân tích công nghệ Ben Thompson, tập trung vào chiến lược của các công ty công nghệ, kinh tế nền tảng, đám mây, AI và biến đổi trong ngành truyền thông. Nội dung của Stratechery tập trung vào phân tích sâu và cuộc phỏng vấn với các giám đốc cấp cao, có ảnh hưởng mạnh mẽ trong cộng đồng công nghệ và đầu tư Silicon Valley, thường được coi là một cửa sổ quan trọng quan sát xu hướng chiến lược của các công ty công nghệ lớn.

Điểm mạnh của Bedrock Managed Agents không chỉ là giúp khách hàng của AWS sử dụng mô hình của OpenAI, mà là nhúng mô hình vào hệ thống danh tính, quyền lực, nhật ký, quản lý, triển khai và bảo mật nguyên bản của AWS. Nói cách khác, điều mà doanh nghiệp thực sự cần không phải là một cửa sổ trò chuyện thông minh hơn, mà là một hệ thống "đồng nghiệp ảo" có thể hoạt động trong tổ chức, truy cập dữ liệu, thực thi nhiệm vụ, tuân thủ ranh giới quyền lực.

Điều đáng chú ý nhất trong cộng tác lần này cũng chính là điểm trọng tâm của cuộc đua AI: từ "ai có mô hình mạnh nhất" đang dần chuyển hướng sang "ai có thể biến mô hình thành cơ sở hạ tầng doanh nghiệp có thể sử dụng được". Trong kịch bản phát triển cá nhân, Codex có thể dựa vào môi trường địa phương giải quyết nhiều vấn đề phức tạp; nhưng trong kịch bản doanh nghiệp, agent phải đối mặt với cơ sở dữ liệu, SaaS, hệ thống quyền hạn, ranh giới an ninh và yêu cầu tuân thủ pháp lý.

Một phần, cộng tác này cũng là sự tái hiện lý thuyết vào giai đoạn đầu của điện toán đám mây. Vào thời điểm đó, AWS đã giảm chi phí khởi nghiệp, giúp các nhóm nhỏ không cần tự xây dựng máy chủ mà vẫn có thể xây dựng sản phẩm internet; ngày nay, OpenAI và AWS đang cố gắng giảm ngưỡng triển khai agent AI cho doanh nghiệp, giúp công ty không cần phải tự ghép mô hình, quyền hạn, dữ liệu và hệ thống bảo mật mà vẫn có thể đưa AI vào quy trình kinh doanh thực tế. Khác biệt nằm ở việc lần này diễn ra nhanh hơn, và nhu cầu của doanh nghiệp cũng cấp thiết hơn.

Do đó, bài viết thực sự không chỉ nói về việc mô hình OpenAI "ra mắt" trên AWS, mà là về việc cơ sở hạ tầng AI bước vào giai đoạn tiếp theo: mô hình, đám mây, dữ liệu và hệ thống quyền hạn doanh nghiệp bắt đầu liên kết sâu hơn. Cuộc đua trong tương lai, có lẽ không chỉ là về giá API, hiệu suất chip hoặc bảng xếp hạng mô hình nữa, mà là về ai có thể xây dựng nên nền tảng AI mà doanh nghiệp có thể tin dùng sử dụng, mở rộng liên tục và thực sự thực thi công việc.

Dưới đây là đoạn văn gốc:

Lời Nói Đầu

Good morning, như tôi đã đề cập hôm qua, buổi phỏng vấn của Stratechery hôm nay có vẻ sớm hơn so với lịch trình phát hành của tôi (từ thứ Năm sớm hơn đến thứ Ba); nhưng về thời gian thực sự chuyển phát thì trễ hơn (từ 6 giờ sáng giờ Đông Hoa Kỳ trì hoãn đến 1 giờ chiều), vì chủ đề lần này bị hạn chế bởi embargo (lệnh cấm phát ngôn).

Trong vài ngày qua, lệnh cấm này cũng đưa tôi vào tình thế một chút tinh tế: vào thứ Sáu tuần trước, tôi đã phỏng vấn CEO của OpenAI Sam Altman và CEO của AWS Matt Garman, chủ đề là Bedrock Managed Agents được hỗ trợ bởi OpenAI. Hết sức tự nhiên, một trong những câu hỏi mà tôi đặt ra là: cộng tác này so với giao kèo làm cho Azure trở thành đối tác độc quyền được sử dụng mô hình của OpenAI giữa OpenAI và Microsoft, điều điều chỉnh như thế nào?

Ghi chú: Bedrock Managed Agents là dịch vụ agent AI theo dõi do AWS triển khai, được OpenAI cung cấp khả năng mô hình hỗ trợ. Điều này không chỉ là cho phép các doanh nghiệp gọi mô hình OpenAI trên AWS, mà là nhúng mô hình vào cơ sở hạ tầng xác thực danh tính, quản lý quyền hạn, nhật ký, an ninh, quản trị và triển khai của AWS, giúp doanh nghiệp có thể xây dựng agent AI thực thi, truy cập dữ liệu nội bộ, tuân thủ biên giới quyền hạn. Đơn giản mà nói, có thể hiểu là cơ sở hạ tầng agent AI OpenAI chạy trong môi trường doanh nghiệp AWS.

Vào cuối Chủ Nhật, tôi nghe từ một nguồn tin nhỏ rằng, Microsoft sẽ công bố một số thông tin vào sáng thứ Hai. Khi đó, tôi đã nghĩ liệu có phải là một vụ kiện phản động hay không!

Vào ngày thứ Hai, Microsoft và OpenAI đã công bố rằng họ đã sửa đổi thỏa thuận, cho phép OpenAI cung cấp sản phẩm của mình trên các nhà cung cấp dịch vụ đám mây khác, bao gồm cả AWS.

Và đây là cuộc phỏng vấn hiện tại.

Tôi nghĩ rằng thỏa thuận mới giữa Microsoft và OpenAI là hợp lý đối với cả hai bên. Dưới đây là các điểm chính của thỏa thuận mới được liệt kê trong bài viết chính thức của Microsoft:

· Microsoft vẫn là đối tác đám mây chính của OpenAI; Sản phẩm của OpenAI sẽ được ưu tiên phát hành trên Azure, trừ khi Microsoft không thể hỗ trợ hoặc không chọn hỗ trợ khả năng cần thiết tương ứng. OpenAI hiện có khả năng cung cấp toàn bộ sản phẩm của mình thông qua bất kỳ nhà cung cấp dịch vụ đám mây nào.

· Microsoft sẽ tiếp tục nhận được quyền sở hữu trí tuệ liên quan đến mô hình và sản phẩm của OpenAI cho đến năm 2032. Tuy nhiên, quyền sử dụng của Microsoft sẽ không còn độc quyền nữa.

· Microsoft sẽ không còn thanh toán phần trăm doanh thu cho OpenAI.

· Phần trăm doanh thu được thanh toán cho Microsoft từ OpenAI sẽ tiếp tục đến năm 2030, thỏa thuận này không bị ảnh hưởng bởi tiến triển công nghệ của OpenAI, tỷ lệ được duy trì không đổi nhưng có một ngưỡng tối đa.

· Với vai trò là cổ đông chính, Microsoft sẽ tiếp tục tham gia trực tiếp vào sự phát triển của OpenAI.

Tôi nghĩ điều quan trọng nhất là điểm cuối cùng. Trước đây, Azure thực sự có ưu thế cạnh tranh khi là duy nhất có thể cung cấp mô hình OpenAI trên quy mô lớn vô cùng. Nhưng sự độc quyền này cũng hạn chế OpenAI, đặc biệt là khi ngày càng nhiều doanh nghiệp quan tâm nhất định đến việc có thể truy cập mô hình trên nền tảng đám mây đang sử dụng, điều này trở nên rõ rệt hơn. Tôi đã nhiều lần chỉ ra rằng đây chính là một trong những lợi thế cạnh tranh quan trọng của Anthropic. Nói cách khác, quyền độc quyền của Azure thực tế đang làm tổn thương đầu tư của Microsoft vào OpenAI. Xét đến sự phát triển nhanh chóng của Anthropic trong năm nay, Microsoft phải bảo vệ đầu tư này, ngay cả khi điều đó có nghĩa là ưu thế làm nổi bật của Azure sẽ bị suy yếu.

Trong khi đó, rõ ràng OpenAI xem AWS như một cơ hội rất lớn - đủ lớn để họ sẵn lòng từ bỏ một phần doanh thu liên quan đến Azure trong vài năm tới. Kết hợp với điểm trước, điều này cũng làm cho ban lãnh đạo Azure dễ chấp nhận hơn khi mất quyền độc quyền: cuối cùng, sau khi không còn phải thanh toán phần trăm doanh thu cho OpenAI, bảng cân đối của Azure sẽ trở nên hấp dẫn hơn nhiều. OpenAI cũng đã giải phóng Microsoft khỏi điều khoản AGI; hiện tại, bất kể điều gì xảy ra, thỏa thuận giữa hai công ty sẽ tiếp tục đến năm 2032.

Dường như rõ ràng hơn hết bây giờ là, trọng tâm tiếp theo của OpenAI sẽ được đặt vào AWS. Và bằng chứng mạnh nhất chính là chủ đề của cuộc phỏng vấn này: Bedrock Managed Agents được hỗ trợ bởi OpenAI. Cách đơn giản nhất để hiểu về sản phẩm này là coi nó như Codex trong AWS. Khả năng của Codex hoạt động tốt phần lớn là do nó được địa phương hóa, điều này giúp giải quyết tự nhiên nhiều vấn đề phức tạp, đặc biệt là vấn đề an ninh. Tuy nhiên, việc làm cho các agent hoạt động qua các bộ phận và hệ thống trong một tổ chức là một vấn đề hoàn toàn khác. Mục tiêu của sản phẩm này là làm cho việc sử dụng các luồng công việc như vậy dễ dàng hơn đối với những tổ chức mà hầu hết dữ liệu của họ đã được lưu trữ trên AWS.

Xung quanh vấn đề này, trong cuộc phỏng vấn này, chúng ta đã thảo luận về cách mà AWS đã sáng tạo ra cả một danh mục máy chủ đám mây và ảnh hưởng của nó đối với các công ty khởi nghiệp; cũng như thảo luận về sự tương đồng và sự khác biệt giữa trí tuệ nhân tạo và cuộc chuyển đổi về quy mô đó. Tiếp theo, chúng tôi đã nói về Bedrock Managed Agents: nó là gì, và điểm khác biệt giữa nó và sản phẩm AgentCore hiện có của Amazon là gì. Chúng tôi cũng đã nói về Trainium, lý do tại sao việc chip không quá quan trọng đối với phần lớn người dùng AI, và tại sao việc hợp tác là một lựa chọn hợp lý so với sự chú trọng của Google đối với tích hợp toàn diện.

Hãy nhớ rằng tất cả nội dung của Stratechery, bao gồm cả cuộc phỏng vấn, đều có thể nghe qua podcast; hãy nhấp vào liên kết ở đầu email này để thêm Stratechery vào ứng dụng podcast của bạn.

Truy cập cuộc phỏng vấn.

Nội Dung Phỏng Vấn

Cuộc phỏng vấn này đã được chỉnh sửa nhẹ nhàng để nâng cao sự rõ ràng.

OpenAI Gia Nhập AWS, Kết Thúc Thời Đại Độc Quyền của Azure

Ben Thompson (Người dẫn chương trình): Matt Garman, Sam Altman — Matt, chào mừng đến Stratechery; Sam, chào mừng trở lại. Trước đây, tôi đã phỏng vấn Altman vào tháng 10 năm 2025, tháng 3 năm 2025 và tháng 2 năm 2023.

Sam Altman (CEO của OpenAI): Cảm ơn.

Matt Garman (CEO của AWS): Cảm ơn, xin chân thành cảm ơn đã mời tôi.

MC: Matt, đây là lần đầu tiên bạn đến với Stratechery. Thật đáng tiếc, tôi nghĩ sự xuất hiện của Sam sẽ khiến chúng ta không thể tiến hành phần "Giới thiệu khách mời" theo lịch trình thông thường. Hơn nữa, anh ấy chắc chắn cũng không muốn nghe chúng tôi nhớ lại những ngày ở Trường Kinh doanh Kellogg. Tuy nhiên, tôi vẫn rất vui mừng khi mời một cựu sinh viên tham gia trong podcast này.

Matt Garman: Vâng, tôi rất vui khi đến đây. Lần sau tôi có thể quay trở lại, chúng ta có thể trò chuyện sâu hơn.

MC: Điều đó tuyệt vời. Bạn đã tham gia AWS từ thời thực tập, và hiện tại đang chịu trách nhiệm về toàn bộ tổ chức AI trong làn sóng này. Bạn cảm thấy, việc xây dựng doanh nghiệp AI ngày nay so với việc xây dựng doanh nghiệp tính toán phổ quát ban đầu—tạm gọi là vậy—có những điểm giống nhau nào? Và điều nào là thực sự khác biệt?

Matt Garman: Tôi nghĩ điểm giống nhau là, tôi nhìn thấy cùng một sự phấn khích, và cũng nhìn thấy những người xây dựng bên ngoài bắt đầu có thể làm những điều họ chưa từng làm trước đây. Khi chúng tôi bắt đầu với AWS, điều thú vị là, các nhà phát triển đột nhiên có thể truy cập vào cơ sở hạ tầng mà trước đây chỉ có các công ty lớn mới có thể sử dụng. Trước đây, chỉ có những công ty có ngân sách hàng triệu đô la để xây dựng trung tâm dữ liệu mới có thể có khả năng như vậy. Nhưng bây giờ, các nhà phát triển chỉ cần một thẻ tín dụng, và vài đô la, họ có thể triển khai ứng dụng. Điều này mở rộng đáng kể những gì người xây dựng Internet có thể làm.

Ý tưởng của chúng tôi vào thời điểm đó là, mọi người có thể đi xây dựng bất cứ điều gì họ muốn xây dựng. Chúng tôi không điều chỉnh điều họ nên làm. Chúng tôi tin rằng, sự sáng tạo trên toàn thế giới tồn tại; chỉ cần đặt những công cụ mạnh mẽ vào tay họ, họ sẽ tạo ra những thứ thú vị và đáng kinh ngạc.

Tôi nghĩ AI mang lại sức mạnh cho những người xây dựng, ít nhất cũng tương tự như vậy, và có thể là mạnh mẽ hơn. Hãy nghĩ xem hiện tại cái gì đã trở nên khả thi: bạn không cần phải học lập trình mười năm mới có thể xây dựng một ứng dụng; bạn không cần phải có một nhóm lớn hàng trăm người, cũng không cần mất một vài tháng, vài thập kỷ, lại vài tháng nữa để làm điều gì đó. Bạn có thể xây dựng, xây dựng nhanh chóng với một nhóm nhỏ và thực hiện các vòng lặp nhanh chóng. AI đang mở khóa sự đổi mới trong nhiều lĩnh vực trên thế giới. Ở nhiều khía cạnh, điều này giống với những gì diễn ra lúc trước. Thấy được khả năng mà nó mang lại cho cộng đồng khách hàng, thực sự khiến chúng ta rất xúc động.

MC: Tuy nhiên, khi AWS xuất hiện, bạn là người chơi duy nhất, vì vậy bất kỳ lợi ích hoặc hại nào, một một nghĩa nào đó, đều tự nhiên rơi vào phía bạn. Bạn có cảm giác như vậy không: trong thời đại AWS, nhiều thứ liên quan đến tính toán chung—tạo ra tính toán có thể thay thế, linh hoạt, rẻ tiền; nhưng trong lĩnh vực AI, đặc biệt là ở giai đoạn huấn luyện, cách tiếp cận chiến thắng có vẻ giống hơn là một cụm siêu tích hợp rất dọc, mạng lưới cực kỳ tiên tiến, cùng với sự kết hợp cực kỳ chặt chẽ giữa phần cứng và phần mềm. Đối với bạn, điều này có phải là một bất ngờ không? Bởi vì lần này, bạn không bắt đầu từ con số không, và cũng không phải "chúng tôi là những người duy nhất ở đây"; bạn đã có một sự hiểu biết cụ thể về tính toán quy mô lớn trước đây, nhưng ít nhất ở trong vài năm đầu tiên về AI, dường như nó không hoàn toàn đồng điệu.

Matt Garman: Tôi không chắc điều này khác biệt lớn như thế nào đối với chúng tôi. Tôi nghĩ điều thực sự khác biệt là tốc độ triển khai vô cùng nhanh chóng. Tôi nghĩ điều này có thể khiến mọi người đều bất ngờ. Sam, nếu bạn không đồng ý, bạn có thể bổ sung. Nhưng việc mọi người chấp nhận tốc độ của những khả năng này, cũng như việc nắm bắt tốc độ của những khả năng này, tôi nghĩ đã vượt xa sự mong đợi của mọi người.

Điều này khác biệt hoàn toàn so với khi chúng ta bắt đầu làm cloud computing. Lúc đó, chúng ta đã mất rất nhiều thời gian để giải thích tại sao một công ty bán sách lại đến cung cấp khả năng tính toán. Chúng ta đã phải bỏ ra rất nhiều công sức để giải thích cloud computing là gì. Có rất nhiều công việc vất vả trong đó, mà người ta thường hay quên. Nhưng vào năm 2006, không ai mặc định rằng tính toán thế giới sẽ di chuyển lên cloud. Lúc đó có những giải thích khó khăn và công việc thúc đẩy lớn lao.

Người dẫn chương trình: Vậy anh nghĩ bây giờ có cần phải giải thích thêm không? Bởi vì nhiều người ban đầu đều tập trung vào thời đại huấn luyện, trong khi bạn bảo, "Chúng tôi đang suy nghĩ về thời đại lý luận," điều đó sẽ là một cái gì đó khác. Liệu bạn có cần phải tái sử dụng khả năng giải thích đó không?

Matt Garman: Có, cần phải, nhưng tốc độ mà mọi người hiểu những gì bạn đang nói đã hoàn toàn khác biệt. Vì vậy tôi nghĩ, đúng vậy, khi bạn muốn dẫn mọi người từ "cái này trông khá chất" đến "nó thực sự có thể hoàn thành công việc trong doanh nghiệp của bạn," thì thực sự cần một quá trình giáo dục. Nhưng từ quan điểm về tốc độ tiến hóa công nghệ, quá trình này đã diễn ra khá nhanh chóng.

Người dẫn chương trình: Tôi đảm bảo, chúng ta sẽ sớm chuyển sang chủ đề sản phẩm của ngày hôm nay. Tuy nhiên, Sam, từ góc nhìn của hệ sinh thái khởi nghiệp, nếu nhìn lại, rõ ràng AWS đã làm thay đổi cách mạng, nó hoàn toàn thay đổi ngưỡng của khởi nghiệp. Bất kỳ ai cũng có thể bắt đầu khởi nghiệp bây giờ. Vòng gieo giống, nhà đầu tư thiên thần cũng xuất hiện, ngưỡng tài trợ đã bị đẩy lùi. Bạn không cần viết "chúng tôi muốn mua máy chủ" trong bài thuyết trình, bạn có thể tạo ra ứng dụng trước, rồi sau đó mới đi gieo vòng A hoặc các vòng tiếp theo.

Vậy từ góc nhìn của bạn, thế giới do AWS mở ra ở thời điểm đó, và thế giới do AI mở ra ngày nay, khác biệt như thế nào? Và những điểm giống nhau là gì?

Sam Altman: Tôi nghĩ, trong lịch sử, đã có bốn lần cơ hội quan trọng của nền tảng đã định trước cho các công ty khởi nghiệp: Internet, Cloud, Mobile, cùng với AI. Trong bốn thời điểm đó, thời điểm đầu tiên mà tôi như một người trưởng thành đã trải qua là Cloud. Ở giai đoạn đầu của YC, không thể phóng đại đủ về cách mà nó đã thay đổi cho các công ty khởi nghiệp.

Trước đó, các công ty khởi nghiệp phải thuê không gian máy chủ lưu trữ, tự lắp ráp máy chủ, đưa thiết bị vào trong đó. Điều này là một việc cực kỳ phức tạp, và bạn phải gieo đầu tốn rất nhiều tiền. Rồi đột nhiên, cloud xuất hiện. Mặc dù cloud đã xuất hiện sau khi YC được thành lập, có lẽ là sau khi YC được thành lập một năm.

主持人：Tôi đang muốn hỏi về điều này - cuối cùng, theo bạn, YC và đám mây có phải là mối liên kết không thể tách rời hơn so với những gì bạn đã nhận ra lúc đó không?

Sam Altman: Lúc đó chúng tôi cảm thấy chúng rất chặt chẽ liên kết với nhau. Chúng tôi cảm thấy YC từ đầu đã đang đi cùng làn sóng đám mây, vì trước AWS cũng đã có một số ví dụ về dịch vụ đám mây sớm.

主持人: Nếu AWS không tồn tại, thì việc khởi đầu một startup thực sự tốn ít vốn hơn so với trước đây.

Sam Altman: Đó là một sự thay đổi lớn về sức mạnh, đó cũng là lý do tại sao YC nghe có vẻ điên rồ như vậy vào lúc đó. Mọi người thường nói, "Không thể đầu tư vào một startup với vài chục nghìn đô la, điều đó hoàn toàn không thể, chỉ chi phí server đã vượt qua con số đó." Vì vậy, điều này thay đổi toàn bộ những gì mà một startup có thể hoàn thành với một lượng vốn nhỏ.

Thường thì, khi có một lần chuyển đổi nền tảng lớn và bạn có thể làm việc với chu kỳ nhanh hơn, ít vốn hơn so với trước đây, các startup sẽ chiến thắng. Đây là cách cổ điển mà các startup đánh bại các công ty lớn. Trong giai đoạn đầu của sự nghiệp của tôi, tôi đã trực tiếp chứng kiến ​​sự thay đổi do đám mây mang lại. Bây giờ khi nhìn vào các công ty xây dựng sản phẩm dựa trên trí tuệ nhân tạo, hướng đi thực sự rất giống. Nhưng như Matt nói, tốc độ lần này thật sự điên rồ.

主持人: Có phải có trường hợp như vậy: tốc độ các công ty lớn hiện có, những kẻ lớn trong ngành này, triển khai trí tuệ nhân tạo nhanh hơn đáng kể so với việc triển khai đám mây vào ngày xưa không?

Sam Altman: Đương nhiên có nhiều trường hợp như vậy. Nhưng khi tôi nói, tôi cũng bao gồm tốc độ tăng trưởng doanh thu của các startup. Gần đây tôi đã diễn thuyết tại YC, và cuối cùng tôi đã hỏi: "Khi một công ty tốt ra khỏi YC bây giờ, mọi người mong đợi doanh thu của nó là bao nhiêu?" Họ nói: "Câu trả lời này thay đổi hàng tháng. Có thể trong cùng một kỳ YC, vào đầu và cuối batch, câu trả lời sẽ khác nhau." Trước đây chưa từng xảy ra điều này. Mọi người xây dựng kinh doanh quy mô trên nền tảng mới này với tốc độ chưa từng thấy trước đây.

主持人: Matt, suốt thời kỳ của đám mây, AWS về cơ bản là đám mây ưa thích của tất cả các startup, điều này mang lại lợi thế lớn cho bạn. Vậy hôm nay, điều gì khiến bạn vẫn là đám mây ưa thích? Bởi vì bây giờ có nhiều người đang xây dựng sản phẩm trên OpenAI API; hay bạn cảm thấy rằng, "Chúng tôi đến từ một góc độ rất khác khi bước vào thị trường này. Chúng tôi có một cơ sở khách hàng hiện có lớn, họ đều yêu cầu chúng tôi cung cấp khả năng trí tuệ nhân tạo, nhưng đối với cả lượng công ty khởi nghiệp toàn cầu mà Sam đề cập, khả năng nhìn thấy của chúng tôi không cao như vậy"?

Matt Garman: Tôi nghĩ rằng có một số khía cạnh ở đây. Thứ nhất, chúng tôi rất hào hứng với cơ hội hợp tác này, và tôi tin rằng nó sẽ mang ý nghĩa quan trọng đối với nhiều công ty khởi nghiệp. Tuy nhiên, ngay cả ngày nay, nếu bạn nói chuyện với các công ty khởi nghiệp đang mở rộng, hầu hết các công ty khởi nghiệp đó vẫn đang mở rộng trên cơ sở AWS, có nhiều lý do đằng sau điều này. Quy mô đã có ở đó, tính sẵn có đã có ở đó, an ninh đã có ở đó, đáng tin cậy đã có ở đó, hệ sinh thái đối tác ISV khác cũng ở trên AWS, và khách hàng cũng ở trên AWS.

Người dẫn chương trình: (cười) Dù muốn hay không, mọi người đều đã sử dụng Bảng điều khiển AWS, vì vậy họ cũng đã quen rồi.

Matt Garman: Và chúng tôi sẽ giúp họ. Chúng tôi đã dành rất nhiều thời gian để trao quyền cho các công ty khởi nghiệp, không chỉ là cung cấp tín dụng, mà còn bao gồm việc hướng dẫn họ cách xây dựng hệ thống, cách suy nghĩ về go-to-market, và nhiều điều tương tự khác. Tôi nghĩ rằng nhiều công ty khởi nghiệp đánh giá cao điều này. Chúng tôi đã bỏ ra rất nhiều thời gian và nỗ lực để đảm bảo điều này, vì chúng tôi tin rằng thật sự, các công ty khởi nghiệp là động mạch sống của AWS. Từ đầu đến nay, như Sam đã nói, đúng như vậy, và ngày nay vẫn vậy. Bây giờ tôi vẫn thường xuyên đến thung lũng Silicon hoặc nơi khác, trực tiếp gặp gỡ các công ty khởi nghiệp, lắng nghe họ đang làm gì, xác nhận những gì chúng tôi đang xây dựng có thể thực sự đáp ứng nhu cầu của họ.

Vì vậy, sự cạnh tranh để thu hút sự chú ý của các công ty khởi nghiệp ngày nay thực sự nhiều hơn so với 20 năm trước. Nhưng điều này vẫn quan trọng như trước với chúng tôi. Chúng tôi đã bỏ ra rất nhiều thời gian để đảm bảo rằng chúng tôi có thể đáp ứng nhu cầu của những công ty khởi nghiệp đó.

Người dẫn chương trình: Có thể nói như vậy không? Những người xây dựng sản phẩm trực tiếp dựa trên OpenAI API, thay vì sử dụng dịch vụ OpenAI phiên bản Azure, có thể sẽ chọn một bộ công nghệ như thế này: tính toán thông thường đặt trên AWS, và phần AI sử dụng OpenAI?

Matt Garman: Tôi nghĩ rằng đây là một mô hình rất phổ biến trong nhiều công ty khởi nghiệp ngày nay, chính xác như vậy.

Bedrock Managed Agents: Mang AI Agent vào luồng công việc doanh nghiệp

Người dẫn chương trình: Điều này đưa chúng ta đến thông báo hôm nay: Bedrock Managed Agents được hỗ trợ bởi OpenAI. Tôi nghĩ tôi không nói sai. Theo như tôi hiểu, điểm bán hàng của sản phẩm này không chỉ là mô hình OpenAI có thể được sử dụng trên AWS — tôi nghĩ điều này có lể chưa được phép — mà là mô hình hiện đại của OpenAI đã được đóng gói vào một runtime agent nguyên bản của AWS, bên trong có bao gồm vấn đề về danh tính, quyền hạn, trạng thái nhật ký, quản lý và triển khai. Sam, phát biểu như vậy là chính xác không?

Sam Altman: Vâng, tóm tắt khá tốt.

Người dẫn chương trình: Cảm ơn. Vậy điều này cuối cùng là gì? Bây giờ, hãy giải thích một cách đơn giản được không?

Sam Altman: Tôi nghĩ rằng giai đoạn tiếp theo của trí tuệ nhân tạo, sẽ di chuyển từ việc "bạn đưa cho agent một số văn bản, sau đó nhận lại nhiều văn bản hơn" và thậm chí từ "bạn đưa cho nó một đống mã, sau đó nhận lại nhiều mã hơn", để tiến nhập vào một giai đoạn mới: những agent này sẽ chạy trong công ty, để hoàn thành các loại công việc khác nhau.

"Đồng nghiệp ảo" là cách miêu tả tốt nhất mà tôi từng nghe, nhưng vẫn chưa có ai tìm ra ngôn ngữ chính xác nhất để mô tả nó. Chúng tôi đang cùng nhau xây dựng một sản phẩm mới, giúp các công ty muốn xây dựng những agent trạng thái nhất định như vậy, biến chúng thành hiện thực và cho phép họ sử dụng. Một lần nữa, tôi nghĩ rằng chúng ta vẫn chưa biết thế giới sẽ nói về những agent này như thế nào cuối cùng, và sử dụng chúng như thế nào. Nhưng nếu bạn nhìn vào những gì Codex đang diễn ra, tôi nghĩ đó là một ví dụ tốt, giúp chúng ta thấy được môi trường này sẽ đi đến đâu.

Người dẫn chương trình: Để agent trí tuệ nhân tạo thật sự hoạt động, chỉ có mô hình chưa đủ. Nó cũng cần một hệ thống hỗ trợ đầy đủ: môi trường chạy, các công cụ có thể gọi, trạng thái nhiệm vụ, bộ nhớ, quản lý quyền và đánh giá hiệu suất. Bạn vừa nhấn mạnh từ "trạng thái". Vậy cơ sở hạ tầng ngoài các mô hình này, việc nó có thể hoạt động thực sự phụ thuộc vào mức độ nào?

Sam Altman: Độ quan trọng của nó không thể nào nhấn mạnh đủ. Hiện tại, tôi không còn xem hệ thống hỗ trợ (Harness) và mô hình là hai thứ hoàn toàn có thể tách rời. Theo trải nghiệm sử dụng của chính mình, khi tôi bắt đầu một nhiệm vụ trong Codex, và khi nó hoàn thành một điều tuyệt vời đối với tôi, điều tôi rõ ràng nhất là: Tôi không luôn biết rằng có bao nhiêu công sức nên được truyền vào...

Người dẫn chương trình: Có phải mô hình mạnh, hay là Hệ thống Hỗ trợ (Harness) mạnh?

Sam Altman: Đúng, chính xác như vậy.

Người dẫn chương trình: Vậy việc Hệ thống Hỗ trợ (Harness) được phát triển đến đâu bằng mô hình? Sự hợp nhất này xảy ra ở đâu? Có phải sau quá trình đào tạo không? Hay ở phần gợi ý? Cuối cùng là điều gì làm cho sự hợp nhất này hiệu quả?

Sam Altman: Cả hai đều có. Thực tế đó không phải là một phần của quá trình tiền huấn luyện. Nhưng tôi muốn nói rằng, có một hiện tượng thú vị ở đây: Trong quá khứ, chúng ta đã thấy nhiều lần rằng một số điều mà chúng ta ban đầu nghĩ rằng hoàn toàn có thể tách rời, đang ngày càng được nung chảy sâu hơn vào hệ thống.

Ví dụ như cách chúng ta ban đầu hiểu về việc gọi công cụ. Giờ đây đó đã trở thành một phần quan trọng của việc chúng ta sử dụng các mô hình này, nhưng ở ban đầu, chúng ta không nghĩ rằng nó cần phải được tích hợp sâu vào quá trình huấn luyện. Theo thời gian, chúng ta đã làm nhiều hơn trong lĩnh vực này.

Tôi cũng nghi ngờ rằng, theo thời gian, mô hình và hệ thống bổ trợ sẽ ngày càng hòa mình vào nhau hơn. Hơn nữa, tôi cũng dự đoán rằng quá trình tiền huấn luyện và hậu huấn luyện cuối cùng cũng sẽ hòa mình hơn theo thời gian. Dường như câu nói này nghe có vẻ như một điều đã quá nhàm chán, nhưng tôi vẫn muốn nói, vì tôi nghĩ rằng nó rất, rất thật: chúng ta vẫn đang ở giai đoạn rất sớm của toàn bộ mô hình này. Sự chín chắn thực sự của ngành này có thể tương đương với thời kỳ của Homebrew Computer Club.

Host: Đó cũng là lý do tại sao tôi cảm thấy điều này rất thú vị. Một số tuần trước, tôi đã viết rằng, trong bất kỳ chuỗi giá trị nào, sẽ luôn có một điểm hội tụ, điểm đó rất quan trọng, vì hai phần phải kết hợp với nhau để làm việc. Theo thời gian, rõ ràng nhiều giá trị sẽ lắng đọng vào đó. Lúc đó, quyết định của tôi là, việc hòa nhập hệ thống bổ trợ và mô hình là điểm hội tụ đó. Điều này chắc chắn phù hợp với lợi ích của bạn, nhưng nghe có vẻ như bạn cũng đồng ý với quyết định này.

Sam Altman: Điều này thực sự phù hợp với lợi ích của tôi, và tôi cũng đồng ý. Nhưng tôi muốn nói rộng hơn: Quan trọng thực sự là bạn nhập vào Codex điều bạn muốn xảy ra, và sau đó nó thực sự xảy ra.

Host: Bạn không quan tâm đến chi tiết triển khai.

Sam Altman: Trong quá trình chúng tôi nghiên cứu những vấn đề này, đã có quá nhiều ví dụ như vậy: có những điều từng biện pháp phải được giải quyết ở mức độ dẫn nhập hệ thống, nhưng sau đó không cần nữa. Quan sát tổng thể ở đây là, khi mô hình trở nên thông minh hơn, bạn có cơ hội tự do hơn để hướng chúng theo cách bạn mong muốn. Điều này có vẻ như một câu nói rất rõ ràng, nhưng đúng là...

Host: Để một đứa trẻ 10 tuổi làm việc, thì dễ hơn để một đứa trẻ 5 tuổi làm việc.

Sam Altman: Khi tôi nhớ đến thời đại của GPT-3, những gì chúng ta phải làm để khai thác một chút tính ứng dụng từ những mô hình đó, sau đó nhìn lại hiện tại, bạn hoàn toàn không cần phải làm như vậy nữa, vì mô hình đã có khả năng hiểu và tự động làm việc tốt ngay từ khi mở hộp. Xu hướng này có thể tiếp tục phát triển xa hơn.

Matt Garman: Tôi muốn bổ sung thêm một chút. Tôi hoàn toàn đồng ý với nhận định của Sam. Đồng thời, khi bạn tương tác với khách hàng, họ thực sự rõ ràng về điều họ mong muốn hệ thống này thực hiện. Trước khi chúng tôi hợp tác lần này, khách hàng một phần nào đó buộc phải tự mình ghép các yếu tố này lại với nhau. Họ hy vọng các mô hình và agent có thể ghi nhớ điều gì đó, có thể làm việc hợp tác tốt, có thể tích hợp vào hệ thống hiện có của họ. Và điều này không chỉ là vấn đề của công cụ của bên thứ ba, mà còn bao gồm cả công cụ của họ. Họ muốn những agent này có thể hiểu dữ liệu của riêng họ, ứng dụng của riêng họ và môi trường vận hành của riêng họ. Và vào ngày hôm nay, ít nhất là cho đến lúc này, tất cả công việc tích hợp đó đều cần mỗi khách hàng tự mình thực hiện.

Vì vậy, một phần của việc hợp tác lần này của chúng tôi là cùng nhau xây dựng một loại sản phẩm mới, đặt những yếu tố này gần nhau hơn, giúp khách hàng có thể dễ dàng thực hiện những gì họ muốn thực hiện. Ví dụ, khả năng xác thực đã được tích hợp sẵn vào sản phẩm; khả năng kết nối cơ sở dữ liệu và xác thực cũng sẽ được thực hiện trong AWS VPC của bạn, nghĩa là Virtual Private Cloud. Nếu chỉ có API OpenAI ở một bên, AWS ở một bên khác, lý thuyết thì những việc này cũng có thể thực hiện. Nhưng thông qua việc xây dựng chung điều này, chúng tôi giúp khách hàng thực hiện giá trị nhanh hơn, dễ dàng hơn và hoàn thành những gì họ muốn thực hiện trong môi trường doanh nghiệp của họ.

Người dẫn chương trình: Vậy ý của bạn là, trong một hệ thống Harness chung, cũng có thể xây dựng một agent có thể chạy được, nhưng khó khăn hơn nhiều? Bạn đang làm cho nó trở nên dễ dàng hơn? Hay là, nếu những thứ này không được liên kết với nhau, một số điều thực sự không thể thực hiện sao?

Sam Altman: Trở lại ví dụ trước của bạn, trước khi có AWS, nếu bạn muốn đứng trong phòng máy, mua một đống server, tìm ra cách kết nối chúng với nhau, sau đó thuê một kỹ sư mạng của riêng bạn, bạn thực sự có thể làm nhiều việc. Bạn có thể làm cho nhiều điều xảy ra. Sau đó đột nhiên, bạn chỉ cần đăng nhập vào bảng điều khiển AWS, nhấp chuột vào "Tôi cần một phiên bản S3 khác" và các thứ tương tự, bạn có thể làm nhiều việc hơn, bởi vì công việc cơ bản để bắt đầu và khởi chạy đã giảm đáng kể.

Hôm nay, bạn dĩ nhiên cũng có thể sử dụng mô hình để làm nhiều việc. Nhưng mỗi khi tôi thấy ai đó sử dụng mô hình của chúng tôi, hoặc cố gắng xây dựng các luồng công việc mà Matt đã nhắc đến, tôi cảm thấy mâu thuẫn. Một khía cạnh, tôi rất vui khi họ cho rằng các mô hình này ấn tượng, coi đó là một loại công nghệ kỳ diệu; mặt khác, tôi cũng sắp điên điên vì họ phải trải qua quá nhiều đau khổ và khốn khó để thực sự làm cho mọi thứ chạy.

Điều này không chỉ đối với những người phát triển xây dựng các sản phẩm này. Ngay cả khi chỉ sử dụng ChatGPT, tôi thấy mọi người sao chép và dán từ đây sang đó, cố gắng tổ chức một tập hợp phức tạp của câu nhắc, tôi cũng biết rằng những điều này sẽ biến mất, và điều này khiến tôi rất hứng thú. Hiện tại mọi thứ vẫn quá sớm và quá tệ.

Người dẫn chương trình: Chỉ cần bạn đừng hủy tính năng tích hợp với BBEdit. Đó là một trong những tính năng yêu thích của tôi trên ứng dụng ChatGPT, không có gì sánh kịp.

Chú thích: BBEdit là một trình soạn thảo văn bản và mã nguồn trên macOS được đề cập ở đây. Người dẫn chương trình ở đây đang nói một cách nửa đùa, rằng trong tương lai, AI agent sẽ giảm việc sao chép dán và thao tác thủ công, nhưng anh ấy vẫn muốn ChatGPT giữ tính năng liên kết với trình soạn thảo local.

Sam Altman: Được.

Người dẫn chương trình: (cười) Cảm ơn.

Sam Altman: Thứ nhất, hiện tại việc làm những điều này quả thực quá khó khăn. Chúng tôi tin rằng, nếu làm cho việc này dễ dàng hơn nhiều, nó sẽ mang lại giá trị lớn hơn cho người phát triển và doanh nghiệp. Thứ hai, rất nhiều điều hiện tại hoàn toàn không thể chạy đáng tin cậy. Tôi tin rằng, thông qua sự hợp tác lần này của chúng ta, nó sẽ không chỉ là một câu chuyện về tính dễ sử dụng, không chỉ là vấn đề "không cần phải tự cài đặt colo" chẳng hạn. Chúng ta cũng sẽ cùng nhau khám phá ra rất nhiều điều mới, giúp mọi người có thể xây dựng những sản phẩm và dịch vụ mà trước đây ngay cả khi trải qua nhiều cảm giác đau đớn và nhọc nhằn cũng không thể tạo ra được.

Điều thật sự khó khăn với Enterprise Agent, đó là quyền hạn, dữ liệu và bảo mật

Người dẫn chương trình: Sau này, tôi muốn quay lại điểm "có thứ gì có thể xây dựng". Nhưng trước tiên, hay quay lại chút về Codex. Codex là một Hệ thống Kết hợp (Harness) và Mô hình, và nó chạy local. Tại sao hiện nay làm cho các agent làm việc local dễ hơn?

Sam Altman: Thực ra, ban đầu chúng tôi đã cho nó chạy trên cloud. Tôi nghĩ cuối cùng bạn thực sự muốn nó chạy trên cloud.

Người dẫn chương trình: Tất nhiên. Tôi chỉ đang theo dõi con đường chuyển đổi sang sản phẩm cloud này. Nhưng tại sao bạn quay trở lại local?

Sam Altman: Bởi vì môi trường toàn bộ của bạn đều ở đó. Máy tính của bạn đã được thiết lập, dữ liệu của bạn cũng ở đó, bạn không cần phải suy nghĩ nhiều vấn đề. Mặc dù đó không phải là trạng thái cuối cùng, nhưng nó thực sự dễ dàng hơn để chạy được.

Tuy nhiên, việc bước vào một thế giới thực sự chạy trên điểm cuối ẩn (agents) sẽ rất tuyệt vời. Ví dụ, khi bạn có một nhiệm vụ rất cường độ hoặc bạn cần tắt máy tính hoặc trong các tình huống khác, bạn có thể để công việc tiếp tục được xử lý trên điểm cuối. Hướng đi này đương nhiên sẽ rất tuyệt vời. Tuy nhiên, trong tương lai ngắn hạn, rõ ràng sự tiện lợi mà chúng tôi có thể cung cấp, việc sử dụng môi trường cục bộ của người dùng vẫn chiếm ưu thế.

Người dẫn chương trình: Tôi có một cách hiểu: Mô hình an ninh trước đây giống như mô hình "lâu đài và hào", trong khi bây giờ bạn đang chuyển sang một mô hình an ninh không tin tưởng mới, mọi thứ đều cần có cấu trúc quyền hạn phù hợp, cơ chế xác thực, và tất cả các chi tiết này. Đối với tôi, việc chạy cục bộ một cách nào đó giống như là một cách tự áp đặt của "lâu đài và hào": tất cả mọi thứ đều trên địa phương, tôi giả định chúng không vấn đề, và xử lý rất dễ dàng.

Và tôi hiểu một cách nào đó về sản phẩm này là, để mọi phần này thực sự hoạt động trong môi trường sản xuất, bạn không thể đặt hết tất cả trong môi trường cục bộ. Bạn phải chạy từ đầu trong môi trường này. Matt, bạn nghĩ sao về tuyên bố này?

Matt Garman: Tôi không nghĩ rằng bất kỳ môi trường tính toán nào có thể thật sự không cần điểm cuối. Chạy cục bộ thực sự có lợi ích. Lý do mà hầu hết các ứng dụng iPhone của bạn cũng có các thành phần cục bộ là vì có lý do, cho dù đó là kết nối, độ trễ, tính toán cục bộ, hoặc quyền truy cập vào tệp và ứng dụng.

Điểm cuối cục bộ thực sự có những đặc tính riêng của nó. Như Sam đã nói, nó đơn giản, hoạt động tốt, nhưng nó cũng bị giới hạn, có ranh giới. Bạn không thể mở rộng máy tính xách tay cục bộ của mình, bạn có những gì là những gì. Khi bạn bước vào tình huống doanh nghiệp, chẳng hạn như chia sẻ giữa hai người, mọi thứ sẽ trở nên khó khăn hơn; cần phải suy nghĩ về quyền hạn, ranh giới an toàn, cũng sẽ trở nên khó khăn hơn.

Vì vậy, có nhiều phần ở đây. Tôi không nói rằng môi trường cục bộ là một thứ xấu, nó chỉ là một cái khác. Tôi nghĩ, cuối cùng bạn sẽ muốn xây cầu giữa môi trường cục bộ và đám mây.

Người dẫn chương trình: Đó chính là vấn đề của tôi. Trong thời đại đám mây có container, giúp bạn kéo gần môi trường cục bộ và môi trường sản xuất. Nhưng trong tình huống của điểm cuối, nghe có vẻ như nếu bạn muốn xử lý điểm cuối, giống như bạn vừa nói, nó giống như một đồng nghiệp ảo, hoặc tương tự. Nếu chúng có danh tính riêng, quyền truy cập riêng, và tất cả những điều này, thì ngay cả việc xây dựng chúng, bạn cũng cần phải ở trong môi trường đúng mà hệ thống cuối cùng sẽ triển khai chúng. Dựa vào nhìn nhận của tôi, dường như là như vậy.

Sam Altman: Tôi nghĩ rằng còn quá nhiều thứ phải làm sáng tỏ ở đây. Ví dụ, nếu bạn là một nhân viên của một công ty, khi bạn sử dụng một dịch vụ nào đó, liệu liệu bạn có nên chỉ có một tài khoản duy nhất không? Sau đó, liệu điểm cuối của bạn cũng nên sử dụng tài khoản của bạn không? Hay điểm cuối của bạn nên sử dụng một tài khoản khác, để máy chủ có thể phân biệt rõ đó là ai?

主持人：Hoặc, nếu bạn muốn nhiều agents hơn?

Sam Altman: Đúng rồi. Tôi nghi ngờ điều chúng ta thực sự cần là một thứ mà chúng ta chưa nghĩ ra. Có lẽ khi agent của Ben đăng nhập với danh tính của Ben, nó sẽ sử dụng tài khoản của Ben, nhưng sẽ đánh dấu mình là một agent, chứ không phải là Ben thực sự. Chúng ta thậm chí chưa có một khái niệm cơ bản để suy nghĩ về vấn đề này, nhưng chúng ta có thể sẽ cần phải hiểu rõ sớm.

Và cảm giác của tôi là, sẽ còn khoảng 50 vấn đề tương tự khác. Khi các agent tham gia vào lực lượng lao động và hoạt động với tự chủ và độ phức tạp công việc ngày càng tăng, rất nhiều mô hình tư duy của chúng ta về cách hoạt động của phần mềm, nội bộ công ty và cách hoạt động về kiểm soát truy cập và quyền hạn trong Internet rộng lớn, tất cả đều cần phải phát triển.

主持人：Matt, ý kiến của bạn về vấn đề an ninh, chiến lược truy cập và các vấn đề tương tự liên quan đến agents thế nào?

Matt Garman: Vâng, tôi thực sự tin rằng, khi bạn di chuyển nhiều khối lượng công việc như vậy lên đám mây, là một tổ chức tập trung, bạn có thể thiết lập nhiều kiểm soát hơn về phần liên quan đến an ninh. Chúng tôi luôn tương tác với khách hàng, và đúng là đây là điều họ lo lắng. Họ sẽ nói: "Tôi thích những mô hình mạnh mẽ và triển vọng mà các agent có thể mang lại, nhưng làm thế nào để đảm bảo rằng tôi không gây ra một sự kiện có thể chấm dứt công ty?"

Sự lo lắng này là thực sự có thật.

Tôi nghĩ chúng tôi có thể hỗ trợ trong điều này, vì những vấn đề này có thể được giải quyết. Đúng rồi. Tôi nghĩ, chúng ta có thể mang lại niềm tin cho khách hàng: ví dụ như "Nó chạy trong VPC này", vậy bạn ít nhất cũng có thể kiểm soát biên giới này, bạn biết nó có thể truy cập gì; hoặc thông qua một gateway nào đó, bạn có thể gán cho nó một vai trò, giống như bạn gán một vai trò cho một phần khác trong môi trường của bạn.

Tất cả đều là khả năng mà chúng tôi đã xây dựng trong suốt 20 năm qua. Chúng tôi đã xây dựng rất nhiều khả năng xung quanh cơ sở dữ liệu này, không chỉ để các công ty khởi nghiệp của Y Combinator có thể sử dụng AWS, mà còn để ngân hàng trên toàn cầu, tổ chức y tế, và các cơ quan chính phủ trên khắp thế giới đều có thể sử dụng AWS. Cơ sở an ninh toàn diện xây dựng xung quanh AWS, tôi nghĩ có thể giúp chúng tôi tiếp tục tăng tốc việc khách hàng tận dụng công nghệ này, đồng thời cung cấp hàng rào an ninh cần thiết cho họ để hành động nhanh chóng.

Đôi khi, trong một công ty, đặc biệt là ở những ngành nghề có xu hướng tránh rủi ro mạnh, nếu bạn có những hàng rào an ninh này, cho họ biết: "Chỉ cần nó chạy trong hộp cát này, tôi sẵn lòng tiến triển nhanh chóng", thực tế là có thể giúp nhiều khách hàng bắt đầu sử dụng công nghệ này cho các tình huống rộng lớn hơn.

MC: Bạn vừa đề cập đến nhiều khả năng, những khả năng này AWS đã xây dựng trong suốt 20 năm qua, và hiện tại bạn đang cố gắng áp dụng chúng vào các agent. Những khả năng này hiện đã được tiết lộ thông qua AgentCore. Vậy, mối quan hệ giữa Bedrock Managed Agents được hỗ trợ bởi OpenAI và Bedrock AgentCore là gì?

Chú thích: AgentCore có thể hiểu là bộ công cụ cấp doanh nghiệp mà AWS đã chuẩn bị cho phát triển AI agent. Bạn có thể hiểu mối quan hệ giữa hai cái này như sau: AgentCore = Các khối xây dựng cơ bản; Bedrock Managed Agents = Giải pháp hoàn chỉnh được AWS và OpenAI kết hợp

Matt Garman: Nhiều thứ mà chúng ta xây dựng cùng nhau dựa trên những khối xây dựng của AgentCore, kết hợp các phần đó lại với nhau.

MC: Vậy nó có vẻ như là một siêu tập hợp nằm trên AgentCore đúng không?

Matt Garman: Đội ngũ AWS và đội ngũ OpenAI đã sử dụng các thành phần của AgentCore, kết hợp với mô hình của OpenAI và nhiều phần khác nhau, cùng nhau xây dựng sản phẩm này.

AgentCore có thể hiểu là một bộ các khối xây dựng cơ bản mà chúng tôi cung cấp. Giống như trên AWS, nếu bạn muốn xây dựng luồng làm việc của agent, bạn có thể trực tiếp sử dụng các khối đó: chẳng hạn như thành phần bộ nhớ, môi trường thực thi an toàn, khả năng quản lý quyền hạn, v.v. Bạn có thể tự cấu hình các khả năng này và kết hợp chúng lại với nhau để tạo ra hệ thống agent phù hợp với doanh nghiệp của mình. Hiện nay đã có khách hàng triển khai những khả năng này trong môi trường sản xuất và họ đã tạo ra nhiều ứng dụng tuyệt vời.

MC: Nhưng họ không sử dụng OpenAI, phải không?

Matt Garman: Nhưng họ không sử dụng OpenAI. Đúng vậy họ phải sử dụng các mô hình khác vào ngày hôm nay. Thực ra, không, điều này cũng không hoàn toàn đúng. Chúng ta thực sự có người đang sử dụng OpenAI để thực hiện điều này.

MC: À, chỉ là gọi mô hình trên đám mây khác, hoặc tương tự.

Matt Garman: Họ đang trực tiếp gọi mô hình của OpenAI. Vì vậy, hôm nay thực sự đã có người sử dụng OpenAI để làm điều này, chỉ là họ không sử dụng theo cách tự nhiên của Bedrock bên trong, nhưng họ vẫn đang sử dụng nó. Đây là một hệ sinh thái mở, bạn có thể tận dụng các khả năng khác nhau để xây dựng bất kỳ thứ gì bạn muốn xây dựng. Tôi đảm bảo rằng mọi người sẽ tiếp tục làm như vậy.

Bên ngoài có một số người xây dựng rất thích — mượn phép so sánh của Sam — ngay cả khi đã không cần thiết ngày nay, họ vẫn thích tự mình lắp ráp máy tính tại nhà. Mọi người thích xây dựng. Chúng tôi tin rằng, trong một khoảng thời gian dài, mọi người sẽ tiếp tục xây dựng các agents của họ. Nhưng phần lớn mọi người sẽ muốn có một cách tiếp cận đơn giản hơn, họ không muốn tự cấu hình tất cả các phần đó. Đó chính là một trong những thứ chúng tôi giới thiệu trong lần hợp tác này.

Người dẫn chương trình: Tôi muốn phân biệt rõ hơn điều này. Bedrock Managed Agents là một dịch vụ được quản lý; nhưng người dùng cũng có thể sử dụng AgentCore, tự mình kết nối với các mô hình khác nhau, dù mô hình đó có trên AWS hay trên các nền tảng đám mây khác. Sam, đây có phải là sự khác biệt giữa điều này và hình thức của OpenAI trên Azure không? Nói một cách đơn giản, trên Azure, người dùng chủ yếu truy cập trực tiếp vào API của OpenAI; trong khi trên Amazon, đây là một dịch vụ agent được quản lý toàn diện hơn. Cách hiểu này đúng không?

Sam Altman: Đúng, phải.

Người dẫn chương trình: Anh có tin tưởng vào điều này không? Nó đã được định rõ ở mức độ và phạm vi nào đó, không gây ra vấn đề trong tương lai?

Sam Altman: Có. Tôi nghĩ sẽ có sự phát triển theo thời gian, nhưng nhìn chung, tôi rất tin tưởng vào cách tiếp cận này ban đầu.

Người dẫn chương trình: Đây có phải sẽ là một sản phẩm độc quyền của AWS không? Hay bạn dự định rằng cũng sẽ cung cấp trải nghiệm sử dụng được quản lý tương tự trên các nền tảng đám mây khác?

Sam Altman: Đúng, chúng tôi sẽ thực hiện điều này độc quyền với Amazon, chúng tôi rất háo hức về điều đó.

Người dẫn chương trình: Mức độ độc quyền này có phần nào do việc, 「Nhìn này, chúng tôi sử dụng toàn bộ API của Amazon, vì vậy dĩ nhiên nó chỉ có trên Amazon」? Hay đó không phải chỉ là 「Chúng tôi sử dụng API của Amazon」 đơn giản, mà là ý tưởng về trải nghiệm sử dụng được quản lý toàn diện chính nó, hiện tại sẽ được đặt trên Amazon?

Sam Altman: Về mặt tinh thần, chúng tôi hy vọng rằng đây sẽ là một nỗ lực chung giữa hai công ty.

MC: Hiểu rồi. Trong bản tường trình, nó đề cập đến một điểm, điều này cũng quay trở lại những gì Matt vừa nói: Lí thuyết bạn có thể gọi các API khác, sau đó tự mình kết hợp tất cả mọi thứ. Nhưng trong trường hợp này, dữ liệu khách hàng sẽ được giữ lại trong AWS. Vậy OpenAI thực sự có thể nhìn thấy gì? Câu này có ý nghĩa gì?

Matt Garman: Đúng vậy. Tất cả sẽ cơ bản được giữ lại trong VPC của bạn, vì vậy dữ liệu sẽ được bảo vệ trong môi trường Bedrock.

Chú thích: VPC là Virtual Private Cloud, có thể hiểu là một "không gian mạng riêng ảo" mà doanh nghiệp đã tạo ra trong AWS.

MC: Hiểu rồi. Sản phẩm này sẽ chạy trên OpenAI model thông qua Bedrock, và những mô hình này sẽ chạy trên Trainium phải không?

Matt Garman: Chúng sẽ chạy thông qua cách khác nhau—một phần sẽ chạy trên Trainium, một phần sẽ chạy trên GPU.

Chú thích: Trainium là vi mạch tăng tốc AI do AWS tự phát triển, được sử dụng để hỗ trợ việc huấn luyện và suy luận mô hình lớn. Tương tự như GPU của NVIDIA, nó là một phần của cơ sở hạ tầng tính toán cơ bản. Đối với khách hàng doanh nghiệp thông thường, họ thường không cần tiếp xúc trực tiếp với Trainium, mà thay vào đó sẽ sử dụng nó gián tiếp thông qua các dịch vụ quản lý như Bedrock.

MC: Điều này chỉ là vấn đề thời gian phải không? Bởi vì tôi nhớ trong thông cáo của các bạn vài tháng trước...

Matt Garman: Một phần là vấn đề thời gian, một phần là vấn đề khả năng. Tôi nghĩ rằng chúng tôi sẽ kết hợp các thành phần khác nhau trong quá trình xây dựng hệ thống chung, sử dụng cơ sở hạ tầng thích hợp cho từng phần. Nhưng theo thời gian, càng nhiều phần sẽ chạy trên Trainium.

Sam Altman: Chúng tôi rất mong chờ để những mô hình này chạy trên Trainium.

Cạnh tranh Nền tảng AI, từ mô hình đến cơ sở hạ tầng

MC: Tôi có thể tưởng tượng. Matt, về Trainium, tôi có một câu hỏi nhanh, cũng là một câu hỏi tổng quát hơn. Hiện tại tôi hiểu Trainium như vậy, tôi muốn xác nhận xem đúng không. Tên Trainium rất không may mắn, vì trong tương lai, điểm quan trọng thực sự của nó sẽ là suy luận. Phần lớn cách thể hiện chính của nó sẽ thông qua các dịch vụ quản lý như Bedrock. Nghĩa là, khách hàng thậm chí không cần biết chính xác họ đang sử dụng nguồn tài nguyên tính toán nào. Cách hiểu này có công bằng không?

Matt Garman: Đầu tiên, tôi muốn chịu trách nhiệm về việc đặt tên tồi cho tất cả dịch vụ của AWS.

MC: Không sao, tôi có một trang web dựa vào truyền miệng gọi là Stratechery, vì vậy tôi hoàn toàn hiểu việc đặt tên tồi này.

Sam Altman: Tôi nghĩ từ Trainium nghe khá chất.

Matt Garman: Thật sự rất chất.

MC: Từ này thật chất, chỉ là cảm thấy nó giống như một con chip logic hơn là một con chip huấn luyện.

Matt Garman: Đúng vậy. Nhưng, không nói về tên, nó hữu ích cho cả huấn luyện và logic. Thực sự, đây là một con chip khiến chúng tôi rất hào hứng. Dù là thế hệ hiện tại hay các phiên bản sau này, chúng tôi tin rằng nó sẽ trở thành một phần lớn của doanh nghiệp, cũng như một động lực quan trọng cho nhiều công việc chúng tôi cùng thực hiện.

Muốn nói thêm, tôi nghĩ bạn sẽ tương tác với nhiều loại con chip tăng tốc như với GPU. Thực tế, hầu hết khách hàng thực ra không tương tác trực tiếp với GPU, trừ khi có thể trong một số trường hợp như đồ họa trên laptop của họ. Nhưng khi bạn tương tác với OpenAI, dù chúng hoạt động dưới GPU, Trainium hay TPU, bạn không phải đang nói chuyện với GPU; khi bạn nói chuyện với Claude, dù nó chạy dưới GPU, Trainium hay TPU, bạn không đang nói chuyện với những con chip đó, bạn đang nói chuyện với giao diện.

Và phần lớn logic bên ngoài được thực hiện bởi một số ít mô hình. Vì vậy, dù là 5, 10, 20 hay 100 mô hình, không phải hàng triệu người đang lập trình trực tiếp cho những con chip này. Tương lai cũng sẽ như vậy vì hệ thống này quá phức tạp, quá lớn. Nếu bạn muốn huấn luyện một mô hình, không có nhiều người có đủ tiền để huấn luyện mô hình, cũng không có nhiều người thực sự có khả năng quản lý chúng. Chúng là những hệ thống rất phức tạp, và khả năng tận dụng giá trị từ cụm máy tính lớn của nhóm OpenAI thật sự đáng kinh ngạc. Nhưng không có nhiều người có đội ngũ như vậy. Cho dù đó là con chip cụ thể nào, tôi nghĩ điều này đều áp dụng cho tất cả các con chip tăng tốc.

Sam Altman: Ben, tôi càng ngày càng cảm thấy rằng, điều chúng tôi làm như một công ty, là trở thành một nhà máy token. Nhưng điều khách hàng thật sự quan tâm là, chúng tôi có thể cung cấp đơn vị thông minh tốt nhất với giá thấp nhất, và có thể giao hàng theo số lượng họ muốn, theo dung lượng họ muốn.

Dẫn Chương Trình: Anh nghĩ rằng chúng ta sẽ tiếp tục duy trì cách định giá hiện tại như vậy không? Nghĩa là, theo định giá theo tokens. Trong tầm nhìn dài hạn, điều này có hợp lý không?

Sam Altman: Không hợp lý. Trên thực tế, mô hình 5.5 mà chúng tôi vừa phát hành chỉ là một ví dụ thú vị. Chi phí mỗi token của nó so với 5.4 cao rất nhiều, nhưng số lượng token cần thiết để hoàn thành cùng một câu trả lời đã giảm đáng kể. Trên thực tế, bạn không quan tâm bao nhiêu token mà câu trả lời này đã tiêu tốn, bạn chỉ muốn công việc được hoàn thành. Bạn chỉ quan tâm đến một giá cả, và khả năng bạn có thể nhận được.

Vậy nên có lẽ khi tôi nói về "nhà máy token" trước đó là sai. Chúng tôi giống như một nhà máy thông minh (intelligence factory), hoặc một cái gì đó tương tự. Chúng tôi muốn cung cấp khả năng "thông minh (intelligence units)" với giá thấp nhất có thể. Cho dù là chạy một mô hình lớn hơn với ít tokens hơn, hoặc một mô hình nhỏ hơn với nhiều tokens; là GPU, Trainium, hay bất kỳ thứ gì khác; hoặc chúng tôi sáng tạo ra bằng bất kỳ cách nào, tôi không nghĩ rằng khách hàng quan tâm đến vấn đề này.

Trên thực tế, họ không bao giờ trực tiếp tiếp xúc với những thứ đó. Khi bạn đưa một thứ gì đó vào Codex, hoặc xây dựng một agant mới trong SRE, tức là Môi trường Thực thi Có trạng thái, bạn không nên phải suy nghĩ về những vấn đề này. Bạn chỉ nên ngạc nhiên vì đã nhận được nhiều thứ với chi phí thấp như vậy.

Dẫn Chương Trình: Việc sử dụng token giảm đi, có phải là do chính mô hình mang lại, hay do Hệ thống Hỗ trợ (Harness) đi kèm không?

Sam Altman: Chủ yếu là do mô hình, và cũng có một chút ảnh hưởng từ Hệ thống Hỗ trợ (Harness).

Dẫn Chương Trình: Hiểu rồi. Matt, nhân tiện, khi tôi hỏi Sam về vấn đề riêng lẻ. Anh có dự định rằng trong tương lai sẽ cung cấp dịch vụ quản lý tương tự cho các mô hình khác không?

Matt Garman: Hiện tại, chúng tôi tập trung vào việc làm điều này với OpenAI. Chúng tôi rất háo hức về những gì mà cả hai bên đang cùng xây dựng. Đối với tương lai xa hơn, đó là một khoảng thời gian rất dài.

Dẫn Chương Trình: "Tương lai xa hơn là một khoảng thời gian rất dài," tôi sẽ để câu trả lời này trước. Không sao, tôi phải hỏi câu hỏi này.

Về khách hàng, tôi cũng còn một câu hỏi. Sam, kết hợp với quan điểm của bạn vừa rồi, tôi cũng muốn nghe ý kiến của hai bạn hàng về vấn đề này. Khi khách hàng thực sự bước vào môi trường sản xuất, trách nhiệm của OpenAI kết thúc ở đâu, trách nhiệm của AWS bắt đầu từ đâu? Theo tôi, nếu tất cả dữ liệu đều nằm trên AWS và dữ liệu vẫn nằm đó, trong khi khách hàng thao tác ở mức cao hơn, thì cuối cùng đó là trách nhiệm của AWS phải không? Về góc độ người tiêu dùng, tôi hiểu đúng không?

Matt Garman: Đúng, tôi nghĩ đó là đúng. Khi bạn cần liên hệ với ai đó, bạn sẽ liên hệ với hỗ trợ AWS để được hỗ trợ. Đó là một phần của môi trường AWS của bạn, là điều bạn đã xây dựng trên AWS. Người đại diện tài khoản AWS của bạn sẽ ở đó để giúp đỡ bạn. Khi chúng tôi xây dựng nó, chúng tôi cũng sẽ mời đồng nghiệp của OpenAI tham gia, giúp bạn hiểu rõ cách tốt nhất để tận dụng sản phẩm này, hoặc xử lý các vấn đề tương tự. Trong một số trường hợp, nếu chúng tôi gặp phải lỗi mà cần sự giúp đỡ của họ để giải quyết, chúng tôi sẽ nâng cấp lên cho họ. Nhưng AWS sẽ là người hỗ trợ trực tiếp mà bạn tương tác.

Người dẫn chương trình: Sam, bạn nghĩ thế nào về quy mô của dự án này so với dịch vụ API hạt nhân của OpenAI?

Sam Altman: Tôi hy vọng nó sẽ rất lớn. Chúng tôi đang cống hiến rất nhiều nỗ lực cho điều này, và cam kết mua rất nhiều sức mạnh tính toán. Tôi tin rằng sẽ có rất nhiều doanh thu đến hỗ trợ mọi thứ này. Một khung tôi ngày càng tin là: khi giá cả đủ thấp, nhu cầu về trí tuệ về cơ bản không có giới hạn.

Người dẫn chương trình: Vì vậy từ góc độ này, nhu cầu của nó rất linh hoạt phải không? Giá giảm, nhu cầu tăng?

Sam Altman: Dĩ nhiên có điều đó. Nhưng để lấy ví dụ khác, nếu bạn giảm giá nước, có lẽ bạn sẽ uống nhiều nước hơn, có lẽ bạn sẽ từ việc tắm một lần mỗi ngày chuyển sang tắm hai lần mỗi ngày, có một số độ đàn hồi. Nhưng đến một mức độ nào đó, bạn sẽ nói: "Bạn biết không? Tôi đã có đủ nước rồi."

Người dẫn chương trình: Và nếu bạn phải có nước, dù giá nó đắt đỏ bạn vẫn sẽ mua.

Sam Altman: Cũng như với các dịch vụ công cộng khác. Nếu điện giá rẻ hơn, bạn chắc chắn sẽ sử dụng nhiều điện hơn. Nhưng nếu bạn coi trí tuệ như một dịch vụ công cộng, tôi không biết có dịch vụ công cộng nào khác khiến tôi nghĩ: "Tôi chỉ muốn có thêm. Chỉ cần giá đủ rẻ, tôi sẽ tiếp tục sử dụng nhiều hơn."

Matt Garman: Điều thú vị là, khả năng tính toán thực ra cũng hoạt động theo cách này. Hãy nghĩ về chi phí của một chu kỳ tính toán ngày nay, so với 30 năm trước không biết rẻ đi bao nhiêu lần, trong khi lượng tính toán được bán ra ngày nay nhiều hơn bất kỳ lúc nào trước đây.

Người dẫn chương trình: Đúng. Ít nhất cho đến khi quy mô rất lớn và chi phí trở nên quan trọng, mọi người thường không thực sự quan tâm tới chi phí tính toán. Tổng thể thì, từ một góc độ chiến lược, mọi người chỉ mặc định họ có khả năng tính toán. Vậy để AI đạt được điểm này, cần phải đi bao xa nữa? Có nghĩa là, mọi người không còn đặt việc “Tôi đã chi bao nhiêu tiền ở đây” lên hàng đầu làm phản ứng đầu tiên.

Sam Altman: Tôi không nghĩ hiện tại đó là phản ứng đầu tiên. Bây giờ có nhiều khách hàng hỏi chúng tôi hơn: “Dù giá có cao đến mức nào, bạn có thể cung cấp thêm cho tôi không? Tôi chỉ cần thêm nhiều dung lượng, tôi sẵn lòng trả thêm tiền.” So với việc tranh giá với chúng tôi, số người đó ít hơn nhiều.

Nhưng tôi thực sự tin rằng, chúng ta sẽ tiếp tục giảm giá mạnh, một cách kỳ diệu. Có lẽ càng chúng ta làm vậy, càng có nhiều tài sản muốn đổ vào lĩnh vực này, ngày càng nhiều hơn, ngày càng nhiều hơn. Nhưng tôi tin rằng, chúng ta sẽ tiếp tục giảm giá đáng kể cho chi phí của trí tuệ hiện tại đang ở mức đó.

Có một điều khiến tôi hơi ngạc nhiên, tôi không biết nó có luôn như vậy không, nhưng ít nhất trong hiện tại, một phần khá lớn trong tổng cầu thị trường tập trung vào các mô hình biên giới tuyệt đối.

Người dẫn chương trình: Đúng, vấn đề này có rất nhiều khía cạnh. Cung cấp dịch vụ cho các mô hình biên giới rất đắt tiền, thực ra mọi người có thể sử dụng phiên bản trước đó. Nhưng ý của bạn là, dù thế nào, mọi người vẫn muốn dùng cái mới nhất?

Sam Altman: Đến nay, là có.

Matt Garman: Tôi nghĩ đây là một dấu hiệu tốt, cho thấy chúng ta còn rất xa mới đạt được trạng thái thật sự mà chúng ta mong muốn, vẫn còn nhiều nhu cầu chưa được đáp ứng. Tôi thực sự nghĩ rằng điều này hơi giống với nhu cầu tính toán 40 năm trước. Lúc đó một chiếc máy tính cực kỳ đắt đỏ, nhưng hiện nay khả năng tính toán trong điện thoại của mỗi người đã vượt xa lên trên, và chúng tôi đã bán được hàng tỷ thiết bị như vậy.

Tôi nghĩ thế giới AI cũng sẽ xảy ra điều tương tự. Ngày nay, mọi người muốn sử dụng mô hình biên giới vì bạn cần nó để làm được rất nhiều công việc hữu ích, và mọi người rất háo hức về khả năng bên ngoài.

Tôi nghĩ theo thời gian, bạn sẽ có một loạt các mô hình xen kẽ. Nói thêm, một số mô hình nhỏ hơn sẽ có thể hoàn thành một số công việc, thậm chí là công việc mà mô hình mới nhất của OpenAI chưa thể làm được. Nhưng chúng sẽ trở nên nhỏ hơn, rẻ hơn, nhanh hơn theo thời gian. Đồng thời, sẽ có những mô hình siêu lớn, cố gắng khám phá cách chữa bệnh ung thư và các vấn đề tương tự.

Tuy nhiên, tôi nghĩ rằng chúng ta vẫn đang ở giai đoạn sơ khai của tiềm năng. Khi bạn thấy được nhiều yêu cầu và tăng trưởng nhanh chóng như vậy ở giai đoạn sơ khai của tiềm năng, tương lai sẽ rất là thú vị.

Người dẫn chương trình: Có phải có một cách tiếp cận cừ khô hơn không? Sam, bạn có một số khách hàng nói rằng, "Chúng tôi muốn sử dụng mô hình OpenAI, nhưng mọi thứ của chúng tôi đều đặt trên AWS, chúng tôi không muốn di chuyển." Matt, phía bạn, là "Xem, mọi thứ của chúng tôi đều đặt trên AWS, bạn có thể mang mô hình OpenAI vào không?" Vì vậy, điều này chỉ đơn giản là đáp ứng nhu cầu đó. Và thực tế đã chứng minh, vì AWS là lớn nhất, nên lượng yêu cầu này ở mức số vô cực. Điều này có phải là câu trả lời đơn giản nhất không? Hay còn một tầng khác ở đây, đó là bạn thực sự nghĩ rằng có thể cung cấp một sản phẩm với sự khác biệt cao và nó sẽ thu hút khách hàng mới cho cả hai bên?

Sam Altman: Chúng tôi rất vui mừng được tiếp xúc với khách hàng của AWS, và rất nhiều người rất thích AWS. Đúng vậy, câu nói đó là đúng.

Matt Garman: Phần này chắc chắn là đúng.

Người dẫn chương trình: (cười) Đúng.

Matt Garman: Ngược lại cũng vậy, khách hàng của chúng tôi cũng rất hào hứng với công nghệ OpenAI.

Sam Altman: Nhưng tôi thực sự nghĩ rằng, chúng ta có thể xây dựng cùng nhau một cái gì đó độc đáo. Tôi hy vọng sau một năm, khi mọi người nhìn lại sự việc này, điều quan trọng nhất mà mọi người sẽ bàn luận không phải là: "Ồ, cuối cùng có thể truy cập vào các mô hình này thông qua AWS." hoặc những câu tương tự. Mà là: "Wow, trước đây chúng tôi không nhận ra sản phẩm mới này quan trọng như thế nào."

Tôi nghĩ rằng, ở mức mô hình, hệ thống kết hợp (Harness) và khả năng, chúng ta đã gần như tiến đến một loại hình tính toán hoàn toàn mới. Nó sẽ khiến cho cảm giác của người ta về những suy nghĩ như "Tôi cần API của mô hình này" trở nên rất khác biệt.

Matt Garman: Tôi hoàn toàn đồng ý, điều này mới là chìa khóa. Phần đầu tiên là tốt, cũng tốt; nhưng phần thứ hai, tôi nghĩ mới là điều khiến cho tất cả chúng ta thực sự phấn khích.

Người dẫn chương trình: Nói đến điều đó, tôi mới nhắc đến, tôi muốn quay trở lại đề tài này. Tôi có một lý thuyết, không nhất thiết đúng, tôi tò mò xem bạn nghĩ gì, đó là về "có gì đó cần được xây dựng tiếp theo". Cụ thể, cuối cùng có thể sẽ xuất hiện một middleware thực sự hoặc tầng trung gian. Trong một tổ chức, sẽ có nhiều loại cơ sở dữ liệu, ứng dụng SaaS khác nhau, cùng với các mảnh dữ liệu khác nhau, chúng lan tỏa trên các hệ thống khác nhau. Phía trên sẽ có một tầng đại lý hoặc hệ thống kết hợp (Harness). Dường như giữa đó cần một số thứ cần được xây dựng. OpenAI Frontier ở một mức độ nào đó đã chạm đến vấn đề này. Điều này có phải là một phần của nó không? Hoặc là đây là điều cần xây dựng trong tương lai? Hoặc có lẽ tôi hoàn toàn sai, chúng ta thực sự không cần điều này?

Sam Altman: Anh nói hoàn toàn đúng, chúng ta thực sự cần một cái gì đó ở đó. Gần đây, khi tôi trao đổi với khách hàng, đặc biệt là các doanh nghiệp lớn, họ đã nói: 「Tôi muốn một môi trường chạy agent nào đó; tôi muốn một tầng quản lý có thể kết nối dữ liệu của tôi với các agent, đồng thời đảm bảo tôi hiểu rõ về việc token đã được sử dụng ở đâu, chưa được sử dụng ở đâu, và có một khả năng giám sát nào đó; tôi cũng muốn một không gian làm việc gì đó」 — hy vọng rằng đó sẽ là Codex — 「tức là một cái gì đó tương tự mà nhân viên của tôi có thể sử dụng.」

Nhóm các điều mà mọi người đang yêu cầu đang trở nên rất nhất quán. Nhưng hiện nay, chúng ta vẫn cần đi xây dựng sản phẩm hoàn thiện thực sự.

Người dẫn chương trình: Nghe có vẻ như cần một tầng lớp agent kép gần như. Một tầng agent dùng để duy trì tầng trung gian, liên tục thâm nhập vào các nguồn dữ liệu khác nhau; tầng agent khác là tầng giao diện người dùng thực sự, nơi mà mọi người tương tác. Điều này có phù hợp với hướng đi chúng ta muốn đi không? Hay tôi nói quá xa?

Sam Altman: Với cả hai điểm đó, tôi đều đồng ý đây có thể là hình dạng thế giới hiện tại có thể thể hiện. Nhưng khi mô hình trở nên thực sự thông minh, tôi không nghĩ rằng chúng ta đã biết chắc hệ thống kiến trúc tương lai sẽ như thế nào.

Hiện tại, trong tầng bạn có thể gọi là tầng agent người dùng này, mọi người thực sự muốn tương tác với nhiều agent. Chúng tôi cho phép bạn xây dựng agent cho điều này, xây dựng agent cho điều kia, chúng có thể trò chuyện với nhau, và như vậy. Sau đó, ở tầng quản lý công ty, mọi người sẽ có các cơ chế kiểm soát đa dạng, giúp trí tuệ nhân tạo khám phá hệ thống tệp của họ.

Người dẫn chương trình: Sau đó vào một thời điểm nào đó, bạn sẽ nhận ra, mình chỉ đang ôm kỷ niệm không lý do. Những điều này thực sự đã nên được hoàn thành trong mô hình.

Sam Altman: Đó chính là những gì tôi muốn nói. Tại một thời điểm nào đó, bạn có thể nói: 「Thực sự, chúng ta đã có một khả năng đáng kinh ngạc, vậy hãy thiết kế lại toàn bộ kiến trúc.」

Matt Garman: Vâng, tôi đồng ý. Tôi nghĩ sẽ có một cái gì đó khác biệt ở đây. Tôi không chắc chúng ta đã biết cái đó là gì ngay bây giờ, nhưng đó cũng là cái đẹp của vấn đề này. Bạn để khách hàng sử dụng, xây dựng, và sau đó bạn có thể học hỏi từ họ, hiểu rõ làm thế nào để làm cho những điều đó trở nên dễ dàng, nhanh chóng, tốt hơn đối với họ.

Người dẫn chương trình: Sam, Đây là lần thứ hai chúng tôi thực hiện cuộc phỏng vấn ra mắt sản phẩm như thế này. Lần trước là với Kevin Scott để nói về New Bing. Khi đó, bạn rất tự tin về mức độ đe dọa mà bạn mang đến cho Google. Bạn nghĩ kết quả sau đó như thế nào?

Lưu ý: Kevin Scott là Giám đốc Công nghệ của Microsoft. New Bing là Sản phẩm tìm kiếm AI của Microsoft được ra mắt vào tháng 2 năm 2023, được hỗ trợ bởi công nghệ của OpenAI, cố gắng nâng cấp tìm kiếm truyền thống từ "trả về liên kết" lên "tạo ra câu trả lời trực tiếp và hỗ trợ hoàn thành nhiệm vụ" theo cách tương tác. Lúc đó, New Bing được coi là một bước thử nghiệm quan trọng của Microsoft sử dụng OpenAI để thách thức sự thống trị tìm kiếm của Google.

Sam Altman: Tôi nghĩ rằng chúng ta đã làm tốt hơn so với dự kiến của tôi. ChatGPT là, theo tôi, sản phẩm tiêu dùng quy mô lớn đầu tiên thực sự sau Facebook.

Người dẫn chương trình: Điều này có phải là câu trả lời không? Nghĩa là, bạn làm tốt hơn so với dự kiến của bạn, nhưng điều này chủ yếu phản ánh ở ChatGPT, chứ không phải trong lĩnh vực khác đúng không?

Sam Altman: Không, tôi nghĩ rằng chúng ta cũng làm tốt trên API, đặc biệt là với Codex. Nhưng đó không phải là điều tôi nghĩ đến lúc đó. Lúc đó, tôi nghĩ rằng có lẽ các giao diện ngôn ngữ mới này sẽ thay đổi cách mọi người tìm kiếm thông tin trên Internet. Và, Google cũng là một công ty tuyệt vời hoàn toàn. Tôi nghĩ rằng, từ sự đa dạng và sâu rộng của những điều họ đã làm, Google vẫn bị đánh giá thấp ở nhiều mặt. Nhưng so sánh, tôi hài lòng với hiệu suất của ChatGPT.

Người dẫn chương trình: Matt, tôi cũng có một câu hỏi tương tự về Google muốn hỏi bạn. Google chỉ vừa ở trên sân khấu tuần này, Thomas Kurian (CEO của Google Cloud) đã nói về việc họ hoàn toàn tích hợp stack công nghệ của họ, từ mô hình đến vi xử lý, sau đó tới lớp agent, tất cả đều tích hợp hoàn toàn. Bạn đã xuất hiện cùng với một giám đốc điều hành của một công ty khác ngày hôm nay, theo định nghĩa, Amazon không phải là một cơ sở hoàn toàn tích hợp bên trong.

Trước đây đã có nhiều người chỉ trích rằng bạn không có một edge model cấp đỉnh. Nhưng bây giờ chúng ta đang bước vào thời đại suy luận, bạn lại quen phục vụ nhiều công ty. Vậy có một trường hợp nào là, vì bạn duy trì một số tính trung lập, mà lại đang ở trong một vị trí tốt hơn không? Điều này có ý định, hay là bạn ngẫu nhiên đã đến một vị trí tốt hơn và trước đó chưa nhận ra nó sẽ trở nên quan trọng như vậy?

Matt Garman: Có một phần là ý định. Kể từ khi chúng tôi bắt đầu AWS, chúng tôi luôn xem đối tác như một phần quan trọng hỗ trợ khách hàng cuối cùng của chúng tôi. Ngay từ đầu, điều này đã là một phần rất quan trọng của chiến lược của chúng tôi: hợp tác sâu rộng với đối tác. Có lẽ khác với một số công ty khác, chúng tôi tin rằng, nếu đối tác thành công, nếu họ đặt cược trên chúng tôi hoặc cùng chúng tôi xây dựng, thì chúng tôi cũng sẽ thành công, điều đó thật tuyệt vời.

Chúng tôi coi đó như việc cùng nhau làm cho chiếc bánh càng lớn, đó chính là chiến thắng. Nhưng điều này không nhất thiết là cách mọi người khác nhìn nhận thế giới. Đôi khi họ có thể nói, "Tôi phải sở hữu tất cả." Điều này cũng không vấn đề gì, đó là một cách nhìn.

Nhưng theo tôi, quyền lựa chọn rất quan trọng. Điều này mới giúp cho sản phẩm tốt nhất được thịnh hành. Tiện đây nói thêm, trong một thế giới như vậy, bạn có thể có sản phẩm first-party, cũng có thể có nhiều sản phẩm third-party. Nhưng quan điểm của chúng tôi là, chúng tôi muốn khách hàng có thể lựa chọn thứ tốt nhất phù hợp với họ. Nếu thứ tốt nhất phù hợp với họ là điều bạn xây dựng, vậy tốt.

Với chúng tôi, nếu thứ tốt nhất là đối tác xây dựng nhưng hoạt động trên nền tảng của chúng tôi, chúng tôi cũng coi đó là chiến thắng, bởi đó chính là điều tốt nhất cho khách hàng. Chúng tôi suy nghĩ như vậy từ lâu, và thực tế đây cũng chính là cách chúng tôi xây dựng nền tảng Bedrock trong thế giới AI. Chúng tôi muốn hỗ trợ một loạt mô hình, hỗ trợ một loạt khả năng. Sự thật vẫn như vậy, từ cơ sở dữ liệu đến nền tảng tính toán, và các thứ khác đều vậy.

Vì vậy tôi nghĩ, đây là một chiến lược có ý thức. Tôi cũng nghĩ, đây là một chiến lược mà khách hàng đánh giá cao, bởi họ thích cách tiếp cận đó. Chúng tôi cũng rất háo hức để tiếp tục tiến lên theo hướng này.

Dẫn Chương Trình: Vâng, rất thú vị. Đây có sự cân bằng giữa phần mềm, nền tảng và cơ sở hạ tầng, mỗi người đều nói rằng họ sẽ phục vụ tất cả mọi người. Nhưng cảm giác là, nếu quay lại thời điểm ban đầu của AWS, nó bắt đầu từ I, cũng chính là Infrastructure. Từ góc nhìn của tôi, điều này gần như cho phép bạn có sự linh hoạt lớn nhất, để bạn có thể gặp gỡ Sam ở giữa. Sam có sức mạnh rất lớn ở S, cũng chính là Software; điều bạn xây dựng cùng nhau là một P, cũng chính là Platform. Tôi nghĩ có thể nói như vậy.

Matt Garman: Chuẩn đúng. Thực sự có những điểm khó khăn. Ví dụ, chúng tôi nói, "Chúng tôi chỉ có một S3," và không có sản phẩm S3 khác, phần này là thật. Vì vậy một số thành phần cốt lõi, giống như bạn nói, ở mức cơ sở hạ tầng, chúng tôi thật sự chú trọng vào những điều chúng tôi xây dựng.

Nhưng khi bạn đi theo tech stack lên trên, tôi nghĩ bộ sưu tập khả năng sẽ trở nên phong phú hơn. Dù sao, tôi không nghĩ bất kỳ công ty nào sẽ sở hữu tất cả ứng dụng. Khi bạn đi theo tech stack xuống, vào tầng mô hình và dịch vụ, số lượng sẽ ít đi; rồi tiếp tục xuống tầng cơ sở hạ tầng, số lượng sẽ ít đi hơn nữa. Và quan điểm của chúng tôi là, chào đón toàn bộ bộ sưu tập đối tác, điều này là tốt cho người dùng cuối của chúng tôi.

Dẫn Chương Trình: Sam, bạn có điều gì muốn nói cuối cùng không?

Sam Altman: Tôi nghĩ Matt nói rất hay. Tôi thực sự tin rằng, thế hệ sản phẩm mới mà các nhà phát triển có thể xây dựng vào lúc này chứa đựng tiềm năng lớn. Xét đến việc chúng ta dự đoán khả năng mô hình sẽ tiến bộ theo một đường cong rất dốc trong năm tới, chúng ta có thể cùng nhau bắt đầu chuyến đi này và nỗ lực xây dựng thực sự một nền tảng để bổ sung sức mạnh cho nó, đây là một thời điểm tốt. Tôi nghĩ mọi người sẽ thích điều đó.

MC: Rất tốt. Matt, Sam, cảm ơn bạn đã đến với Stratechery.

Matt Garman: Tuyệt vời. Cảm ơn đã mời chúng tôi.

Sam Altman: Cảm ơn.

[Link bài gốc]

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia