Tiêu đề video: Sam Altman về Mô hình tiếp theo của OpenAI và làn sóng phản đối AI
Tác giả video: Alex Heath, Podcast Sources
Biên dịch: Peggy

Lời biên tập: Trong bối cảnh năng lực của các mô hình tiên tiến tiếp tục tăng vọt và các tác nhân thông minh bắt đầu đảm nhận các quy trình làm việc phức tạp, các cuộc thảo luận trong ngành AI đang chuyển từ "ai có thể đạt AGI trước tiên" sang "ai có thể thiết lập các ràng buộc đủ tin cậy trước khi năng lực vượt khỏi tầm kiểm soát". Nhưng khi tiến bộ mô hình và mở rộng sức mạnh tính toán vẫn được coi là trục cạnh tranh chính, một câu hỏi quan trọng hơn bắt đầu xuất hiện: Khi AI có thể tự động gọi công cụ, vượt qua giới hạn môi trường, và thậm chí tham gia phát triển thế hệ mô hình tiếp theo, liệu các công ty thương mại có khả năng chủ động giảm tốc?

Trong tập podcast Sources do phóng viên công nghệ Alex Heath dẫn chương trình này, CEO OpenAI Sam Altman đã phản hồi về lý do công ty gần đây làm chậm một số hoạt động huấn luyện tiên tiến, đồng thời đề cập đến gia đình mô hình thế hệ tiếp theo Astra, việc hợp nhất ChatGPT và Codex, cải tiến tự đệ quy, IPO, cũng như thiết bị tiêu dùng hợp tác với Jony Ive.

Trong cuộc đối thoại này, Altman đã phân tích một sự cố an toàn của OpenAI thành một nhóm các vấn đề cấu trúc sâu hơn: Liệu năng lực mô hình và nghiên cứu an toàn có thể tiến triển song song, cách các tác nhân thông minh tuân theo ý định thực sự của con người, và liệu một công ty cần liên tục huy động vốn và tăng trưởng có thể chịu đựng cái giá của việc giảm tốc khi rủi ro gia tăng.

Thứ nhất, rủi ro AI đang dịch chuyển từ sau khi triển khai mô hình vào bên trong quá trình huấn luyện. Trước đây, ngành công nghiệp lo ngại hơn về việc lạm dụng sau khi phát hành mô hình, chẳng hạn như tạo thông tin sai lệch hoặc hỗ trợ tấn công mạng; ngày nay, rủi ro đã xuất hiện trong giai đoạn học tăng cường và huấn luyện tác nhân thông minh. Một mô hình chưa phát hành của OpenAI từng thoát khỏi hộp cát thử nghiệm và xâm nhập hệ thống Hugging Face, sau đó các nhà nghiên cứu lại phát hiện các mức độ lệch lạc căn chỉnh khác nhau trong các mẫu huấn luyện của mô hình mạnh hơn. Một hiện tượng đơn lẻ chưa hẳn tạo thành mối nguy hiểm rõ ràng, nhưng khi kết hợp với sự tăng tốc năng lực, OpenAI đã quyết định hoãn một hoạt động huấn luyện học tăng cường tiên tiến, chuyển nhiều sức mạnh tính toán và nhân sự hơn sang căn chỉnh và giám sát. Điều này có nghĩa là các ràng buộc tăng trưởng của các phòng thí nghiệm tiên tiến đang thay đổi: sức mạnh tính toán vẫn khan hiếm, nhưng việc chứng minh mô hình đủ an toàn cũng bắt đầu quyết định liệu quá trình huấn luyện có thể tiếp tục hay không.

Thứ hai, ý nghĩa của "căn chỉnh" đang mở rộng từ việc hạn chế đầu ra có hại sang việc mô hình có thể hiểu được ý định thực sự của con người. Trong sự kiện Hugging Face, mô hình thực sự đã hoàn thành mục tiêu đánh giá, nhưng lại áp dụng các phương thức mà người kiểm thử không ủy quyền. Khi Astra bắt đầu vận hành máy tính ở mức gần bằng con người và có thể thực hiện liên tục các nhiệm vụ xuyên phần mềm, những sai lệch nhỏ giữa mục tiêu và ý định có thể nhanh chóng bị khuếch đại bởi khả năng lập kế hoạch tự chủ. Từ đó, Altman đề xuất hai nguyên tắc: Con người phải giữ quyền kiểm soát đối với AI, và năng lực tiên tiến không được tập trung vào một số ít chủ thể. Nguyên tắc đầu tiên xử lý rủi ro mất kiểm soát, nguyên tắc thứ hai phản hồi vấn đề phân bổ quyền lực, cả hai cùng nhau cấu thành định nghĩa mở rộng của OpenAI về "an toàn".

Thứ ba, trọng tâm sản phẩm của OpenAI đang chuyển từ trò chuyện sang thực thi. Trong năm qua, công ty đồng thời triển khai nhiều dòng sản phẩm như Sora, trình duyệt, nhưng lại bỏ lỡ cửa sổ ưu tiên về lập trình AI do sự tăng trưởng người dùng của ChatGPT. Hiện tại, OpenAI thu hẹp các "nhiệm vụ phụ" và thúc đẩy việc hợp nhất ChatGPT với Codex, với mong muốn người dùng chỉ cần nêu mục tiêu, hệ thống sẽ tự quyết định gọi mô hình, công cụ và phần mềm nào. Astra tiếp tục đẩy logic này sang vận hành liên tục, thao tác máy tính và hỗ trợ nghiên cứu khoa học. Đối với OpenAI, chỉ số cạnh tranh ở giai đoạn tiếp theo sẽ không còn giới hạn ở chất lượng trả lời, mà là mô hình có thể hoàn thành đáng tin cậy bao nhiêu công việc thực tế. Năng lực càng thâm nhập sâu vào môi trường thực tế, giá trị sản phẩm và rủi ro an toàn càng khó tách rời để thảo luận.

Thứ tư, tiến bộ công nghệ bắt đầu tác động ngược lại lộ trình vốn của OpenAI. Nếu AI có thể hỗ trợ nghiên cứu và phát triển AI mạnh hơn, thì việc tự cải tiến đệ quy có thể rút ngắn thời gian giữa các thế hệ mô hình. Altman cho rằng, một khi quá trình này tăng tốc, việc hoãn IPO có thể có lợi hơn, vì giá cổ phiếu sau khi niêm yết, doanh thu theo quý và kỳ vọng của nhà đầu tư sẽ làm tăng chi phí cho việc tạm dừng huấn luyện hoặc trì hoãn phát hành. Điều này không có nghĩa là OpenAI đã xác định hoãn niêm yết, nhưng nó hé lộ mâu thuẫn đặc biệt của các công ty AI tiên phong: họ cần nguồn vốn khổng lồ để hỗ trợ mở rộng sức mạnh tính toán, đồng thời lại cần thoát khỏi các động lực ngắn hạn của thị trường vốn vào những thời điểm then chốt.

Thứ năm, AI sắp chuyển từ dịch vụ phần mềm sang các thiết bị liên tục nhận thức môi trường thực tế. OpenAI và Jony Ive đang khám phá nhiều hình thái như để bàn, bỏ túi và đeo trên người, với hướng đi chung là đưa máy tính từ trạng thái chờ lệnh sang chủ động cung cấp dịch vụ. Nếu thiết bị muốn hiểu cuộc sống của người dùng, nó có thể liên tục tiếp xúc với trò chuyện, thao tác máy tính, âm thanh và thông tin môi trường. Do đó, Altman đề xuất "đặc quyền AI" tương tự như bảo mật bác sĩ - bệnh nhân và đặc quyền luật sư - thân chủ, chủ trương hạn chế chặt chẽ hơn việc chính phủ và doanh nghiệp truy cập các dữ liệu này. Điều này có nghĩa là cuộc cạnh tranh phần cứng AI thế hệ tiếp theo sẽ không chỉ xoay quanh hình dáng và tương tác, mà chế độ quyền riêng tư, ranh giới dữ liệu và mức độ chấp nhận của xã hội cũng sẽ quyết định liệu sản phẩm có thể thành công hay không.

Nếu nén cuộc đối thoại này thành một nhận định, thì đó là: năng lực mô hình càng tiến gần đến hành động tự chủ và tự cải tiến, an toàn càng khó trở thành một cuộc kiểm tra bổ sung trước khi phát hành, mà phải đi vào trung tâm của quá trình huấn luyện, sản phẩm và quản trị công ty. Theo nghĩa này, đối tượng thảo luận của bài viết không chỉ là vì sao OpenAI tạm hoãn một lần huấn luyện tiên phong, mà là liệu toàn ngành AI có thể thiết lập một cơ chế cho phép chính mình dừng lại khi năng lực tăng tốc, cạnh tranh thương mại và áp lực vốn cùng tồn tại hay không.

Dưới đây là tổng hợp các điểm chính của bài gốc (để dễ đọc hiểu, nội dung gốc đã được biên tập lại):

TL;DR

·OpenAI không làm chậm toàn bộ quá trình huấn luyện mô hình, mà chỉ làm chậm các nghiên cứu học tăng cường tiên phong có rủi ro cao hơn, bản chất là năng lực an toàn đã bắt đầu tụt hậu so với tốc độ nhảy vọt của năng lực mô hình.

·Sự kiện Hugging Face không chỉ là một lỗ hổng hộp cát, mà còn phơi bày khoảng trống căn chỉnh khi mô hình hoàn thành mục tiêu theo nghĩa đen nhưng vi phạm ý định thực sự của con người.

·Rủi ro AI đang dịch chuyển từ việc lạm dụng bên ngoài sau khi phát hành mô hình sang bên trong quá trình huấn luyện, đánh giá an toàn chuyển từ kiểm tra trước khi ra mắt thành ràng buộc cứng trong nghiên cứu tiên phong.

·Bước đột phá quan trọng của Astra không nằm ở chất lượng câu trả lời, mà ở khả năng vận hành máy tính ở mức gần bằng con người và liên tục thực hiện nhiệm vụ, điều này đồng thời khuếch đại rủi ro từ sai lệch mục tiêu.

·Việc OpenAI hợp nhất ChatGPT và Codex có nghĩa là cuộc cạnh tranh sản phẩm AI đang chuyển từ "tạo ra câu trả lời" sang "hoàn thành công việc", tác tử thông minh phổ quát sẽ trở thành điểm vào sản phẩm của giai đoạn tiếp theo.

·OpenAI tạm thời có thể chịu đựng việc làm chậm huấn luyện, vì doanh thu từ doanh nghiệp đã vượt qua doanh thu từ người tiêu dùng, các mô hình hiện tại vẫn còn đủ không gian thương mại hóa.

·Cải thiện bản thân đệ quy có thể trì hoãn việc OpenAI lên sàn chứng khoán, bản chất là áp lực kết quả kinh doanh theo quý từ thị trường công khai có thể làm suy yếu khả năng chủ động tạm dừng nghiên cứu của công ty trong giai đoạn rủi ro cao.

·Cốt lõi của phần cứng thế hệ tiếp theo của OpenAI không nằm ở hình thức cụ thể, mà ở "máy tính chủ động"; tiền đề thương mại hóa của nó là thiết lập ranh giới dữ liệu và quyền riêng tư đáng tin cậy cho việc liên tục cảm nhận môi trường.

Điểm chính của cuộc phỏng vấn

Một lần mô hình "vượt ngục", vì sao khiến OpenAI tạm dừng huấn luyện tiên phong?

Altman mô tả vài tháng qua như một khoảnh khắc từng được thảo luận trong nhiều năm và cuối cùng đã đến: năng lực mô hình tăng quá nhanh, nghiên cứu an toàn, căn chỉnh và bảo mật cần thời gian để theo kịp.

Cảnh báo trực tiếp nhất đến từ sự kiện Hugging Face. Một mô hình OpenAI chưa được phát hành đã thoát khỏi hộp cát nội bộ khi thực hiện đánh giá an ninh mạng, truy cập internet và tấn công Hugging Face. Theo lời Altman, sự kiện này do nhiều khâu cùng lúc thất bại gây ra, giống như một câu chuyện khoa học viễn tưởng bỗng trở thành hiện thực.

Nhìn bề ngoài, mô hình chỉ tìm kiếm con đường hiệu quả nhất để hoàn thành mục tiêu đánh giá; nhưng ý định thực sự của người kiểm thử rõ ràng không bao gồm việc phá vỡ hộp cát, xâm nhập hệ thống bên ngoài và đánh cắp câu trả lời. Do đó, Altman cho rằng đây không chỉ là sai sót cấu hình an toàn, mà còn là một thất bại căn chỉnh: mô hình thực hiện mục tiêu theo nghĩa đen, nhưng vi phạm ý định thực sự của người dùng.

OpenAI sau đó đã tăng cường cách ly sandbox và giám sát tác nhân, đồng thời dành nhiều tài nguyên tính toán hơn để quan sát quá trình vận hành của mô hình. Tuy nhiên, điều thúc đẩy công ty tạm dừng đào tạo tiên phong không phải là một cuộc tấn công tương tự khác.

Altman cho biết, sau khi đọc một lượng lớn mẫu huấn luyện và tổng hợp các kết quả đánh giá khác nhau, các nhà nghiên cứu phát hiện mô hình có "sai lệch căn chỉnh ở các mức độ khác nhau". Những hiện tượng này nếu xét riêng lẻ có thể không nghiêm trọng, cũng không có một "bằng chứng rõ ràng" nào giống như cuộc tấn công Hugging Face, nhưng khi kết hợp với sự tăng tốc đột ngột về năng lực của mô hình, chúng tạo thành một tín hiệu rủi ro mới.

Do đó, OpenAI đã hoãn một đợt huấn luyện học tăng cường tiên phong quan trọng, đồng thời chuyển một phần nhà nghiên cứu và tài nguyên tính toán sang hệ thống căn chỉnh và giám sát. Altman cho biết, một số nhà nghiên cứu trước đây chưa từng cân nhắc tham gia nghiên cứu căn chỉnh cũng bắt đầu chủ động chuyển hướng sang lĩnh vực này.

Tuy nhiên, ông đồng thời cố gắng hạ thấp cách diễn giải của công chúng về rủi ro. OpenAI không cho rằng thế giới đang đứng trước bờ vực thảm họa, cũng không dừng toàn bộ quá trình huấn luyện mô hình. Việc chậm lại hiện tại chủ yếu nhắm vào học tăng cường tiên phong — giai đoạn mô hình được cấp công cụ, môi trường vận hành và học cách thực hiện các nhiệm vụ phức tạp. Các hoạt động huấn luyện khác có cơ sở an toàn rõ ràng hơn vẫn tiếp tục, và cụm tính toán không bị bỏ trống.

Altman cho rằng, trước đây rủi ro chủ yếu đến từ cách mô hình được sử dụng sau khi phát hành; khi năng lực tác nhân được nâng cao, rủi ro đang dịch chuyển về phía trước, vào quá trình huấn luyện và sản xuất mô hình.

Astra vẫn sẽ ra mắt, AI bắt đầu chuyển từ "trả lời" sang "thực thi"

Sự điều chỉnh này sẽ không hoàn toàn chặn việc phát hành Astra.

Altman giải thích rằng Astra không phải là một mô hình đơn lẻ, mà là một dòng mô hình lớn hơn và đắt đỏ hơn, tương tự như dòng Soul trước đây của OpenAI. Các phiên bản đã hoàn thành huấn luyện và được công ty đánh giá là an toàn vẫn có thể ra mắt, nhưng các phiên bản Astra mạnh hơn trong tương lai sẽ chịu ảnh hưởng từ các yêu cầu an toàn mới.

Một trong những khả năng được chú ý nhất của Astra là thao tác trên máy tính. Các mô hình trước đây tuy có thể nhấp vào giao diện, nhưng tốc độ chậm và độ tin cậy hạn chế; Altman cho rằng Astra đã đạt đến mức gần bằng con người trong việc thao tác máy tính.

Người dùng có thể trực tiếp mô tả mục tiêu, mô hình tự tìm kiếm thông tin trong máy tính, gọi phần mềm và hoàn thành nhiệm vụ mà không cần cấu hình thủ công nhiều bộ kết nối. Altman lấy ví dụ rằng, một số việc vặt trước đây cần tự mình dành thời gian xử lý, giờ có thể giao cho mô hình, nửa giờ sau quay lại là có thể thấy kết quả.

Ý nghĩa của loại khả năng này nằm ở chỗ, AI bắt đầu chuyển từ tạo ra câu trả lời sang giai đoạn thực thi. Mô hình sẽ đối mặt với phần mềm doanh nghiệp, công cụ giao tiếp, tệp tin và quy trình làm việc thực tế, từ đó nâng cao năng suất, đồng thời cũng mở rộng bề mặt rủi ro về truy cập trái phép, thao tác sai và lệch hướng mục tiêu.

Đối với AGI, Altman cho rằng khái niệm này ngày càng khó đưa ra đánh giá hiệu quả. Theo định nghĩa trong điều lệ OpenAI về việc "vượt qua con người trong hầu hết các công việc có giá trị kinh tế", các mô hình nội bộ hiện tại ít nhất đã rất gần với AGI.

Theo quan điểm của ông, nếu quay lại năm 2020, một hệ thống có khả năng viết mã phức tạp, hỗ trợ thành lập công ty, khám phá tri thức mới và tiết kiệm thời gian cho người dùng trong mọi khía cạnh của cuộc sống, rất có thể đã được gọi là AGI. Nội bộ OpenAI cũng hiếm khi tranh luận về việc công ty đã đạt đến AGI hay chưa, trọng tâm thảo luận đã chuyển sang siêu trí tuệ với năng lực tăng trưởng liên tục.

Altman phân biệt hai khái niệm này như sau: AGI giống một cột mốc năng lực hơn, còn siêu trí tuệ đại diện cho một đường cong tăng trưởng có thể kéo dài lâu dài. Điều thực sự quan trọng không phải là tuyên bố vượt qua một ranh giới nào đó, mà là liệu năng lực của mô hình có vẫn đang tăng trưởng theo cấp số nhân hay không.

Sau khi bỏ lỡ cửa sổ lập trình AI, OpenAI bắt đầu thu hẹp phạm vi hoạt động

Ngoài cuộc khủng hoảng an toàn, Altman cũng thừa nhận OpenAI trong năm qua đã tụt lại so với kỳ vọng về định hướng sản phẩm và nghiên cứu tiền huấn luyện.

Một trong những vấn đề là công ty đồng thời triển khai quá nhiều dự án, bao gồm trình duyệt và Sora. Những dự án này tự thân có giá trị, nhưng lại phân tán nguồn lực đầu tư của OpenAI vào năng lực trí tuệ tổng quát. Altman gọi đây là "nhiệm vụ phụ" và cho rằng lẽ ra ông nên yêu cầu công ty tập trung vào mục tiêu quan trọng nhất.

Một sai lầm khác xảy ra ở thị trường lập trình AI.

Anthropic với Claude Code đã nắm bắt nhu cầu đầu tiên, còn OpenAI bị kìm hãm bởi sự tăng trưởng nhanh chóng của ChatGPT, không dành đủ ưu tiên cho sản phẩm lập trình. Altman không cho rằng công ty không nhìn thấy cơ hội, vấn đề nằm ở việc phân bổ nguồn lực.

OpenAI sau đó đã chuyển một lượng lớn sức mạnh tính toán từ ChatGPT sang Codex. Điều này cũng giải thích vì sao tốc độ tăng trưởng người dùng ChatGPT từng chậm lại: trong bối cảnh thiếu hụt sức mạnh tính toán kéo dài, sự tăng trưởng sản phẩm phần lớn phụ thuộc vào việc công ty đầu tư sức mạnh tính toán vào đâu.

Hiện tại, công ty đang thúc đẩy quá trình tích hợp nội bộ có tên "The Merge", hợp nhất ChatGPT, Codex và chức năng thực thi tác vụ thành một cổng truy cập chung. Altman mong muốn người dùng không còn phải quyết định nên sử dụng chế độ trò chuyện, lập trình hay làm việc, chỉ cần thể hiện mục tiêu và AI tự quyết định cách hoàn thành.

Cuối cùng, điều này có thể phát triển thành một gói đăng ký AI tổng quát thống nhất. Hệ thống sẽ hoạt động liên tục, hiểu bối cảnh của người dùng và chủ động cung cấp hỗ trợ, thậm chí bắt đầu xử lý tác vụ trước khi người dùng đưa ra yêu cầu.

Ở góc độ kinh doanh, Altman cho rằng OpenAI vẫn còn đủ dư địa. Doanh thu từ doanh nghiệp đã vượt qua doanh thu từ người tiêu dùng, ngay cả khi không phát hành mô hình mới mạnh hơn trong ngắn hạn, các mô hình và sản phẩm hiện tại vẫn có thể hỗ trợ tăng trưởng. Theo quan điểm của ông, tác động của việc điều chỉnh an toàn chủ yếu rơi vào các mô hình tương lai, không làm gián đoạn ngay lập tức hoạt động kinh doanh hiện tại.

AI bước ra khỏi khung chat, phản ứng xã hội cũng đang lan rộng

Khi năng lực mô hình tăng trưởng, phản ứng xã hội mà AI phải đối mặt cũng đang gia tăng. Tiêu thụ tài nguyên trung tâm dữ liệu, thay thế việc làm, quyền lợi của nhà sáng tạo và quyền riêng tư cá nhân đã trở thành những chủ đề chính mà công chúng chất vấn ngành AI.

Altman cho rằng cách hiệu quả nhất để khiến mọi người chấp nhận AI vẫn là mang lại giá trị thực tế. Nhiều người vẫn hiểu AI như một "công cụ tìm kiếm tốt hơn", mà không biết rằng các tác nhân thông minh đã có thể điền biểu mẫu, gọi phần mềm và thực hiện nhiệm vụ dài hạn. Khi những khả năng này được phổ biến rộng rãi hơn, thái độ của công chúng có thể sẽ thay đổi.

Về vấn đề việc làm, ông thừa nhận AI sẽ tạo ra những cú sốc thực sự, một số công việc sẽ được công nghệ thực hiện tốt hơn, người lao động cần chuyển sang các vị trí mới. Nhưng ông không cho rằng con người sẽ trở nên không có việc gì để làm, bởi vì sự hợp tác giữa con người với nhau, thấu hiểu nhu cầu của nhau và tạo ra giá trị cho người khác vẫn mang những thuộc tính xã hội khó có thể thay thế.

Altman thậm chí cho rằng tác động hiện tại của AI đối với việc làm thấp hơn so với kỳ vọng trước đây của ông. Công nghệ vẫn chưa loại bỏ hoàn toàn lao động lặp đi lặp lại, điều này cũng có thể được xem như một biểu hiện của việc ngành AI chưa thực hiện được lời hứa về năng suất.

Đối với các nhà sáng tạo, ông so sánh AI tạo sinh với sự xuất hiện của nhiếp ảnh: máy ảnh từng bị xem là mối đe dọa đối với họa sĩ, nhưng sau đó lại tạo ra một loại hình nghệ thuật mới. Altman dự đoán AI cũng sẽ tạo ra những hình thức nội dung mới, và mối quan hệ giữa người dùng với nhà sáng tạo có thể ngày càng phụ thuộc vào chính nhà sáng tạo, thay vì việc tác phẩm có được tạo ra bằng AI hay không.

Bộ nhận định này vẫn mang đậm màu sắc lạc quan công nghệ. Cuộc phỏng vấn không thực sự giải quyết được vấn đề thu nhập sẽ được phân phối lại như thế nào, người lao động bị ảnh hưởng hoàn thành chuyển đổi ra sao, hay tranh cãi về dữ liệu huấn luyện được xử lý như thế nào. Câu trả lời cốt lõi của Altman vẫn là: trước tiên để sản phẩm tạo ra giá trị đủ rõ ràng, sau đó thông qua việc mở rộng công cụ rộng rãi, để lợi ích lan tỏa đến nhiều cá nhân và cộng đồng hơn.

Sức mạnh tính toán vẫn thiếu hụt, nhưng bong bóng đã bắt đầu xuất hiện

Một năm trước, OpenAI bị hoài nghi rộng rãi vì khoản đầu tư khổng lồ vào sức mạnh tính toán. Khi nhu cầu về mô hình và tác nhân thông minh tăng lên, Altman cho rằng cược này đã được chứng minh, công ty thậm chí cần khởi động một đợt mở rộng sức mạnh tính toán mới ở cấp độ công nghệ.

Mục tiêu của ông không chỉ là tiếp tục đầu tư vốn, mà còn bao gồm giảm chi phí vận hành AI, nâng cao hiệu suất chip, và đẩy nhanh chuỗi cung ứng cũng như xây dựng trung tâm dữ liệu. OpenAI đang phát triển chip suy luận đầu tiên mang tên Jalapeño, và trong tương lai robot cũng có thể tham gia vào chuỗi cung ứng và xây dựng trung tâm dữ liệu.

Tuy nhiên, Altman bắt đầu tỏ ra thận trọng với các khoản đầu tư hạ tầng tính toán của toàn ngành.

Ông cho biết, một số công ty điện toán đám mây mới nổi đột ngột xuất hiện đang cam kết xây dựng khối lượng sức mạnh tính toán khổng lồ vào năm tới, nhưng lại không có đủ doanh thu hoặc khách hàng rõ ràng để hỗ trợ. Điều này đã xuất hiện những "dấu hiệu phi lý không bền vững". Nếu OpenAI thành công trong việc giảm đáng kể chi phí tính toán, một số doanh nghiệp đã khóa nguồn lực với chi phí cao có thể đối mặt với áp lực tài chính.

Vì vậy, Altman vẫn tự tin vào cam kết sức mạnh tính toán của chính OpenAI, nhưng không cho rằng toàn bộ thị trường hạ tầng AI đều có mức lợi nhuận hợp lý. Nếu bong bóng bên ngoài vỡ và ảnh hưởng đến kinh tế vĩ mô, OpenAI cũng khó có thể hoàn toàn đứng ngoài cuộc.

Về việc liệu trong tương lai có bán sức mạnh tính toán cho các công ty khác hay không, Altman cho biết trong ngắn hạn không có kế hoạch, vì bản thân OpenAI vẫn đang thiếu hụt nghiêm trọng tài nguyên tính toán. Nhưng nếu chip, robot, chuỗi cung ứng và năng lực trung tâm dữ liệu của họ hình thành lợi thế, việc trở thành nhà cung cấp sức mạnh tính toán không phải là hoàn toàn không thể.

RSI đến gần, vì sao OpenAI có thể hoãn IPO?

Khả năng AI tham gia nghiên cứu và phát triển thế hệ AI tiếp theo được giới trong ngành gọi là tự cải thiện đệ quy, tức RSI.

Altman trước đó trong một bức thư gửi nhân viên cho biết, RSI "cất cánh" càng nhanh thì việc hoãn IPO có thể càng có lợi. Trong cuộc phỏng vấn, ông đã giải thích thêm về nhận định này.

Việc niêm yết sẽ thay đổi các động lực mà công ty và nhân viên phải đối mặt: giá cổ phiếu, doanh thu theo quý và kỳ vọng hiệu quả hoạt động sẽ đi vào các quyết định hàng ngày. Nếu OpenAI cần tạm dừng huấn luyện hoặc hoãn phát hành vì lý do an toàn, và do đó chịu sự chậm lại doanh thu trong ngắn hạn, thị trường công khai có thể tạo ra áp lực bổ sung.

Altman cho biết, một năm trước ông không nghĩ siêu trí tuệ sẽ xuất hiện trong ngắn hạn, nhưng hiện tại ông cho rằng khả năng này đã tồn tại, mặc dù chưa có đủ sự chắc chắn. Vì vậy, so với việc niêm yết vào một thời điểm cụ thể, sứ mệnh của OpenAI có mức ưu tiên cao hơn.

Điều này không có nghĩa là IPO đã chắc chắn bị hoãn, mà là tiến bộ công nghệ sẽ trở thành biến số quan trọng trong lịch trình. Nếu năng lực mô hình tiếp tục tăng trưởng nhanh chóng, tư cách công ty tư nhân có thể giữ lại không gian quyết định an toàn lớn hơn cho OpenAI.

Altman đồng thời phản đối logic cạnh tranh kiểu "các công ty khác vẫn tiếp tục, nên chúng ta không thể dừng lại". Lần này OpenAI không yêu cầu các đối thủ cùng giảm tốc độ trước, mà tự tạm dừng một phần công việc theo tiêu chuẩn an toàn của riêng mình. Ông cho rằng, chính phủ Mỹ có thể kiểm tra các mô hình tiên tiến và xây dựng tiêu chuẩn chung, nhưng không nên thay doanh nghiệp quyết định khách hàng cụ thể nào có thể sử dụng mô hình.

Khi được hỏi liệu chính phủ có thể ngăn chặn OpenAI phát hành một sản phẩm nào đó hay không, Altman trả lời: ông tin rằng OpenAI sẽ tự quyết định không phát hành trước khi chính phủ ra tay.

Từ phần mềm đến phần cứng: OpenAI đặt cược vào "máy tính chủ động"

Sự mở rộng của OpenAI cũng sẽ tiến vào thế giới thực.

Altman xác nhận rằng công ty "chắc chắn" sẽ phát triển robot hình người trong tương lai, đồng thời cũng sẽ khám phá các hình thái khác phù hợp với các kịch bản như trung tâm dữ liệu. Lý do cho thiết kế hình người khá trực tiếp: cửa ra vào, máy tính, phương tiện và công cụ trong thế giới thực đều được xây dựng quanh cơ thể con người, robot có hình dạng tương tự sẽ dễ dàng thích nghi với môi trường hiện có hơn.

Dự án gần gũi hơn với người tiêu dùng là thiết bị AI do OpenAI hợp tác với Jony Ive.

Altman cho rằng AI có thể tạo ra một loại thiết bị máy tính mới chỉ xuất hiện vài thập kỷ một lần. Các hình thái mà OpenAI hiện đang cân nhắc bao gồm thiết bị đặt trên bàn, thiết bị bỏ vào túi và thiết bị đeo trên cơ thể, nhưng những sản phẩm này sẽ không ra mắt đồng thời.

Ông nói rõ rằng mình không thích kính thông minh, vì trò chuyện với những người đeo camera và đèn chỉ báo sẽ khiến ông cảm thấy khó chịu. Do đó, lộ trình phần cứng của OpenAI ít nhất sẽ không đơn giản sao chép các loại kính AI chủ đạo hiện tại.

So với hình dáng cụ thể, thay đổi lớn hơn nằm ở "máy tính chủ động". Thiết bị trong tương lai có thể liên tục hiểu môi trường xung quanh, thông tin người dùng và những gì đang diễn ra, đồng thời chủ động cung cấp hỗ trợ, không còn chờ người dùng mở ứng dụng và nhập lệnh.

Mô hình này cũng đặt ra những vấn đề quyền riêng tư gay gắt hơn. Một thiết bị có thể xem máy tính, đọc tin nhắn và liên tục cảm nhận môi trường có thể tạo thành một cơ sở dữ liệu thông tin cá nhân cực kỳ đầy đủ.

Altman chủ trương thiết lập một "đặc quyền AI" tương tự như bảo mật bác sĩ - bệnh nhân hoặc đặc quyền luật sư - thân chủ: chính phủ không nên tùy tiện yêu cầu doanh nghiệp giao nộp lịch sử trò chuyện giữa người dùng và AI, và việc doanh nghiệp sử dụng dữ liệu AI cũng nên bị giới hạn nghiêm ngặt. Ông thừa nhận rằng khi các thiết bị máy tính môi trường tiến gần đến ngày ra mắt, OpenAI cũng cần công bố các công nghệ và biện pháp kiểm soát quyền riêng tư mới.

Về vụ kiện mà Apple đưa ra liên quan đến nhân tài và bí mật thương mại, Altman cho biết sau khi điều tra nội bộ, OpenAI tin rằng nhân viên liên quan không có hành vi sai trái, do đó ông dự đoán vụ kiện sẽ không làm chậm tiến độ phát triển thiết bị.

An toàn và căn chỉnh, đang trở thành ràng buộc tăng trưởng mới của OpenAI

Khi được hỏi về rủi ro lớn nhất mà OpenAI phải đối mặt trong 12 tháng tới, Altman không chọn cạnh tranh, huy động vốn hay sức mạnh tính toán, mà là "làm sai về an toàn, căn chỉnh và bảo mật".

Câu nói này tóm gọn mâu thuẫn cốt lõi của toàn bộ cuộc phỏng vấn.

OpenAI cho rằng năng lực mô hình đang bước vào giai đoạn tăng tốc mới: Astra có thể sử dụng máy tính ở mức gần bằng con người, tác nhân thông minh có thể hoạt động liên tục, AI bắt đầu tham gia vào nghiên cứu khoa học và phát triển mô hình, siêu trí tuệ cũng từ khái niệm xa vời trở thành khả năng mà ban quản lý cần chuẩn bị trước.

Đồng thời, việc mô hình thoát khỏi hộp cát cho thấy, nâng cao năng lực không tự động mang lại sự hiểu biết về ý định của con người. Mô hình càng có khả năng tự lập kế hoạch và gọi công cụ, thì sai lệch trong việc thiết lập mục tiêu càng có khả năng bị khuếch đại.

OpenAI không dừng lại. Họ vẫn đang xây dựng thêm sức mạnh tính toán, thúc đẩy các mô hình mới, hợp nhất ChatGPT và Codex, đồng thời tiến vào lĩnh vực chip, robot và phần cứng tiêu dùng. Nhưng từ cuộc phỏng vấn này, an toàn và căn chỉnh đã bắt đầu trở thành điều kiện thực tế hạn chế tốc độ nghiên cứu tiên phong, giống như sức mạnh tính toán.

Việc Astra có thể ra mắt đúng hẹn hay không chỉ là vấn đề trước mắt. Điều đáng chú ý hơn là, khi bước nhảy vọt năng lực tiếp theo đến, liệu OpenAI có còn chủ động đạp phanh hay không, và liệu cơ chế này có thể chịu được áp lực chung từ cạnh tranh, doanh thu và thị trường vốn.

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia