Tiêu đề gốc: "Hoàng Nhân Huân rẽ trái, Amodei rẽ phải"
Tác giả gốc: Tô Dương, Tencent Technology

AI tiên tiến tiếp tục tăng tốc, hay đạp phanh, đã trở thành chủ đề gây tranh cãi nhất ở Thung lũng Silicon hiện nay.

Xoay quanh tranh cãi, các ông lớn Thung lũng Silicon bắt đầu chọn phe, Amodei, Altman, Musk và Hassabis hợp thành "phe tạm dừng". Hoàng Nhân Huân thì kiên định là "phe tăng tốc", chỉ trích "thuyết ngày tận thế AI" thiếu cơ sở khoa học; Yann LeCun càng liên tục chế giễu Amodei, ông nói: "(Amodei) hồi còn ở OpenAI đã cho rằng GPT-2 nguy hiểm đến mức không nên mã nguồn mở, tôi đã cười nhạo anh ta lúc đó, giờ mọi người có thể tiếp tục."

So sánh ra, Zuckerberg và Nadella cùng những người khác thể hiện tương đối trung lập.

Các ông lớn mỗi người chọn phe, nghĩa là Thung lũng Silicon chưa hình thành đồng thuận về việc tạm dừng mô hình tiên tiến, điều này bắt nguồn từ sự khác biệt vị trí sinh thái của mỗi nhà trong chuỗi công nghiệp AI. Người dẫn đầu ở tầng mô hình có thể vì những lý do khác nhau mà kêu gọi tạm dừng, nhưng muốn khiến những doanh nghiệp như Oracle, AWS nắm trong tay đơn hàng sức mạnh tính toán hàng trăm tỷ đô la, cùng Nvidia đứng trên đỉnh chuỗi thức ăn, dừng lại, thì không thể nhận được phản hồi tích cực.

Tại Washington, tiếng nói "tạm dừng" không chỉ không nhận được ủng hộ, mà còn dấy lên một loạt nghi vấn.

"Điều này có chút mùi vị Ngựa Thành Troy (It feels a little bit to me like a bit of a Trojan horse)." JD Vance nói trong một cuộc phỏng vấn, câu này thực ra phản ánh quan điểm thật sự của Washington — khi doanh nghiệp chế tạo Ngựa Gỗ liên tục yêu cầu làm cánh cửa hẹp hơn, thì nên xem xét cánh cửa này rốt cuộc phù hợp với những doanh nghiệp nào.

01 Tạm dừng, cảnh báo và một lá đơn từ chức

Ngòi nổ của cuộc tranh luận này, là lá đơn từ chức của một nhà nghiên cứu Anthropic tên Jacob Coxon.

Trước đó anh đã làm nghiên cứu tiền huấn luyện ba năm tại OpenAI và Anthropic, đích thân tham gia huấn luyện các mô hình tiên tiến nhất. Trong bài viết dài trên X, anh gần như không khách sáo: "Cả hai công ty đều không hành xử có trách nhiệm. Chúng đang lao thẳng về phía siêu trí tuệ có thể tự cải thiện, đặt cược mạng sống của chúng ta."

Anh nói thẳng, người trong phòng thí nghiệm thật sự tin AI có thể giết chết toàn bộ loài người trong vòng mười năm, và đây tuyệt đối không phải màn trình diễn quan hệ công chúng. Nhiều đồng nghiệp đã bắt đầu dùng "thời khắc then chốt", "hồi kết" để miêu tả giai đoạn hiện tại. Coxon thậm chí từ bỏ số cổ phần sắp được nhận. Anh chỉ ở Anthropic bốn tháng, theo quy định công ty phải sáu tháng mới được thực hiện quyền.

Cựu nhà nghiên cứu của Anthropic, Jacob Coxon

Ngay sau đó, Evan Hubinger, người phụ trách khoa học căn chỉnh của Anthropic, đã công khai phản hồi: Jacob đúng, chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ loài người. Cá nhân tôi cho rằng trong vòng mười năm, xác suất này vượt quá 10%. Anthropic đang cố gắng hết sức, nhưng chúng tôi vẫn chưa có kế hoạch rõ ràng để giải quyết vấn đề căn chỉnh siêu trí tuệ, và còn cách đích rất xa.

Hai phát súng này đã đẩy những lo ngại vốn chủ yếu âm ỉ trong nội bộ phòng thí nghiệm ra trước công chúng. Trong bối cảnh đó, nhà sáng lập kiêm CEO của Anthropic, Amodei, ngay lập tức công bố một bài viết dài, hệ thống hóa quan điểm "làm chậm nghiên cứu tiên phong". Ông không chỉ nói về "đầu tư nhiều hơn cho an toàn", mà còn yêu cầu rõ ràng phải chủ động kiểm soát tốc độ đột phá về năng lực, để dành thời gian cho các cơ chế an toàn bắt kịp.

Altman, Musk, Hassabis nhanh chóng công khai hưởng ứng, hình thành nên "phe tạm dừng".

Trước khi lý thuyết "giảm tốc" của Jacob Coxon và Amodei xuất hiện, những "bố già AI" như Joshua Bengio, Geoffrey Hinton đã liên tục đưa ra các kiến nghị về việc quan tâm đến rủi ro.

Khi nói về việc Coxon từ chức, Bengio cho biết các nhà khoa học tại các phòng thí nghiệm AI tiên phong thường có thể nhìn thấy năng lực của các mô hình mới nhất sớm hơn công chúng, do đó phán đoán của họ về rủi ro đáng được xem xét nghiêm túc.

Đồng thời, Bengio cũng đưa ra ví dụ cụ thể, cho rằng các hệ thống AI hiện tại đã có khả năng tấn công mạng và thuyết phục, nếu bị sử dụng để gây hại cho lợi ích con người, có thể gây ra hậu quả nghiêm trọng. Ông cũng lo ngại rằng khi AI có khả năng lập kế hoạch trong khoảng thời gian dài hơn, những rủi ro này có thể mở rộng thêm.

Khi được BBC hỏi về xác suất AI "giết chết toàn bộ loài người" trong vòng mười năm tới vượt quá 10%, Geoffrey Hinton cũng cho rằng con số này "không phải là bất hợp lý", nhưng đồng thời nhấn mạnh rằng không ai thực sự biết cách đưa ra một ước tính đáng tin cậy, bởi vì loài người chưa từng đối mặt với "sự tồn tại của một loài có thể thông minh hơn chúng ta trong thời gian tới".

Hinton cho rằng AI trong tương lai có thể được sử dụng để thiết kế virus sinh học nguy hiểm, virus máy tính và phát động các cuộc tấn công mạng quy mô lớn. Do đó, con người cần tìm ra phương pháp kiểm soát hiệu quả trước khi rủi ro vượt khỏi tầm kiểm soát.

Khác với những người ủng hộ "lý thuyết tạm dừng" mới của Thung lũng Silicon, các "bố già AI" chủ yếu kêu gọi quan tâm đến rủi ro và khám phá việc thiết lập cơ chế kiểm soát rủi ro, thay vì trực tiếp đạp phanh. Hơn nữa, về lập trường, ý kiến và đề xuất trong lĩnh vực học thuật thuần túy hơn, trong khi các kiến nghị từ phòng thí nghiệm tiên phong, dù bề ngoài mang nhãn "vì nhân loại", vẫn khó có thể hoàn toàn tách khỏi cân nhắc thương mại.

Đây chính xác là lý do tại sao JD Vance nói rằng "thuyết tạm dừng" giống như con ngựa gỗ thành Troy.

02 Bất đồng và chọn phe

Các phe "tăng tốc", "giảm tốc" và "trung lập". Nguồn: The New York Times

Ngày 15 tháng 9, nhiều lãnh đạo công ty công nghệ liên tiếp lên tiếng tại hội nghị Salesforce Dreamforce, cuộc tranh luận này bắt đầu biến thành một cuộc đối đầu quan điểm trực tiếp hơn.

Hôm đó, Amodei, Jensen Huang và Altman đều đề cập đến an toàn AI, nhưng đưa ra những câu trả lời khác nhau về tốc độ phát triển, trách nhiệm an toàn và những gì doanh nghiệp nên làm.

Khi Amodei cùng sân khấu với CEO Salesforce Marc Benioff, ông một lần nữa nhấn mạnh rằng các doanh nghiệp AI nên thiết lập tiêu chuẩn an toàn cao hơn thông qua hành động của chính mình. Ông cho rằng việc doanh nghiệp chủ động áp dụng các biện pháp an toàn nghiêm ngặt hơn có thể trở thành cách thúc đẩy toàn bộ ngành tiến lên.

Nói cách khác, thái độ của Amodei bắt đầu thay đổi, từ kêu gọi toàn ngành giảm tốc chuyển sang doanh nghiệp tự lắp đặt rào chắn an toàn.

Jensen Huang thì cho rằng "không cần luật mới, cũng không cần quy định mới". Theo ông, tốc độ và an toàn không phải là mối quan hệ loại trừ lẫn nhau, doanh nghiệp có thể đẩy nhanh phát triển mô hình hết mức có thể; nếu phát hiện mất kiểm soát, hoặc sản phẩm không thể đảm bảo an toàn, thì nên tạm dừng để giải quyết vấn đề.

Thái độ của Benioff thì cởi mở hơn và nhấn mạnh tính tự chủ. Ông cho biết, nếu doanh nghiệp cho rằng nên chậm lại thì nên chậm lại; nếu cho rằng nên tăng tốc thì nên tăng tốc, đồng thời cũng nên chịu trách nhiệm về quyết định của mình.

Nhà sáng lập kiêm CEO OpenAI Altman tại Dreamforce cho biết rất tự tin rằng OpenAI và toàn bộ ngành AI có thể phát triển an toàn mà không gây tổn hại nghiêm trọng cho công chúng. Ông đồng thời bày tỏ thất vọng khi bên ngoài hiểu quan điểm của mình là ủng hộ toàn ngành giảm tốc phát triển AI.

Nói cách khác, Altman cũng bắt đầu thay đổi, nhấn mạnh rằng điều ông muốn truyền đạt không phải là kêu gọi ngành giảm tốc, mà là công tác an toàn và giám sát nên đi trước việc nâng cao năng lực.

Zuckerberg thì không chủ trương đặt hành động an toàn của một công ty lên tiền đề rằng các công ty AI khác phải đồng loạt giảm tốc. Ông cho rằng đưa các tổ chức đánh giá độc lập và cố vấn bên ngoài vào kiểm tra an toàn mô hình là thực tiễn tốt nhất của ngành. Ông cũng tiết lộ Meta trước đó đã tự giảm tốc phát triển công cụ Muse AI, thay vì chờ các công ty khác đạt đồng thuận về giảm tốc phát triển AI trước.

Thái độ của CEO Microsoft Satya Nadella ở một mức độ nào đó đồng nhất với Altman, khuyến khích lắp đặt rào chắn bảo vệ, cũng khuyến khích cạnh tranh đầy đủ.

"Điều đầu tiên chúng ta cần làm là phục vụ con người, và đảm bảo công nghệ nằm trong tầm kiểm soát của con người. Đồng thời, sự lan tỏa rộng rãi của công nghệ AI mới là điều then chốt nhất, phải có lựa chọn, có cạnh tranh. An toàn cần được đối xử nghiêm túc, nhưng phải giải quyết bằng cách tiếp cận kỹ thuật và minh bạch, chứ không phải thần bí hóa nó." Nadella phát biểu như vậy tại hội nghị thượng đỉnh All-In Summit 2026 vào ngày 15 tháng 9.

Ngoài những doanh nhân này, tiếng nói từ Washington cũng tham gia sâu hơn.

Sau khi Trump trực tiếp gọi điện cho Jensen Huang, công khai bày tỏ sự ủng hộ đối với việc ngành AI tiếp tục phát triển, đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống Hoa Kỳ David Sacks (David Sacks) sau đó tuyên bố rằng các công ty công nghệ có thể tiếp tục thúc đẩy AI tiên tiến, đồng thời đặt câu hỏi về động cơ đằng sau chủ trương "giảm tốc" mà một số doanh nghiệp đưa ra.

03 Ai sẽ đặt ra quy tắc?

Khi cuộc thảo luận mở rộng, tranh chấp cũng từ bản thân rủi ro AI mở rộng thêm đến việc tiêu chuẩn an toàn của AI tiên tiến rốt cuộc nên do doanh nghiệp tự đặt ra, hay cần chính phủ và các tổ chức độc lập can thiệp?

Bloomberg dẫn lời người hiểu biết cho biết, Anthropic, Google và OpenAI trước đó đã thảo luận về việc thành lập một tổ chức tiêu chuẩn ngành trí tuệ nhân tạo.

Vào tháng 7, Hassabis đã công bố một bài viết, đề xuất thành lập một tổ chức tiêu chuẩn AI do Hoa Kỳ dẫn dắt, với mô hình hoạt động tương tự Cơ quan Quản lý Ngành Tài chính Hoa Kỳ (FINRA). Tổ chức này có thể tiến hành kiểm tra trước khi các mô hình AI tiên tiến được triển khai chính thức, để đánh giá liệu chúng có đạt tiêu chuẩn an toàn tương ứng hay không.

Theo ý tưởng của Hassabis, tổ chức này không nên hoàn toàn do chính phủ dẫn dắt, mà nên áp dụng mô hình hợp tác công tư. Trong đó, chính phủ đóng vai trò giám sát, ngành AI cung cấp tài chính, đồng thời thu hút các chuyên gia kỹ thuật hàng đầu độc lập và đại diện cộng đồng mã nguồn mở tham gia.

Hassabis cố gắng thêm một lớp kiểm tra an toàn độc lập trước khi mô hình bước vào thế giới thực, điều này khá phù hợp với logic quản lý mà chính phủ Hoa Kỳ công bố vào đầu tháng 6: doanh nghiệp có thể tự nguyện giao mô hình cho chính phủ đánh giá trước khi công bố công khai, cung cấp cửa sổ truy cập tối đa 30 ngày trước khi phát hành và rõ ràng không áp đặt phê duyệt bắt buộc, không thiết lập giấy phép phát hành.

Điều khá kịch tính là sau đó Fable 5 và Mythos 5 ra mắt, không tuân theo quy trình này, nhưng bị phát hiện có khả năng tấn công và phòng thủ mạng cực mạnh, cuối cùng bị BIS Hoa Kỳ tạm thời hạ xuống dưới hình thức kiểm soát xuất khẩu.

Tuy nhiên, dù vậy, thái độ của chính sách cũng chỉ yêu cầu lắp đặt rào chắn an toàn, chưa đưa ra tuyên bố và hướng dẫn nào về việc giảm tốc.

Người có quan điểm tương tự Hassabis là nhà khoa học trưởng của OpenAI, Jakub Pachocki. Vào đầu tháng 9, ông cũng nhấn mạnh rằng việc chia sẻ tiêu chuẩn an toàn và phối hợp quốc tế xung quanh sự phát triển tiếp theo của AI nên trở thành ưu tiên hiện tại.

04 Không ai thực sự đạp phanh

Cho đến nay, cuộc tranh luận này vẫn chưa thực sự thay đổi nhịp độ phát triển của các công ty AI tiên phong.

Anthropic, OpenAI, Google, xAI và các công ty khác vẫn tiếp tục thúc đẩy nghiên cứu phát triển mô hình, cuộc cạnh tranh xung quanh sức mạnh tính toán, trung tâm dữ liệu và hạ tầng AI cũng không dừng lại vì cuộc tranh luận này. Ở tầng thị trường vốn lại xuất hiện những thay đổi khác nhau: Anthropic vẫn đang chuẩn bị cho IPO trong năm nay, trong khi OpenAI đã hoãn kế hoạch IPO đến năm 2027.

Amodei muốn kéo toàn bộ ngành dừng lại, cùng Anthropic tìm kiếm giải pháp lắp đặt rào chắn cho việc năng lực mô hình vượt ranh giới, ở một mức độ nào đó có thể hiểu là "lấy lòng hào phóng của người khác".

Đây cũng là lý do tại sao Amodei bị gắn mác "giả vờ làm thiên thần hoàn hảo không tì vết".

Về chủ đề kiểm soát rủi ro này, quan điểm mà Jensen Huang đại diện thực ra phù hợp hơn với hiện trạng: nếu doanh nghiệp có lo ngại, hoặc phát hiện vấn đề, hoàn toàn có thể tự mình khám phá giải pháp, và chia sẻ những giải pháp hiệu quả đã khám phá được với ngành.

Để một đội 100 người và một đội 1000 người cùng dừng lại, hoàn toàn không có cơ sở đồng thuận. Ngay cả bản thân Amodei cũng rất rõ, nếu chỉ có mình dừng lại, rất có thể sẽ bị OpenAI và các đối thủ cạnh tranh khác vượt qua.

Quan trọng hơn là sự bất đồng ở tầng quản trị công ty. Anthropic và OpenAI đều là công ty lợi ích công cộng (Public Benefit Company), có thể hô hào "từ bỏ lợi ích tài chính ngắn hạn vì tương lai nhân loại", có thể nói với nhà đầu tư "điều này chúng tôi đã đồng thuận từ rất sớm", nhưng Google, Microsoft, Meta và các công ty niêm yết khác, ban lãnh đạo có nghĩa vụ tín thác theo luật định đối với cổ đông thị trường thứ cấp.

Hai loại công ty có lợi ích khác nhau này, khả năng đạt được đồng thuận về điểm này cũng không lớn.

Còn một chi tiết có thể bị bỏ qua. Trước "thuyết tạm dừng", Anthropic và OpenAI đều đã lần lượt ra mắt mô hình mạnh nhất, một là Fable 5.1, một là GPT-6 Astra.

Dưới sự kêu gọi của đông đảo mọi người, liệu các mô hình mới của những nhà khác có còn được phát hành hay không?

Liên kết bài viết gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia