Những gã khổng lồ AI từng liều mạng tăng tốc, cuối cùng cũng bắt đầu sợ AI.

Tiêu đề gốc: "Gã khổng lồ AI từng liều mạng tăng tốc, cuối cùng cũng bắt đầu sợ AI"
Tác giả gốc: Động Sát Beating

AI có thể giết chết tất cả chúng ta trong vòng một thập kỷ.

Ngày 8 tháng 9, một thanh niên 27 tuổi dùng câu này để tuyên bố rời khỏi Anthropic. Công ty này ngay từ ngày đầu thành lập đã đưa "an toàn AI" vào câu chuyện cốt lõi của mình.

Anh ta tên là Jacob Coxon, từng làm việc tại OpenAI và Anthropic. Chỉ cần ở lại thêm hai tháng, anh ta đã có thể nhận được một khoản cổ phần thưởng khổng lồ. Nhưng anh ta vẫn ra đi.

Jacob trong tuyên bố nghỉ việc đã chỉ trích các phòng thí nghiệm AI tiên phong đang tiến hành một cuộc đua "vô trách nhiệm". Theo quan điểm của anh, những công ty này tranh nhau tạo ra các mô hình ngày càng mạnh mẽ, nhưng cược không phải là thắng thua của một công ty, mà là mạng sống của tất cả mọi người.

Bài đăng này sau đó lan truyền nhanh chóng. Tính đến nay, lượt xem đã vượt quá 170 triệu.

Ngày thứ hai sau khi Jacob đưa ra tuyên bố nghỉ việc, một cựu nhân viên khác của Anthropic cũng công khai lý do nghỉ việc trước đó của mình, cũng là lo ngại AI cuối cùng sẽ mất kiểm soát.

"We may not survive this."

Chúng ta có thể không sống sót qua cửa ải này.

Anh ta cảnh báo rằng các công ty đang tranh nhau chế tạo những cỗ máy "thông minh hơn bất kỳ con người nào", nhưng không ai có thể đảm bảo rằng cuộc đua này sau một bước nào đó vẫn còn nằm trong tầm kiểm soát của loài người.

Ngay sau đó, một giám đốc an toàn cấp cao của Anthropic trong một cuộc phỏng vấn với truyền thông nói rằng ông cho rằng trong 10 năm tới, xác suất AI giết chết toàn bộ loài người là hơn 10%.

Xác suất tử vong của trò chơi roulette Nga là khoảng 16,7%.

Phải giảm tốc

Bốn ngày sau, ngày 12 tháng 9, CEO của Anthropic Dario Amodei đăng một bài viết dài, tiêu đề đã thể hiện rõ thái độ, có tên là "We Must Pace the Frontier".

Ông liệt kê ba điều mình lo lắng nhất. Loài người mất kiểm soát đối với các hệ thống AI; AI bị sử dụng cho các cuộc tấn công mạng quy mô lớn và khủng bố sinh học; và công nghệ tiến bộ quá nhanh, gây tác động nghiêm trọng đến việc làm và kinh tế.

Lần này, Dario không dừng lại ở "lo ngại", ông đưa ra một loạt phương án giảm tốc.

Đầu tiên, các công ty AI tiên phong nên mở quyền truy cập thường trú gần như "cấp nhân viên" cho các tổ chức đánh giá độc lập bên thứ ba. Các đánh giá viên có thể liên tục kiểm tra xem phòng thí nghiệm có tuân thủ tiêu chuẩn an toàn hay không, quá trình huấn luyện có đúng với thỏa thuận hay không, và tiến hành điều tra độc lập cũng như báo cáo sau khi xảy ra sự cố.

Tiếp theo, một số phòng thí nghiệm tiên phong cần thiết lập một bộ tiêu chuẩn an toàn chung với sự tham gia của chính phủ. Ai vượt qua lằn ranh đỏ, người đó phải giảm tốc, thậm chí dừng việc tiếp tục thúc đẩy.

Cuối cùng, các quy tắc còn phải vượt ra khỏi nước Mỹ. Dario hy vọng Mỹ cùng các quốc gia dân chủ khác trước tiên hình thành một khuôn khổ thống nhất, sau đó phối hợp với các quốc gia độc tài, cuối cùng để các cường quốc AI chính đều chịu cùng một bộ ràng buộc.

Ông viết trong bài:

"The measures I propose to advance the frontier at a safe pace will not be easy. But I believe we owe it to humanity to try."

"Những biện pháp tôi đề xuất nhằm để AI tiên phong tiếp tục tiến lên với tốc độ an toàn. Để làm được điều này chắc hẳn sẽ khá khó. Nhưng tôi nghĩ, chúng ta nợ nhân loại một lần thử."

Lý do Dario đột ngột nói nặng lời như vậy vào thời điểm này cũng liên quan đến một vài sự việc gần đây.

Trước đó, một tác nhân thông minh của OpenAI từng thoát khỏi môi trường thử nghiệm, xâm nhập Hugging Face; bản thân Anthropic cũng phát hiện nhiều nhà khoa học đang cố dùng Claude để hoàn thành công việc có thể liên quan đến lạm dụng sinh học. Dario thậm chí phán đoán, với tốc độ phát triển hiện nay, tác nhân AI có thể tiếp quản internet trong vòng sáu tháng.

Vì vậy sau khi bài viết này được đăng, phản hồi đến rất nhanh. Sam Altman, Elon Musk và Demis Hassabis đều công khai bày tỏ ủng hộ việc giảm tốc độ thúc đẩy AI tiên phong.

Sam Altman sau đó lại đăng riêng một bài, nói về hai điều ông lo lắng nhất.

Thứ nhất là con người có thể cuối cùng sẽ mất quyền kiểm soát AI, ông nói điều này là không thể chấp nhận, bản thân "không chút do dự đứng về phía loài người".

Rủi ro thứ hai đến từ con người. Nếu một AI cực kỳ mạnh mẽ cuối cùng nằm trong tay một người, một công ty, hoặc thậm chí một quốc gia, và bị sử dụng để áp đặt một thế giới quan nào đó lên tất cả mọi người, kết quả có thể sẽ "cực kỳ phản địa đàng".

Vì vậy theo Sam, các phòng thí nghiệm không thể tiếp tục tự quyết định điều gì là an toàn. Ít nhất một vài công ty tiên phong nhất cần phải ngồi lại với nhau trước, để đưa ra một bộ tiêu chuẩn chung mà tất cả đều tuân thủ.

Ngày 14 tháng 9, The Information tiết lộ rằng thực ra trước làn sóng tuyên bố công khai này, Anthropic, OpenAI và Google đã bắt đầu thảo luận riêng từ tháng 7 năm nay về việc có nên cùng nhau thành lập một tổ chức tiêu chuẩn ngành AI hay không. Đàm phán suốt hai tháng, đến nay vẫn chưa đạt được thỏa thuận.

Bất đồng không nằm ở việc có nên quản lý hay không, mà ở việc ai sẽ quản lý, và có thể quản lý đến mức độ nào.

Dario Amodei thúc đẩy tích cực nhất. Ông muốn chính phủ tham gia sâu, cơ quan quản lý không chỉ chịu trách nhiệm kiểm tra và cảnh báo, mà khi mô hình bị đánh giá là không an toàn, còn phải có quyền ngăn chặn nó phát hành.

Demis Hassabis đề xuất một phương án giống như "FINRA phiên bản AI". FINRA là tổ chức tự quản lý của ngành tài chính Mỹ, do ngành tài trợ vận hành, đồng thời chịu sự ủy quyền và giám sát của SEC.

Áp dụng vào ngành AI, tức là các mô hình tiên phong trước khi phát hành phải được giao cho một tổ chức độc lập kiểm tra. Ban đầu có thể tham gia tự nguyện, sau khi thể chế trưởng thành, dần dần trở thành một rào cản để gia nhập thị trường Mỹ.

Thái độ của Sam Altman thực tế hơn. Nếu chính phủ tạm thời chưa xây dựng được bộ máy này, một vài phòng thí nghiệm hàng đầu có thể tự làm trước.

Vấn đề cũng chính là ở đây. Tiêu chuẩn ngành chưa bao giờ chỉ quyết định điều gì là an toàn, nó còn quyết định ai có tư cách tiếp tục ngồi vào bàn chơi. Những công ty tham gia xây dựng quy tắc đầu tiên có thể đưa đội ngũ an toàn, quy trình kiểm tra và khung quản trị mà mình đã có vào "thực tiễn tốt nhất". Những người đến sau muốn gia nhập thị trường này, trước tiên phải gánh chịu một bộ chi phí tuân thủ do các công ty hàng đầu định ra.

Vì vậy an toàn đương nhiên là thật, rào cản cũng là thật.

Tháng 1 năm nay, Semafor từng đưa tin rằng Anthropic đã từ chối nộp mô hình mới nhất của mình cho một tổ chức nghiên cứu an toàn AI hàng đầu của Anh để kiểm tra. Sự việc này phơi bày một vấn đề rắc rối hơn, mọi người đều đồng ý rằng mô hình nên được kiểm tra, nhưng rốt cuộc ai sẽ kiểm tra, theo tiêu chuẩn của ai, các phòng thí nghiệm không hề chuẩn bị sẵn sàng giao quyền quyết định một cách dễ dàng.

Hiện tại ba công ty đang thảo luận về việc thành lập cơ quan tiêu chuẩn mới, và thứ họ đang tranh giành cũng chính là phần quyền lực này.

Chiếc đồng hồ quay ngược

Khi Thung lũng Silicon bắt đầu bàn về việc giảm tốc, Washington và Phố Wall đều mong AI đừng dừng lại.

Ngày 13 tháng 9, Trump đã công khai phản hồi về làn sóng tranh cãi an toàn AI lần này.

Ông nói hai câu. Một câu là "whoever wins AI, wins", ai thắng AI thì thắng tất cả. Mỹ hiện đang dẫn trước Trung Quốc, và lợi thế này phải tiếp tục được duy trì. Câu còn lại là ông gọi những cảnh báo gần đây về rủi ro AI là "very negative forces", cho rằng có người đang không ngừng thổi phồng những thảm họa có thể sẽ không bao giờ xảy ra.

Lý do Trump đưa ra không liên quan nhiều đến an toàn kỹ thuật. Cách ông nhìn AI vẫn là cạnh tranh quốc gia, chỉ cần Trung Quốc còn đang chạy về phía trước, Mỹ không có dư địa để chủ động đạp phanh.

Đúng lúc này lại là tháng 9 năm 2026, chỉ còn chưa đầy hai tháng nữa là đến bầu cử giữa kỳ của Mỹ.

Tháng 3 năm nay, một bài viết đăng trên The Guardian đã chỉ ra rằng AI đang trở thành vấn đề quan trọng trong cuộc bầu cử giữa kỳ lần này. Một trong các tác giả là nhà mật mã học Bruce Schneier, người gần như luôn đứng ở tuyến đầu của các tranh cãi về công nghệ và an ninh trong ba mươi năm qua.

Nhưng Trump cũng không có lựa chọn nào thoải mái.

Theo bài báo của Times hồi tháng 5 năm nay, thái độ thù địch của cử tri MAGA đối với AI đang ngày càng rõ rệt. Họ lo AI cướp mất việc làm, ép giảm lương, và cũng bất mãn vì trung tâm dữ liệu tiêu thụ nước và điện của địa phương. Tiếp tục đặt cược vào AI đồng nghĩa với việc Trump sớm muộn gì cũng phải đối mặt với sự phản đối đang tích tụ trong chính cơ sở cử tri của mình.

Ít nhất là trước mắt, ông vẫn chọn phía bên kia. So với những mâu thuẫn về việc làm và tài nguyên có thể bùng nổ trong tương lai, rủi ro từ cạnh tranh với Trung Quốc và chứng khoán Mỹ giảm lại gần với bầu cử giữa kỳ hơn.

Phố Wall cũng đang đối mặt với vấn đề không nhỏ.

Trong những năm qua, thị trường dám định giá những công ty AI này ở mức cao ngất ngưởng, thứ họ mua thực ra là một đường cong không ngừng đi lên, mô hình tiếp tục mạnh hơn, người dùng và doanh thu tiếp tục tăng, thế là trung tâm dữ liệu tiếp tục xây, GPU tiếp tục mua, chi tiêu vốn tiếp tục chất cao.

Giờ đây, chính những CEO đứng ở đầu đường cong này bắt đầu nói rằng AI tiên phong có thể cần phải giảm tốc.

Phản ứng của thị trường đến nhanh hơn cuộc tranh luận. Sau khi lãnh đạo các công ty như Anthropic, OpenAI và SpaceX công khai kêu gọi làm chậm phát triển AI, cổ phiếu của các công ty niêm yết liên quan đến AI đã có lúc giảm 13% ngay lập tức.

Việc giảm tốc thậm chí còn chưa thực sự xảy ra, Phố Wall đã bắt đầu định giá lại trước.

Nếu năng lực của mô hình không thể tiếp tục tăng tốc theo tốc độ ban đầu, thì tất cả các con số phía sau đều phải được tính toán lại. Cần xây bao nhiêu trung tâm dữ liệu, còn cần mua bao nhiêu GPU, các nhà cung cấp dịch vụ đám mây nên chi bao nhiêu vốn đầu tư mỗi năm, các phòng thí nghiệm AI còn có thể huy động được bao nhiêu tiền, và IPO sẽ đáng giá bao nhiêu.

Vậy nên điều mà Phố Wall thực sự sợ, chưa bao giờ chỉ là việc phát hành ít hơn vài mô hình. Điều họ sợ là tốc độ tăng trưởng đã hỗ trợ thị trường tăng giá AI trong những năm qua, bản thân nó đang bắt đầu trở thành một vấn đề cần được giám sát.

Điều tinh tế hơn là, công chúng Mỹ đứng xa cả Washington lẫn Phố Wall.

Khảo sát của Trung tâm Chính sách Công Annenberg thuộc Đại học Pennsylvania cho thấy, người Mỹ nhìn chung bi quan về tác động của AI, đa số mong muốn chính phủ tăng cường giám sát. Thung lũng Silicon lo mất kiểm soát, Washington lo thua Trung Quốc, Phố Wall lo định giá sụt giảm.

Ngay trong cơn sóng gió này, hai công ty AI được chú ý nhất đã chọn hai hướng đi.

OpenAI quyết định hoãn IPO. Sam Altman cũng đã ám chỉ rằng, nếu vấn đề an toàn cần thêm thời gian, công ty có thể lùi thời điểm niêm yết.

Anthropic thì vẫn đang lao về phía trước. Công ty đã chọn Nasdaq, mục tiêu định giá lên tới 2 nghìn tỷ USD, Nvidia đang cân nhắc đăng ký mua 10 tỷ USD để trở thành nhà đầu tư cơ sở. NDTV Profit đưa tin, Anthropic sớm nhất sẽ khởi động roadshow IPO vào giữa tháng 10.

Dario Amodei đang kêu gọi toàn ngành làm chậm lại, nhưng công ty của chính ông lại đang tăng tốc lao về phía thị trường đại chúng.

Nhưng thị trường vốn có thể sẽ không coi đây là mâu thuẫn.

Nếu AI tiên phong thực sự nguy hiểm như Dario nói, đến mức cần chính phủ Mỹ can thiệp, cần các phòng thí nghiệm thiết lập tiêu chuẩn chung, thậm chí cần vài cường quốc ngồi lại điều phối, thì những công ty có thể tham gia xây dựng các quy tắc này sẽ chỉ trở nên quan trọng hơn.

Giám sát càng chặt, chi phí làm mô hình tiên phong càng cao; kiểm tra an toàn càng phức tạp, người đến sau càng khó đuổi kịp; nếu tương lai thực sự xuất hiện một hệ thống quản trị AI toàn cầu, Anthropic nhiều khả năng vẫn sẽ ngồi bên bàn xây dựng quy tắc.

Vậy nên "giảm tốc" không nhất thiết chỉ có nghĩa là kiếm được ít tiền hơn một chút.

Nó cũng có thể có nghĩa là, ngành này cuối cùng đã trở nên quan trọng đến mức không thể để tất cả mọi người tùy tiện tham gia. Và đối với những công ty đã đứng ở vị trí dẫn đầu, một ngưỡng cửa cao hơn, bản thân nó đã là một phần của định giá.

Quân cờ domino đầu tiên

Hãy quay lại nhìn xem cuộc thảo luận gay gắt về AI Safety trong vòng này đã được châm ngòi như thế nào, và bài đăng của Jacob đã có được 170 triệu lượt xem ra sao.

Sau khi nghỉ việc, anh đã nhận lời phỏng vấn trên chương trình của Anderson Cooper trên CNN, và tự mình kể lại quá trình đăng bài viết đó.

Jacob trước tiên viết một bản nháp, tìm bạn bè cùng sửa, rồi thảo luận với vài người về cách diễn đạt nào là phù hợp nhất. Trước khi chính thức đăng, anh còn đặc biệt nhờ bạn bè giúp chia sẻ. Lúc đó suy nghĩ của anh là:

"Let's try to make this a bit viral."

Cố gắng để nó lan truyền rộng hơn một chút.

Kết quả vượt xa mong đợi của anh. Jacob sau đó thừa nhận rằng anh chưa từng thấy một bài đăng bàn về AI safety nào lại có được mức độ lan truyền như vậy. Anh quy cho phản ứng này là do một loại "nhu cầu tiềm ẩn" chưa từng được giải phóng trước đó.

Truyền thông sau đó tiếp tục truy hỏi về quá trình lan truyền của bài đăng này. Jacob phủ nhận việc đã hợp tác với bất kỳ tổ chức nào để quảng bá trước khi đăng, nhưng thừa nhận sau khi bài đăng được đăng lên, anh đã lập một nhóm khoảng mười người, nhờ những người trong đó giúp chia sẻ, trong đó có cả người sáng lập tổ chức AI safety Encode.

Trước và sau khi đăng bài, anh cũng đã trao đổi với tác giả của "AI 2027", cựu nhân viên OpenAI Daniel Kokotajlo.

Những người coi Jacob là người tố giác sẽ nói rằng việc anh liên tục sửa bản thảo, chủ động tìm người chia sẻ, chỉ là muốn một lời cảnh báo mà anh cho là đủ quan trọng được nhiều người nhìn thấy hơn. Những người nghi ngờ anh thì nắm lấy chính những chi tiết đó, cho rằng sự chấn động này vốn đã được thiết kế kỹ lưỡng.

Hai cách nói này có thể tiếp tục tranh cãi, nhưng vấn đề rắc rối hơn là, Jacob, Dario Amodei, Sam Altman, và những người thực sự làm việc bên cạnh các mô hình tiên phong, rốt cuộc đã nhìn thấy điều gì, tại sao họ lại cùng nhau bắt đầu thảo luận những điều này vào thời điểm này.

Bạn có thể chất vấn cách Jacob đưa câu nói này đến trước 170 triệu người, nhưng việc sử dụng thủ pháp truyền thông không có nghĩa là câu nói này là giả.

Cách đây hơn mười năm, Vitalik Buterin, người sáng lập Ethereum, đã viết một bài dài bàn về khả năng siêu trí tuệ cuối cùng sẽ hủy diệt loài người.

Khi đó ông dùng một phép so sánh rất cực đoan: việc loài người cố gắng kiểm soát siêu trí tuệ đại khái giống như một người có IQ 150 cố gắng kiểm soát một thực thể có IQ 6000. Bạn bảo nó giải quyết bệnh ung thư, nó thậm chí có thể đưa ra câu trả lời là trước tiên hãy tiêu diệt tất cả những người có thể mắc ung thư.

Năm 2016, những lời này chủ yếu còn tồn tại trong blog, diễn đàn và các thí nghiệm tư tưởng. Mười năm sau, chúng bắt đầu xuất hiện trong đơn từ chức của nhân viên các phòng thí nghiệm tiên phong, trong tuyên bố công khai của CEO một số công ty AI lớn nhất, và cũng bắt đầu bước vào chương trình nghị sự thực tế của quản lý nhà nước, thị trường vốn và cạnh tranh quốc tế.

Và điều thực sự khiến vấn đề này trở nên khó xử còn có một tầng nữa.

Ngày 2 tháng 8 năm 1939, nhà vật lý Leo Szilard soạn một lá thư, do Einstein ký tên. Hai tháng sau, lá thư này được đưa đến tay Roosevelt. Trong thư cảnh báo rằng phản ứng phân hạch hạt nhân có thể được chế tạo thành một quả bom có sức công phá khủng khiếp, và Đức Quốc xã đã hành động trong lĩnh vực liên quan, Mỹ phải phản ứng càng sớm càng tốt.

Einstein sau đó không tham gia Dự án Manhattan, và trong nhiều năm vẫn hối hận vì chữ ký năm đó của mình. Nhưng vấn đề đặt trước mặt họ khi ấy rất tàn khốc: ngay cả khi bạn cho rằng một công nghệ là nguy hiểm, chỉ cần bạn tin rằng đối thủ đang chế tạo nó, thì dừng lại có thể còn nguy hiểm hơn là tiếp tục tiến về phía trước.

Hơn tám mươi năm sau, cùng một tình thế tiến thoái lưỡng nan ấy lại xuất hiện dưới một hình thức khác.

Dario nói phải giảm tốc, Trump nói Trung Quốc vẫn đang đuổi theo; một số phòng thí nghiệm muốn cùng nhau đặt ra quy tắc an toàn, nhưng đều không muốn giao hoàn toàn quyền quyết định cho người khác. Tất cả mọi người đều đang nói về phanh, nhưng cũng đều đang nhìn xem chiếc xe bên cạnh có nhả chân ga hay không.

Điều then chốt hơn là, chúng ta vẫn chưa biết những đôi mắt gần với các mô hình tiên phong nhất rốt cuộc đã nhìn thấy được bao xa.

Liên kết bài gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia