BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

SBF lần đầu nói về tiếc nuối khi Anthropic bị bán: AI có 25% xác suất hủy diệt loài người, người trẻ phải học thật kỹ AI

Đọc bài viết này mất 75 phút
SBF phỏng vấn trong tù, tiếc nuối vì bỏ lỡ định giá nghìn tỷ USD hiện tại của Anthropic. Ông cho rằng, trong 5-10 năm tới AI sẽ vượt con người trong hầu hết các nhiệm vụ quan trọng, tác động sẽ lan rộng từng ngành. Hào cạnh tranh của AI vẫn là thương hiệu, chặng đường FTX này, không đáng lắm
Lời tòa soạn: Anthropic niêm yết, định giá 1,5 nghìn tỷ, và có thời điểm đạt mức vốn hóa gần 2 nghìn tỷ. Mọi người lại nhớ đến việc SBF năm xưa đã đầu tư vào Anthropic với mức định giá cực nhỏ, nếu giữ đến bây giờ thì nên có gần 40 tỷ USD, tiếc là đã bị bán đi rồi.


Cậu bé 14 tuổi Eli Goldfine này đã liên lạc được với mẹ của SBF, và có một cuộc gọi với SBF khi đang ở trong tù. Đây là cuộc phỏng vấn hay nhất mà tôi từng thấy sau khi FTX nổ tung và SBF vào tù, không chỉ nói về việc SBF nhìn lại khoản đầu tư vào Anthropic và quan điểm của anh ấy về AI, mà còn nói về nhiều lĩnh vực mà FTX đã làm từ năm 2020 nhưng bây giờ mọi người mới thổi phồng thành điểm nóng, cùng với quan điểm hiện tại của anh ấy về những lĩnh vực nóng này.


TL;DR

· Xác suất AI dẫn đến sự tuyệt chủng của loài người hoặc sự hủy diệt văn minh, anh ấy đưa ra là 25%: ban đầu nói "dưới 50%, trên 10%", cuối cùng rơi vào khoảng 25%; nếu chia theo tiêu chí kiểu "tải tâm trí lên có tính là thảm họa không", khoảng sẽ mở rộng đến 20%–60%.


· Trong 5–10 năm tới AI sẽ đạt hoặc vượt con người trên phần lớn các nhiệm vụ quan trọng, chỉ còn cách "AI vận hành phần lớn thế giới" một bước nhỏ, nhưng quá trình giống như tiến triển mờ dần, sẽ không có năm nào "bụp" một cái là vượt qua.


· Tác động rơi vào các ngành, là từng ngành một vượt qua ranh giới: phát triển phần mềm, toán học đã đang xảy ra, tiếp theo sẽ lan sang nhiều lĩnh vực hơn; thế giới tổng thể không bị đảo lộn, nhưng cục bộ sẽ biến đổi dữ dội.


· Vấn đề thực sự không phải là "có nên giảm tốc hay không", mà là "có thể khiến tất cả mọi người cùng giảm tốc hay không": chỉ cần có một người chơi hoàn toàn không quan tâm đến an toàn, giảm tốc đơn phương chỉ biến cuộc đua thành cạnh tranh xuống đáy.


· Căn chỉnh không có câu trả lời cấp cao duy nhất, ma quỷ nằm trong chi tiết: rất nhiều thử nghiệm, rất nhiều gỡ lỗi, rất nhiều thận trọng, còn phải giả định mô hình cuối cùng sẽ được sử dụng như agent.


· Anthropic là công ty AI cấp nghìn tỷ USD, top hai: trong mười năm tới AI sẽ trở thành ngành cốt lõi, vốn hóa tích lũy có thể đạt hàng chục nghìn tỷ thậm chí hàng trăm nghìn tỷ USD, số công ty có thể chứa được quy mô này đếm trên đầu ngón tay.


· Năm đó chỉ đầu tư 500 triệu USD, là vì nó chỉ cần chừng đó tiền: đây là kết quả của việc công ty không muốn bán thêm cổ phần, huy động vốn theo nhu cầu, không phải anh ấy đánh giá sai.


· Alpha hiện tại không nằm ở "ai có câu chuyện AI", mà ở việc phân biệt ai là công ty AI thật; hơn nữa thương hiệu giữ được hào bảo vệ tốt hơn công nghệ (Coinbase, Robinhood trị giá hàng trăm tỷ, dựa vào cái tên).


· Canh bạc tung đồng xu "51% nhân đôi, 49% hủy diệt" đó, ở mức độ trừu tượng thì anh ấy sẽ đánh cược, nhưng trong thế giới thực anh ấy kiên quyết không đánh cược: vì sự hủy diệt là vĩnh viễn, còn sự tăng trưởng thì người khác sớm muộn cũng làm được.


· Khi được hỏi "xét đến những việc tốt mà Future Fund đã làm, toàn bộ quá trình từ trỗi dậy đến sụp đổ của FTX có đáng giá không", câu trả lời của anh ấy là không đáng: anh ấy rất muốn tin rằng nó đáng giá, nhưng không thể thành thật nói rằng nó đáng giá; nếu cuối cùng không làm hỏng, lẽ ra nó đã đáng giá — anh ấy cũng không cho rằng mọi người đã rút ra bài học, vì trong khủng hoảng con người rất dễ mất đi phán đoán về những điều thực sự quan trọng.


Tôi đoán bạn cũng đã nghe nói, Anthropic tuần này sẽ IPO, định giá sẽ vượt một nghìn tỷ đô la. Bạn nghĩ gì về định giá hiện tại của nó?


Tôi nghĩ chúng đáng giá một khoản tiền lớn.


Bạn nhìn những ngành lớn nhất, những ngành thực sự thúc đẩy một số phần của nền kinh tế chúng ta, vốn hóa của chúng là vài nghìn tỷ đến vài chục nghìn tỷ đô la. Không có lý do gì để cho rằng trong mười năm tới AI sẽ không trở thành một trong những ngành cốt lõi đó, thậm chí là ngành chủ đạo nhất trong số đó.


Vậy nếu bạn dự đoán tổng vốn hóa của các công ty AI cuối cùng sẽ đạt vài chục nghìn tỷ, thậm chí hàng trăm nghìn tỷ đô la, thì số tiền đó phân chia thế nào? Có lẽ bạn để hai phần ba cho những công ty chưa tồn tại. Dù tính như vậy, ít nhất vẫn còn mười nghìn tỷ đô la cho các công ty hiện có. Mà số công ty có thể gánh được quy mô đó thực sự không nhiều. Bạn có OpenAI, có Anthropic, có Google và vài phòng thí nghiệm trực thuộc, đại khái còn có DeepMind, xAI. Những công ty thực sự được tính là người chơi cốt lõi, đếm trên một bàn tay là hết. Điều này cơ bản có nghĩa là, hai ba công ty dẫn đầu mỗi công ty ít nhất đáng vài nghìn tỷ đô la.


Và tôi cho rằng Anthropic dù không phải số một thì cũng rõ ràng nằm trong nhóm dẫn đầu.


Tại sao bạn nghĩ nó là công ty AI hàng đầu?


Một là phải xem năng lực của mô hình hiện tại, sản phẩm hiện tại dùng tốt đến đâu, mà chúng và OpenAI rõ ràng luôn qua lại với nhau về mặt này. Sản phẩm tiêu dùng hướng tới đại chúng của Anthropic nhận được nhiều phản hồi tích cực, mà đây thậm chí có thể chưa phải là sản phẩm độc đáo nhất của chúng. Công cụ phát triển phần mềm AI của chúng là tốt nhất thế giới, đó lại là một lĩnh vực khổng lồ khác. Vậy ít nhất là ở hiện tại, bạn phải tính nó vào top hai.


Nếu thực sự bước vào cuộc đua toàn diện hướng tới siêu trí tuệ, hiện giờ xem ra khả năng không nhỏ, bạn nghĩ mười năm tới đại khái sẽ diễn ra thế nào? Thế giới sẽ ra sao?


Câu hỏi hay. Trước hết nói về vài năm tới, bất cứ lúc nào cũng có thể xuất hiện những chuyện hoang đường. Đây chỉ là suy luận của tôi về tình huống trung vị, bất cứ lúc nào cũng có thể lệch đi.


Nhưng những gì chúng ta đã thấy cho đến nay là: AI trong một thời gian dài gần như không có ảnh hưởng gì đến thế giới, ngay cả khi năng lực của nó tăng gấp đôi hết lần này đến lần khác, bởi vì nó vẫn đang ở giai đoạn "kém hơn con người", và kém đến mức độ mà việc dùng con người để làm việc vẫn còn hiệu quả hơn so với dùng AI. Rồi chỉ trong vài năm gần đây, nó bắt đầu vượt qua ranh giới đó ở ngày càng nhiều nơi, bắt đầu có ảnh hưởng đến thế giới.


Nó vẫn chưa cải tạo hoàn toàn thế giới. Nhưng khi các ngành công nghiệp then chốt lần lượt rơi xuống điểm tới hạn đó, AI đột nhiên trở nên hiệu quả hơn con người rất nhiều trong một lĩnh vực nào đó, bạn sẽ thấy sự bùng nổ khá dữ dội ở những lĩnh vực đó. Vì vậy trong một hai năm tới, tôi nghĩ sẽ có thêm vài lĩnh vực, có thể là những lĩnh vực khá quan trọng, đi theo con đường của toán học và phát triển phần mềm: công việc tiên phong thực tế phần lớn do các mô hình AI đảm nhận. Cả thế giới không bị đảo lộn, nhưng bạn sẽ bắt đầu thấy những thay đổi đáng kể ở một số nơi.


Có nhiều vấn đề. Để tôi lùi lại một bước. Một là: liệu có điều gì đó sẽ đi đến hỗn loạn hoặc sai lầm thảm khốc không? Ví dụ rõ ràng nhất là AI mất kiểm soát tiếp xúc với vũ khí hoặc những thứ tương tự, chẳng hạn như một hệ thống AI dùng để phát hiện mối đe dọa đối với một cường quốc hạt nhân nào đó, nó mất kiểm soát và phóng hàng nghìn tên lửa đạn đạo trong một hơi. Đây là một trong những tình huống như vậy, tôi nghĩ xác suất xảy ra trong mười năm tới là không lớn, nhưng không phải bằng không, có thể xảy ra.


Nếu gác lại những kịch bản ngày tận thế, tôi nghĩ trong mười năm tới chúng ta có thể ở trong một thế giới như thế này: đột nhiên, trong hầu hết các nghề nghiệp, con người không còn cần thiết nữa. Ngay cả khi thế giới thay đổi không nhiều trong ngắn hạn, điều này cũng sẽ bóp méo văn hóa xã hội một cách căn bản. Tác động là rất lớn, nếu chúng ta không còn tự định nghĩa mình bằng công việc. Và, điều gì sẽ xảy ra khi sản lượng của một số ngành bắt đầu ngày càng khó được con người hiểu? Đó có được tính là AI đã âm thầm hoàn thành việc tiếp quản không? Những AI đó sẽ nhìn con người như thế nào?


Tôi không biết liệu những câu hỏi này có câu trả lời trong mười năm tới hay không. Nhưng tôi nghĩ rất có thể chúng sẽ ồ ạt xuất hiện, hoặc ít nhất là xuất hiện liên tiếp, và về nhiều mặt, vị thế của con người với tư cách là người quyết định trung tâm cho tương lai của chính mình, lúc đó đã được viết rõ trên tường.


Bạn đã có những suy nghĩ này từ trước khi chúng trở thành xu hướng chính thống. Năm 2021, khi ChatGPT chưa trở thành sản phẩm chính thống, bạn nghĩ đường cong của AI sẽ đi như thế nào?


Nhiều công lao trong số này không thể tính cho tôi. Nhiều điều quan trọng là do người khác viết, tôi phần lớn chỉ là nhấn mạnh, hoặc nhắc lại những gì họ đã nói.


Nhưng có vài ý tưởng. Một là: hãy xem AI đã làm được gì vào khoảng năm 2020. Câu trả lời là, trong hầu hết các lĩnh vực, không làm được gì cả. Trong hầu hết các lĩnh vực, bạn có thể thử dùng AI, nó sẽ hơi ngốc, so với mười năm trước thực sự tốt đến mức ấn tượng, nhưng vẫn hoàn toàn vô dụng. Nhưng có một số ít việc, những việc mà nó được huấn luyện chuyên biệt, nó đã vượt qua con người, như hầu hết các trò chơi cờ, cờ vua hoặc cờ vây; các lĩnh vực phức tạp hơn như trò chơi điện tử cũng bắt đầu xuất hiện.


Nếu AI mãi mãi chỉ giỏi chơi cờ vua, bạn sẽ không kiếm được nhiều tiền, cũng không thể đảo lộn trật tự xã hội, không thay đổi được bao nhiêu về tương lai. Nhưng không có lý do gì để cho rằng cờ vua là tất cả những gì AI có thể làm. Nó vẫn luôn tăng trưởng theo cấp số nhân từ một khởi điểm rất nhỏ, không cần nhân đôi thêm bao nhiêu lần nữa, là sẽ bắt đầu vượt con người trong những lĩnh vực then chốt của xã hội.


Vậy câu hỏi của tôi là: nếu bạn tin nó là đường cong tăng trưởng theo cấp số nhân, tại sao năm đó bạn chỉ đầu tư 500 triệu đô vào Anthropic?


Câu hỏi hay. Câu trả lời cơ bản là: khi bạn thành lập một công ty, đi gọi vốn, bạn thường không muốn gọi vô hạn tiền. Bạn có dự phóng tài chính, đại khái biết cần bao nhiêu tiền để làm cho hoạt động kinh doanh chạy lên được, thì bạn không muốn bán đi tỷ lệ cổ phần công ty vượt quá mức đó.


Anthropic lúc đó đang ở đúng vị trí đó. Họ tính ra đại khái cần 500 triệu đô chi phí điện toán để làm ra mô hình, nên họ gọi đúng con số đó. Chúng tôi cơ bản đã đầu tư toàn bộ số tiền họ cần gọi trong vòng đó.


Nhưng công suất trung tâm dữ liệu đâu phải lúc nào cũng có thể bỏ tiền ra xây ngay được sao? Nếu họ gọi được nhiều tiền hơn, tại sao không thể mua thêm GPU, xây thêm trung tâm dữ liệu, đẩy mô hình vượt xa trình độ của các phòng thí nghiệm tiên phong khác lúc bấy giờ?


Có lẽ họ nên làm vậy. Tôi đoán một phần lý do là họ không muốn bán nhiều cổ phần hơn mức cần thiết. Nhưng một phần lý do khác là, có rất nhiều công ty thực ra bị chính thành công của mình, bị dòng tiền và tiền mặt trong tay của mình kéo sụp, trong lịch sử có nhiều công ty gọi được một khoản tiền lớn, rồi dồn hết vào quảng cáo, vì nó cảm thấy phải lấy khoản tiền đó làm gì đó, cuối cùng chẳng đổi lại được gì, chỉ trì trệ.


Nên tôi đoán, lúc đó họ cũng đang nghĩ: vài năm tới mình rốt cuộc cần tiêu bao nhiêu tiền, cố gắng đừng để bị ngược lại mục đích.


Có thể nói về bộ phận đầu tư mạo hiểm của FTX lúc đó vận hành thế nào không? Ai quản lý? Logic đầu tư của bạn là gì?


Người tham gia là từng đợt luân phiên, sau đó chúng tôi trực tiếp tuyển người để chuyên môn hóa. Ban đầu chỉ là tôi hoặc người khác trong công ty gặp cơ hội thì đầu tư từng vụ một, nói thật, Anthropic thuộc loại này.


Nhưng sau đó chúng tôi bắt đầu làm rất thành công, giai đoạn đầu phần nhiều là đầu tư tài sản mã hóa, nói thật, cơ bản là mỗi năm nhân đôi, ngay cả trong bối cảnh toàn thị trường mã hóa cũng vậy, nên chúng tôi quyết định thử mở rộng quy mô. Chúng tôi tuyển Ramnik, rồi Amy v.v., để họ chuyên trách mảng này.


Nhìn chung tôi tham gia ở mức khá cao trong toàn bộ danh mục. Còn một số vụ cụ thể, Anthropic rõ ràng là một trong số đó, Solana là một vụ khác, tôi sẽ can thiệp sâu hơn, ít nhất là theo dõi hàng tuần, đặc biệt khi những khoản đầu tư này có tương tác với Alameda, FTX, hoặc có chỗ nào có thể giúp được chúng.


Với những thông tin bạn có thể nhận được trong tù, alpha của thị trường hiện nay nằm ở đâu? Phán đoán đầu tư hiện tại của bạn là gì?


Tôi hy vọng có câu trả lời tốt hơn. Bốn năm trước nên đầu tư vào đâu, tôi thực sự có những ý tưởng không tồi. Nhưng hôm nay nên đầu tư vào đâu, câu trả lời thực sự là: tôi không nên nghe theo lời khuyên của chính mình. Tôi phải đích thân ra ngoài làm thẩm định mới có thể đưa ra câu trả lời tử tế.


Về đại hướng, tôi đoán sẽ có rất nhiều công ty được xây dựng trên nền tảng AI, kiểu đội nhóm nhỏ hai người, trong vài năm làm thành công ty trị giá hàng trăm triệu thậm chí hàng tỷ đô la, và có thể đầu tư vào với mức định giá thấp hơn nhiều. Nhưng vấn đề là, cùng lúc đó cũng sẽ mọc lên một đống rác rưởi. Hiện nay công ty nào cũng nhét một câu AI vào BP, kể cả khi hoàn toàn vô lý, ví dụ một công ty áo thun, nó cũng sẽ nói "chúng tôi sẽ dùng AI để thiết kế áo thun". Được thôi, có thể có chút tác dụng, nhưng chúng đang tự đóng gói lại thành một công ty AI về bản chất, trong khi về bản chất nó không phải.


Vậy nên phần lớn alpha hiện nay nằm ở việc phân biệt hai loại này: công ty nào thực sự là công ty AI, công ty nào thực sự có thể đạt tăng trưởng bùng nổ nhờ AI, công ty nào không, ít nhất là hiện tại thì không. Nhìn vào những cổ phiếu vốn hóa lớn cũng có thể thấy. Nhiều người tham gia thị trường giai đoạn đầu thực ra không biết cách phân biệt Amazon, Google, Apple, Netflix, chúng đều là công ty công nghệ, vậy có phải nghĩa là AI sẽ tác động đến chúng như nhau? Câu trả lời tất nhiên là không. Một số ít trong đó thực sự gắn bó sâu sắc với tăng trưởng AI, Nvidia là ví dụ rõ ràng nhất; còn những công ty khác, như Apple, nó thực sự là công ty công nghệ, nhưng điều định hình thành công của Apple trong ba mươi năm qua về bản chất là thiết kế sản phẩm tiêu dùng xuất sắc: phần cứng đẹp, phần mềm dễ dùng, cộng với thương hiệu mạnh. Ít nhất là đối với công ty công nghệ, điều này không lấy AI làm cốt lõi.


Vậy những doanh nghiệp không thuộc nhóm công ty AI thực sự, ví dụ công ty phần mềm truyền thống, có phải là hết cứu? Hay chỉ những công ty dùng được AI mới sống sót?


Tôi không cho rằng chỉ công ty AI mới thành công. Thứ nhất, có những ngành phải rất lâu sau AI mới tạo ra tác động lớn. Ví dụ khai thác thép, thế giới vẫn cần thép, và hiện nay AI đã bắt đầu can thiệp vào khai thác vật lý, nên nó đột nhiên trở nên liên quan.


Nhưng một điểm khác tôi cho là rất then chốt, đó là thương hiệu. Bạn có thể có một công ty phần mềm, có sản phẩm, vốn hóa không nhỏ, rồi đối thủ nói: chúng tôi có thể làm ra thứ gần như y hệt với giá rất rẻ. Đúng vậy, nhưng điều đó không có nghĩa là người khác mua được. Có một thương hiệu đứng đó, giá trị cực kỳ, cực kỳ to lớn.


Bạn nhìn vào những công ty như Coinbase hay Robinhood. Sự khác biệt thực sự của chúng là gì? Tại sao chúng mỗi công ty trị giá hàng chục tỷ đô la? Không phải vì công nghệ, cũng không phải vì chúng có thứ độc quyền gì ở lĩnh vực này. Có thể là quy định pháp lý, nhưng ở chúng thực ra cũng không hoàn toàn là vậy. Là thương hiệu, một cái tên mà nhà đầu tư bán lẻ Mỹ nhận ra và sẽ sử dụng. Điều đó có thể đáng giá rất nhiều tiền, và đối với nhiều công ty, ngay cả khi sản phẩm cốt lõi trở nên rất dễ bị sao chép, thứ này vẫn sẽ tồn tại mãi.


Bạn đã nói rằng bạn thường mất rất ít thời gian để đưa ra các quyết định tài chính lớn, so với quy mô đầu tư. Điều này thể hiện như thế nào trong đầu tư mạo hiểm, ví dụ khi đội ngũ đề xuất một dự án, bạn có phê duyệt hay không?


Phần lớn nằm ở chỗ: nếu bạn muốn tuyển một người để làm một việc gì đó, thì tiền đề là bạn định tin tưởng người đó làm tốt việc đó. Nếu trong đội có người đã dành 15 giờ để điều tra, thẩm định, thì không vấn đề gì, tôi sẽ xem qua, bổ sung những gì tôi có thể bổ sung, đưa cho anh ta những nguồn lực tôi có mà anh ta không có.


Nhưng ngoài điều đó ra, nếu tôi không định tin tưởng rằng anh ta đã đưa ra phán đoán đúng, đã nhìn đúng, thì tôi sẽ phải tự mình dành thêm 15 giờ đó để làm lại toàn bộ quá trình thẩm định. Đến mức đó thì việc tuyển anh ta vào ban đầu chẳng còn ý nghĩa gì.


Bạn đã nói rằng điều khó chịu nhất trong tù là không thể ủng hộ phong trào vị tha hiệu quả, không thể "kiếm tiền để quyên góp". Sau khi ra ngoài bạn định làm gì? Đặc biệt là hiện nay nhiều người trong phong trào đã cắt đứt quan hệ với FTX.


Một phần câu trả lời phải đợi đến ngày đó mới đưa ra được, vì hiện nay có nhiều thông tin tôi không có. Thế giới đang thay đổi, và một số thông tin ở bên ngoài dễ lấy hơn nhiều so với ở bên trong.


Nhưng tôi sẽ cân nhắc rất nghiêm túc việc quay lại "kiếm tiền để quyên góp", ủng hộ phong trào này, ủng hộ những dự án mà tôi cho là đang làm việc thiện. Đại khái đó sẽ là một con đường mặc định.


Ngoài ra, các con đường khác thì phải xem tôi còn có thể đóng vai trò gì trong xã hội. Trước đây tôi vốn có điều kiện tạo ảnh hưởng ở nhiều phương diện, nhưng những điều đó giờ sẽ khó hơn nhiều, vì danh tiếng của tôi cực kỳ tiêu cực. Nên xét từ các phương diện thảo luận công cộng, chính trị, truyền thông, tôi không chắc tương lai mình còn có thể đóng vai trò gì, thậm chí có thể không có vai trò nào. Nhưng "kiếm tiền để quyên góp" là một con đường mặc định.


Vậy cụ thể bạn sẽ kiếm tiền như thế nào? Quay lại ngành crypto không?


Tôi sẽ cân nhắc rất nghiêm túc. Điều này phụ thuộc vào việc tôi ra ngoài khi nào, ra ngoài bằng cách nào. Nhưng crypto chắc chắn tôi sẽ cân nhắc, AI tôi cũng sẽ cân nhắc, và cả lĩnh vực tài chính theo nghĩa rộng hơn.


Bạn đã tài trợ rất nhiều tiền cho FTX Future Fund, và không phải đơn giản là quyên cho các tổ chức từ thiện EA trưởng thành, mà là tìm những dự án có độ biến động rất lớn, một khi thành công thì dư địa tăng trưởng rất cao. Có thể nhìn lại xem những dự án tốt nhất trong Future Fund là những dự án nào không? Nhìn tổng thể, nó có hiệu quả hơn việc đưa tiền cho các quỹ từ thiện hàng đầu của GiveWell không?


Tôi cho rằng nó thực sự hiệu quả hơn.


Nhiều việc chúng tôi làm là "tái cấp vốn" (regranting): giao một khoản tiền cho một nhóm người, để họ tự quyết định đầu tư vào những dự án nhỏ nào, bằng cách này, huy động trí tuệ đám đông để tìm ra những cơ hội vốn nằm ngoài tầm nhìn của chúng tôi. Có nhiều người có tiềm năng rất lớn trong các lĩnh vực như an toàn AI, an ninh sinh học, chính trị, nhưng cần vốn, có thể không nhiều, có lẽ chỉ đủ để họ học xong đại học, hoặc đủ để khởi động một công ty. Chúng tôi rất sẵn lòng cung cấp loại tiền này.


Nhiều dự án trong số đó khi nhìn riêng lẻ thì rất nhỏ, nhưng đòn bẩy lại cao; nhìn tổng thể, tác động là đáng kể. Và chúng tôi rất sẵn lòng bỏ tiền cho những người đang khởi nghiệp: họ có một ý tưởng từ thiện, hoặc một công cụ nào đó có ích cho thế giới, có thể thành công hoặc không, cần một khoản tiền để thử. Hoàn cảnh của chúng tôi là, kể cả khi một số dự án cuối cùng không đi đến đâu, chúng tôi cũng không bận tâm, chúng tôi không dựa vào một dự án nào đó để có cảm giác thành tựu, hay để chứng minh rằng mình đã làm việc tốt.


Cuối cùng tôi nghĩ đây là một cách khá hiệu quả, một phần vì lúc đó rất khó tìm được những dự án đã chín muồi, có thể tiếp nhận vài chục triệu đến hàng trăm triệu đô la và còn tiêu được số tiền đó một cách hiệu quả. Một tổ chức có ngân sách 8 triệu đô la một năm, bạn đột nhiên đưa thêm cho nó 30 triệu, có thể nó sẽ không biết phải làm gì với số tiền đó.


Có ví dụ nào đặc biệt nổi bật không?


Đầu tư vào Anthropic nói đúng ra là trước khi quỹ được thành lập, và một phần là vì cân nhắc về an toàn AI. Tạm gác chuyện đó sang một bên, chúng tôi đã tài trợ một loạt dự án về an toàn sinh học, trong đó một số sau này đã tạo ra các liệu pháp mới chống lại bệnh truyền nhiễm, loại bệnh giết chết rất nhiều người trên toàn cầu, và một số tổ chức đang mở đường để các liệu pháp như vậy được đưa ra thị trường nhanh hơn.


Tôi nghĩ có nhiều việc vốn có tiềm năng tác động to lớn, nhưng đã bị đình chỉ khi khủng hoảng ập đến, trong đó tôi sẽ tính cả không ít dự án chính trị.


Bạn đã nói rằng đầu tư vào Anthropic không chỉ vì lợi nhuận cao, mà còn mang tính chất công ích về an toàn AI. Bạn có thực sự nghĩ rằng nếu Anthropic dẫn đầu, thì AGI hay cuộc đua tiến tới siêu trí tuệ sẽ an toàn hơn nhiều không? Tại sao?


Dĩ nhiên không ai có thể chắc chắn. Nhưng phỏng đoán của tôi là: chỉ cần có một công ty đặc biệt quan tâm đến an toàn, cách phát triển mà nó mang lại sẽ thận trọng hơn so với khi không có nó. Đó không phải là tất cả những gì bạn có thể kỳ vọng, vì chỉ cần còn một bên tham gia hoàn toàn không quan tâm đến an toàn thế giới, thì sẽ xuất hiện cuộc đua, và có thể là cuộc đua xuống đáy, điều đó sẽ rất tồi tệ.


Nhưng có thêm một bên tham gia có ý thức về an toàn là có ích.


Điều đó thể hiện trong thực tế như thế nào? Cụ thể chúng sẽ làm gì để hạ thấp p(doom) (thuật ngữ này có nghĩa là xác suất AI dẫn đến sự tuyệt diệt của loài người hoặc sự hủy diệt nền văn minh)?


Chính chúng trả lời câu hỏi này sẽ tốt hơn tôi. Nhưng về đại hướng, một phần là làm chậm việc phát triển và phát hành ở biên giới tiên phong khi mô hình bắt đầu có khả năng mất kiểm soát.


Bạn có thể xem vụ Hugging Face bị hack, thiệt hại cuối cùng của nó không lớn, nhưng nếu nhắm vào một mục tiêu khác, nó có thể cực kỳ phá hoại, và không xa một thảm họa toàn cầu là mấy, xét từ góc độ «một AI agent thực sự cần làm được những gì». Vì vậy phải cực kỳ rõ ràng rằng không thể để mô hình mất kiểm soát như vậy, đặt càng nhiều điểm kiểm tra càng tốt, đối xử càng nghiêm túc càng tốt với mục tiêu cuối cùng, nguyên tắc chỉ đạo và căn chỉnh của mô hình, đồng thời duy trì khả năng phản ứng theo thời gian thực. Những điều này đều không hoàn hảo, nhưng có ích.


Có một quan điểm cho rằng: ngay cả khi Anthropic cho rằng cách làm an toàn nhất là chậm lại, nó cũng không thể chậm lại, bởi vì Trung Quốc, hoặc những công ty khác không quan tâm đến an toàn đến mức đó sẽ vượt lên trước, nên trên thực tế là không khả thi. Bạn nghĩ sao?


Đây là một câu hỏi thực sự. Có lẽ kết quả tốt nhất cho thế giới là tất cả mọi người đều chậm lại, nhưng nếu người khác không chậm lại, điều đó không nhất thiết có nghĩa là việc bạn tự chậm lại là đúng, là lao vào cuộc đua xuống đáy. Có lẽ trong cuộc cạnh tranh này có thêm một đối thủ có ý thức về an toàn thì tốt hơn, nhưng rõ ràng đây không phải là tình huống lý tưởng, chỉ là có thể chúng ta đang sống đúng trong tình huống này.


Cách làm thực sự tốt nhất là tác động đến các bên tham gia khác, cố gắng hết sức để tất cả các bên chính đạt được một đồng thuận xuyên phe phái, đều coi trọng an toàn hơn.


Bạn nhìn chung ủng hộ chính quyền Trump thứ hai. Vậy nhiều người trong chính quyền Trump, bao gồm cả bản thân Trump, đều rất phản đối chủ nghĩa vị tha hiệu quả, bạn nghĩ sao?


Tôi nghĩ họ đang phản ứng lại một sự kiện cụ thể, chi tiết tôi không rõ lắm, nên không thể nói đầy đủ như tôi mong muốn. Ngoài ra, tôi nghĩ chính quyền Biden lúc đó rất...


Nhưng bạn không nghĩ rằng, nếu chính phủ đang can ngăn mọi người quyên góp từ thiện hiệu quả, xét về hiệu ứng ròng thì đó là cực kỳ tiêu cực sao, một số người sẽ vì dư luận này mà không trở thành người theo chủ nghĩa vị tha hiệu quả?


Đó sẽ là tiêu cực.


Năng lực tính toán vẫn đang mở rộng, vòng IPO này của Anthropic lại có thể huy động được rất nhiều tiền. Vậy ASI khi nào sẽ đến? Dòng thời gian của bạn là gì?


Tôi không chắc nó sẽ là một sự kiện rõ ràng, rời rạc. Nó có thể là, nhưng cũng có thể là, trong năm năm tới chúng ta sẽ chứng kiến từng phần của xã hội bị AI nuốt chửng từng mảng một. Phát triển phần mềm đã đang xảy ra, nghiên cứu toán học cũng vậy, cờ vua và cờ vây thì đã xảy ra từ sớm hơn. Xu hướng này sẽ tiếp tục, cho đến khi ngày càng nhiều phần của xã hội được AI vận hành, mức độ giám sát của con người không ngừng giảm đi theo thời gian.


Hầu hết mọi người sẽ không cho rằng AI hiện nay đã "siêu phàm và vượt trội toàn diện con người theo nghĩa tổng quát", tức là giỏi hơn con người trong mọi nhiệm vụ. Theo định nghĩa này, bạn thấy chúng ta có gần ASI không? Nó sẽ xảy ra chứ?


Tôi nghĩ nó đã khá tổng quát rồi. Bạn gần như có thể hỏi mô hình hàng đầu bất kỳ câu hỏi nào, và nhận được câu trả lời ít nhất ngang với một người thông minh. Điều chúng ta ít thấy hơn là AI đột phá đến những tầng mà con người căn bản không thể đột phá.


Theo tôi hiểu, trình độ tiên tiến nhất hiện nay đại khái tương đương với mức mà một người rất thông minh, rất lý trí, với lượng thời gian dồi dào, cuối cùng có thể đạt được, chỉ có điều nó là tức thời, ngay trong tầm tay bạn. Điều này có tính là siêu phàm không, tôi không biết. Tôi nghĩ nó mạnh hơn con người một chút, nhưng không mạnh hơn nhiều, ngoại trừ việc nó có thể chạy nhiều phiên bản cùng lúc, tốc độ suy nghĩ nhanh hơn con người rất nhiều.


Vậy nên nó chưa chắc sẽ là một ranh giới rõ ràng từ người đến siêu nhân. Ít nhất cho đến nay, những gì chúng ta thấy là một ranh giới mờ: nó từ "kém hơn người" từ từ, nói là từ từ, thực ra cũng chỉ vài tháng, vài năm, đi đến chỉ số IQ 100. Nếu xu hướng này tiếp tục, có thể sẽ không có một thời điểm nào rõ ràng "bụp" một cái vượt qua. Nhưng cũng có thể thực sự có một năm, nó rõ ràng nhảy vọt từ trình độ con người lên trên con người một cách rõ rệt.


Bạn chưa bao giờ đưa ra một con số cho p(doom), tức là xác suất của sự kiện thảm khốc khi AI dẫn đến phần lớn loài người bị diệt vong. Có thể cho một con số không?


Tôi sẽ nói thấp hơn 50%, cao hơn 10%, khoảng 25%.


Tôi cần nói rõ, cái mô hình trong đầu tôi, tôi không dám nói nó là mô hình tốt nhất, một phần lớn xác suất đến từ một tình huống phức tạp mà mọi người sẽ rất khác nhau: giả sử trong tương lai con người bắt đầu tải não lên, những người không tải lên bị bỏ lại phía sau, đây có tính là sự kiện thảm khốc không? Mỗi người có câu trả lời khác nhau. Theo các câu trả lời khác nhau, tôi có thể đưa ra bất kỳ con số nào từ 20% đến 60%.


Khoảng 20% đến 60% này, lý luận của bạn là gì?


Nói điểm khởi đầu trước: 5 đến 10 năm tới, thậm chí ngắn hơn, AI rất có thể sẽ tốt như con người, hoặc tốt hơn, trên hầu hết các nhiệm vụ, hiện nay đã có nhiều lĩnh vực như vậy rồi. Sau đó nó sẽ trở nên tốt hơn, có thể tốt hơn nhiều, có thể chỉ tốt hơn một chút, trên không phải tất cả, nhưng tuyệt đại đa số các nhiệm vụ quan trọng với thế giới.


Một khi đến bước đó, khoảng cách đến việc AI vận hành phần lớn thế giới, nắm giữ phần lớn quyền lực, chỉ còn một bước nhỏ. Một loài mạnh hơn, trong một trăm năm luôn không sử dụng loại quyền lực này, xác suất đó theo tôi là khá thấp. Vậy nên tôi nghiêng về việc trong mười năm tới chúng ta sẽ thấy AI ít nhất "tiếp quản mềm" một phần lớn hoạt động và cơ sở hạ tầng của thế giới.


Đến lúc đó, có một khả năng là cùng tồn tại hòa bình, con người không có thay đổi to lớn, nhưng đây có vẻ không phải là phỏng đoán khả dĩ nhất. Tôi cho rằng có khả năng con người sẽ, với sự giúp đỡ của AI, phát triển thành một thứ gì đó vượt qua hiện tại. Cũng có khả năng AI chỉ thấy con người nhàm chán, rồi xóa sổ chúng ta. Còn một khả năng nữa, là sự hợp tác lấy AI làm chủ đạo, nhưng hướng đến mục tiêu của con người, mang lại sự mở rộng công nghệ to lớn. Cái 20% đến 60% của tôi, phụ thuộc vào việc bạn tính những tình huống nào trong đó vào loại "ngày tận thế".


Nếu có một AI siêu thông minh, có thể tối đa hóa lợi ích kỳ vọng của mọi quyết định của bạn, bạn có giao quyền quyết định cho nó không?


Nếu tôi chắc chắn 100% rằng nó đang làm đúng việc này, không chỉ chắc chắn đó là mục tiêu của nó, mà còn chắc chắn nó không rơi vào một chế độ thất bại mang tính phá hoại nào đó, không có một đống xấp xỉ hỗn độn mơ hồ, thì, với tất cả các giả định này đều đúng, câu trả lời là có.


Bạn đã từng đề cập đến một kịch bản ngày tận thế tiềm tàng liên quan đến "tải lên tâm trí". Bản thân bạn có sẵn lòng tải lên không?


Có thể. Tương tự, vẫn phụ thuộc vào chi tiết, nhưng bản thân tôi không có ý kiến phản đối việc này.


Sau khi tải lên, bạn vẫn coi mình là cùng một người chứ? Điều này thay đổi thế giới quan của bạn như thế nào?


Câu hỏi hay. Tôi nghĩ khái niệm "nhân cách" cần được mở rộng. Thực tế đã là, không ai hoàn toàn là cùng một người như chính mình của ngày hôm qua. Một số phần trong chúng ta đã chết đi, một số phần phát triển; ký ức thay đổi, phản ứng hóa học thay đổi, cơ thể thay đổi, hóa học thần kinh cũng thay đổi. Nhưng thường thì sự khác biệt giữa chúng ta mỗi ngày đủ nhỏ, nên "cùng một người" là một xấp xỉ tốt.


Còn AI hiện nay rõ ràng không như vậy. Tôi nghĩ đây mới là mô hình nên tham chiếu: một Claude Sonnet và một Claude Opus, chúng có phải là cùng một người không? "Phải" và "không phải" đều không phải câu trả lời hay. Tôi nghĩ nếu có "người được tải lên", tình huống cũng sẽ như vậy.


Lần gần nhất bạn được thử LLM là khi nào? Ấn tượng thế nào?


Ở chỗ tôi có thể để người ta sao chép và dán đầu ra của mô hình vào. Ấn tượng của tôi là chúng về cơ bản là một trợ lý nghiên cứu tỉ mỉ, cẩn thận, chỉ có điều bạn muốn nghĩ nhanh đến đâu cũng được, công việc một ngày có thể làm xong trong một phút, điều này rất đáng kinh ngạc và rất có giá trị.


Nhưng ấn tượng hiện tại của tôi là phần lớn việc chúng làm, con người cũng có thể làm, chỉ là con người cần thời gian. Và bạn cần có người đáng tin cậy dẫn dắt chúng, có thể lấy được thông tin, cùng với toàn bộ hệ thống mà các mô hình hiện tại đã được kết nối sẵn.


Khi ở FTX, bạn đã từng triển khai một số sản phẩm tài chính rất thú vị và đổi mới. Brett Harrison nói rằng một trong những ý tưởng ban đầu của bạn về FTX là thị trường dự đoán chính trị. Có thể kể lại không?


FTX ban đầu là một sàn giao dịch tiền mã hóa, làm Bitcoin, Ethereum và hợp đồng tương lai của chúng. Nhưng về cơ bản, thị trường dự đoán chính là hợp đồng tương lai. Từ góc độ tài chính, cả hai đều chỉ là thị trường thanh toán theo một giá trị nào đó.


Vì vậy ngay từ đầu chúng tôi đã muốn triển khai thị trường dự đoán, và đã thử nghiệm trên FTX quốc tế. Bầu cử tổng thống năm 2020 chúng tôi có một thị trường khá sôi động, tôi nhớ thị trường Trump đối đầu Biden có khối lượng giao dịch vài trăm triệu đô la. Đây vốn là thứ chúng tôi muốn phát triển lâu dài, nhưng trước khi có sự rõ ràng về quy định từ CFTC, tôi không thể mở rộng.


Không biết bạn có biết không, thị trường dự đoán gần đây hot đến mức nào, Kalshi hiện đang gọi vốn với định giá 65 tỷ đô la. Tại sao FTX hồi đó không thể đưa thị trường dự đoán đạt quy mô này? Có phải các bạn quá sớm, chưa đến lúc phổ biến không?


Tôi nghĩ phần lớn là vấn đề quản lý. Khi chúng tôi làm, chúng tôi không có được giấy phép CFTC cần thiết để ra mắt nó tại Mỹ. Vì vậy thị trường của chúng tôi chỉ mở cho các sàn quốc tế, người Mỹ không được phép tham gia. Sau đó Kalshi, Polymarket có được chỗ đứng quản lý chính thức hơn tại Mỹ, và đó cũng chính là thời điểm chúng cất cánh.


Polymarket cũng phát triển được trong trạng thái là một sàn giao dịch offshore, đặc biệt là bầu cử năm 2024, rất nhiều người dùng Mỹ dùng VPN để vào.


Hồi đó Polymarket không làm KYC đúng không? Tôi nghĩ là không. Vì vậy rất có thể có lượng lớn người Mỹ dùng VPN vào như bạn nói. Còn chúng tôi là sàn tập trung, phải làm KYC cho tất cả người dùng, ngoài kiểm tra IP, chúng tôi còn cần chứng minh thư, hộ chiếu và giấy tờ chứng minh địa chỉ của các khu vực ngoài nước Mỹ.


Ngoài thị trường dự đoán, bạn còn niêm yết một số sản phẩm phái sinh hiếm thấy thời đó, ví dụ như cổ phiếu token hóa. Những thị trường này giờ lớn hơn nhiều, nhưng trên FTX thì quy mô rất nhỏ. Bạn nghĩ sản phẩm nào hôm nay sẽ trở thành thị trường khổng lồ, chỉ là chưa vào được dòng chính?


Cổ phiếu token hóa tôi nghĩ vẫn còn rất nhiều dư địa. Chúng thực sự đã lớn lên từ năm 2021, 2022, nhưng về cơ bản, hạ tầng của chúng dễ dùng hơn nhiều so với thị trường cổ phiếu thật, nên không có lý do gì chúng không thể trở thành nơi giao dịch chứng khoán chính.


Ngoài ra, thị trường dự đoán có thể bao phủ phạm vi rất rộng. Tôi cho rằng thị trường dự đoán chính trị vẫn chưa tăng đến mức tôi kỳ vọng, một phần trong đó vẫn là vấn đề quản lý. Lùi lại một bước, giao dịch ký quỹ, hợp đồng tương lai, sản phẩm phái sinh hướng tới khách hàng Mỹ, đây là một thứ khác gần như không tồn tại, mà đây chính xác là hình thái của phần lớn khối lượng giao dịch quốc tế. Đây cũng là rào cản quản lý.


Nên tôi nghĩ ở đó vẫn còn tiềm năng. Tất nhiên, chắc chắn còn nhiều thứ tôi không lường trước được sẽ xuất hiện, khiến đa số người ngạc nhiên.


FTX còn niêm yết hợp đồng tương lai pre-IPO, có các hợp đồng với ngày đáo hạn khác nhau, có thể đặt cược vào định giá ở các thời điểm khác nhau. Giờ nhiều sàn crypto đang làm hợp đồng vĩnh viễn trên các định giá này. Tại sao? Quan điểm cá nhân của tôi là cấu trúc hợp đồng tương lai có ngày đáo hạn thực ra tốt hơn.


Cái này thì, khách hàng thích hợp đồng vĩnh viễn. Có một điều rất rõ: bất kể nó có hợp lý hay không với tư cách là sản phẩm tài chính cơ bản, việc "không phải xử lý ngày đáo hạn" tự nó đã là sự tiện lợi. Cơ chế thực sự từ góc độ funding rate khá phức tạp, nhưng tôi nghĩ lý do cơ bản chính là điều này, người ta không thích phải bận tâm về ngày đáo hạn.


Vậy họ không ghét việc phải trả funding rate sao?


Thật ra không quan tâm lắm. Nhiều người đơn giản là phớt lờ nó. Một số người chuyên đứng về phía có lợi để thu phí funding. Tôi vốn nghĩ đó sẽ là một yếu tố kìm hãm tài chính rất lớn đối với mọi người, nhưng hóa ra không phải.


Bạn nghĩ tại sao?


Vẫn như đã nói, sự tiện lợi là yếu tố rất lớn. Và tôi nghĩ nhiều người thật ra chẳng hề nghĩ tới, cũng không để ý mình đang trả bao nhiêu lãi.


Xa hơn nữa là thanh khoản thu hút thanh khoản. Một khi những thị trường đó đã thành đồng thuận, khách hàng ở đó, nhà tạo lập thị trường ở đó, thanh khoản ở đó, thì khách hàng lớn sẽ đến đó. Bạn sẽ có một vòng tuần hoàn lành mạnh, một vòng phản hồi, mọi người đều tụ về thị trường nào sớm tạo được đà nhất.


Bạn từng nói một câu khá nổi tiếng: «Tôi rất hoài nghi sách… Tôi không nghĩ có cuốn sách nào đáng đọc, nhưng tôi thực sự tin gần như vậy. Tôi nghĩ nếu bạn viết một cuốn sách, là bạn đã làm hỏng rồi, nó vốn nên là một bài blog sáu đoạn.» Giờ bạn đang ở trong tù, đọc sách là một trong số ít việc có thể làm. Giờ bạn nhìn việc đọc sách thế nào?


Quan điểm của tôi không thay đổi mấy. Tôi đang đọc nhiều tiểu thuyết, nhiều khoa học viễn tưởng, cũng tạm được, nhưng thật ra tôi thích xem Netflix hơn.


Có cuốn sách nào khiến bạn thấy ra tù rồi cũng đáng bỏ thời gian đọc không?


Thật lòng thì không. Có vài thứ tôi thích, nhưng trong số khoa học viễn tưởng đã đọc, hay nhất thì có lẽ tôi sẽ đổi nó lấy một bộ phim Netflix có cũng được không có cũng chẳng sao, nhưng cũng chỉ là có lẽ, chỉ là miễn cưỡng. Có thể cuối cùng tôi thích đọc khoa học viễn tưởng hơn tôi tưởng một chút, nhưng cũng không hơn nhiều.


Netflix rốt cuộc hơn sách ở chỗ nào? Xem phim cũng tốn thời gian lắm chứ.


Tốn thời gian. Nhưng một phần là vấn đề thông lượng thông tin. Sách chỉ có thị giác, và chỉ là thị giác của chữ; phim có âm thanh, cũng có thị giác, mà trong thị giác không chỉ đặt được chữ, bạn có thể hiển thị bất kỳ pixel nào. Nên từ góc độ lý thuyết thông tin, có thể làm được nhiều thứ hơn hẳn, tôi nghĩ điều đó giúp ích rất nhiều.


Phần khác là, sách có một thứ mà phim thường không có, đó là lời dẫn về suy nghĩ của nhân vật. Tôi nghĩ thứ này có thể bỏ được, thường là dư thừa, là sự tự đắm chìm của góc nhìn tác giả. Và giờ tiền và nhân tài đều chảy về phim, nên đương nhiên ở đó sẽ có nhiều phát triển nhất.


Giả sử có một ván cược: 51% xác suất nhân đôi tiện ích của Trái Đất sang nơi khác, 49% xác suất tất cả về không. Bạn có chơi không? Thắng rồi chơi tiếp, nhân đôi hoặc về không, bạn sẽ chơi mãi chứ? Bạn từng nói với Tyler Cowen rằng bạn sẽ chấp nhận một ván cược «49% xác suất hủy diệt thế giới, 51% xác suất nhân đôi tiện ích», với điều kiện các vũ trụ độc lập với nhau. Giải thích lý luận của bạn được không? Sau khi FTX sụp đổ, quan điểm này có thay đổi không?


Kịch bản đó để thành lập, cần rất nhiều tiền đề. Bạn phải giả định vũ trụ là độc lập với nhau, như bạn nói; giả định đây là cơ hội chỉ xuất hiện một lần, tương lai không thể tái tạo với chi phí thấp hơn; và còn nhiều giả định chưa được nói ra.


Nhưng có một cách đơn giản hóa như thế này: hai thế giới, dân số tương đương, kỳ vọng về tương lai tương đương, và hoàn toàn độc lập với nhau, chúng sẽ không bao giờ tương tác, nằm ngoài nón ánh sáng của nhau, nói sao cũng được. Rồi không hiểu sao, một vị thần ngoài hành tinh kỳ lạ giáng xuống, nói rằng: hai thế giới này mỗi bên có 50% xác suất bị hủy diệt; và vì lý do nào đó, bạn tin rằng vị thần ngoài hành tinh này nói thật. Nó nói, bạn có thể chọn để chúng tương quan, hoặc phản tương quan. Lựa chọn một: hoặc cả hai cùng sống, hoặc cả hai cùng chết, mỗi bên 50%. Lựa chọn hai: một sống một chết, ngẫu nhiên, bạn không biết cái nào là cái nào.


Trong kịch bản đó, tôi nghĩ rõ ràng hai lựa chọn này là tương đương. Và nếu một bên cho bạn tỷ lệ cược 51 ăn 49, bạn nên chọn cái đó thay vì "cùng sống cùng chết", vì mỗi thế giới không quan tâm thế giới kia thế nào, dù sao chúng sẽ không bao giờ tương tác. Và đây gần như chính là vấn đề ban đầu: bạn phải chọn giữa "đúng một thế giới sống sót" và "50% xác suất cả hai cùng sống sót".


Giá trị kỳ vọng của nó là dương, nhưng biên độ không lớn. Nhưng nếu bạn cứ lật mãi, lật mười lần là hơn một nghìn lần. Khi số lần thành công tăng lên, liệu hữu dụng biên có giảm dần, đến mức giá trị kỳ vọng gần như hòa vốn, khiến bạn không còn muốn chơi trò này nữa?


Đây là một câu hỏi thú vị, phụ thuộc vào việc những "lần gấp đôi" này thực sự gấp đôi cái gì. Bạn nói hữu dụng biên tăng, giá trị biên giảm, đó là hữu dụng của "cái gì"?


Nếu đây nói về hữu dụng tích lũy dài hạn của toàn bộ vũ trụ, thì không, hữu dụng là tuyến tính với chính nó. Nhưng nếu nó thực ra là một chỉ số gần đúng nào đó, ví dụ bạn nhìn vào GDP, bạn nói "GDP có thể gấp đôi không", thì rất có thể tồn tại lợi nhuận biên giảm dần rất sâu.


Thứ nhất, GDP gấp đôi không có nghĩa là hạnh phúc của mọi người gấp đôi, càng không có nghĩa là giá trị kỳ vọng dài hạn của thế giới gấp đôi. Lần GDP gấp đôi đó, có thể vốn dĩ ba mươi năm sau cũng sẽ xảy ra; cũng có thể vì nó gây ra phá hoại môi trường nghiêm trọng, cuối cùng lại sụp đổ trở lại. Vậy nên trong thế giới thực, những chỉ số bạn dùng để đo lường có thể không phải là thứ bạn thực sự quan tâm.


Có chỉ số nào có thể gấp mười, gấp trăm lần mà không có giảm dần biên không? Điều đó sẽ trông như thế nào?


Có một, nhưng tôi phải thêm một tiền đề: tôi không thể chắc chắn cái nào thực sự làm được trong tương lai gần, những điều này đều cần tiến bộ công nghệ. Thuộc địa hóa các hành tinh khác, thuộc địa hóa hệ mặt trời, thiên hà, cuối cùng bạn sẽ thực sự có những thế giới độc lập với nhau, bạn chỉ đang làm cho nhiều người hơn thịnh vượng. Đây là một ví dụ.


Nếu nghĩ theo hướng khác: dân số không đổi, mãi mãi duy trì một tỷ người, liệu có thể khiến hạnh phúc của họ không ngừng nhân đôi? Tôi nghĩ câu trả lời là, chúng ta không thực sự biết. Đây gần như là một vấn đề sinh học, chứ không phải vấn đề gì khác. Khiến người ta hài lòng, vui vẻ vừa phải là một chuyện; khiến người ta cực kỳ sung sướng là rất khó, mà để tưởng tượng điều gì có thể khiến người ta sung sướng gấp đôi, gấp mười lần thì càng khó hơn, đó hoàn toàn không nằm trong phạm vi cảm xúc mà con người thường có thể trải nghiệm. Về lý thuyết có lẽ là có thể, nhưng chúng ta không có khuôn mẫu tốt, cũng không có công nghệ hay sinh học đó để thực hiện nó.


Bạn có nghĩ sự phát triển AI hiện nay là phiên bản thực tế của việc tung đồng xu đó không? Nếu buộc bạn chọn giữa hai điều: A, làm chậm phát triển AI, giảm p(doom) từ 10% xuống 2%; B, tiếp tục lao nhanh, chấp nhận p(doom) cao hơn để đổi lấy không gian đi lên cao hơn. Bạn sẽ chọn cái nào?


Tôi nghĩ phép so sánh rõ ràng hơn là chọn giữa "tiếp tục lao nhanh" và "vĩnh viễn cắt đứt mọi phát triển AI hoặc giống AI". Bởi vì khi đó bạn cơ bản đang chọn giữa "thế giới đối mặt với rủi ro nghiêm trọng" và "hạn chế khả năng thịnh vượng của thế giới", mà cái sau rất có thể cuối cùng sẽ cần đến một dạng tự động hóa hoặc trí tuệ số nào đó. Vậy nên trong trường hợp đó, vĩnh viễn chặn con đường này sẽ có cái giá rất lớn cho tương lai.


Nhưng nếu chỉ là "nhanh hơn hay chậm hơn", thì không rõ ràng như vậy, bởi vì có hai mô hình có thể dùng. Một là mô hình "tăng trưởng theo cấp số nhân mãi mãi": một khi bắt đầu tăng tốc, hữu dụng sẽ nhân đôi mỗi năm, không bao giờ dừng. Theo mô hình này, bắt đầu sớm một năm là vĩnh viễn nhân đôi vũ trụ, nhưng điều này hơi ảo, nó không thể kéo dài mãi mãi.


Mô hình còn lại là xem nó như một sự kiện kiểu điểm kỳ dị, sau đó đạt đến một giai đoạn nền tảng mới nào đó, mức độ hoàn toàn chưa biết. Sau khi sự việc xảy ra, vũ trụ có thể còn hàng tỷ năm nữa, vậy thì trì hoãn việc này một năm, mười năm, thậm chí một trăm năm, trong mô hình này cũng không làm giảm đi bao nhiêu, thậm chí không đến 1% hữu dụng tương lai. Theo mô hình này, bạn hoàn toàn sẵn lòng trì hoãn phát triển một trăm năm để giảm p(doom) đi 1%.


Tất nhiên, câu trả lời thật sự có lẽ nằm ở giữa hai điều đó. Và tôi nghĩ "đường cong hữu dụng theo thời gian trong kịch bản AI bùng nổ trông như thế nào" là một câu hỏi rất thú vị.


Nhiều người cố gắng khái quát thế giới quan của bạn dựa trên câu trả lời cho câu hỏi đó, "luôn chọn cược có giá trị kỳ vọng cao nhất". Đây có phải là một tóm tắt hợp lý không?


Đó là một phần trong đó. Nhưng phần đầu tiên trong câu trả lời của tôi là: có rất nhiều tiền đề. Bạn phải giả định nhiều thứ về tình huống thì mới đi đến câu trả lời đó, mà những giả định đó trong thực tế thường không đúng. Trong thực tế, mọi lựa chọn đều hỗn loạn hơn nhiều so với vẻ ngoài được trình bày. Và trong thế giới thực, vô tình phá hủy một việc gì đó dễ hơn nhiều so với xây dựng một việc gì đó.


Vậy hãy dùng một ví dụ: giả sử có một đồng xu, xác suất 51% là ngày mai bạn được ra tù, xác suất 49% là thời hạn tù còn lại của bạn bị nhân đôi. Bạn có đánh cược không?


Tất nhiên rồi.


Vì án của tôi là tù chung thân. Thực tế mà nói, mục tiêu của tôi không phải là đảm bảo đến 60 tuổi được ra ngoài, rồi tìm một căn nhà gỗ sống vài năm, đó không phải là kỳ vọng của tôi về cuộc đời. Tôi hy vọng mình có thể tạo ra ảnh hưởng tích cực đến thế giới, và điều đó đòi hỏi tôi phải ở bên ngoài. Vì thế có một mức phí bảo hiểm rất cao. Nếu cái giá phải trả là mất đi những năm tháng cuối đời không còn tạo ra giá trị nữa, thì cái giá đó tôi hoàn toàn sẵn lòng trả.


Bạn có thể nêu một ví dụ mà vì những tiền đề này, ngược lại bạn sẽ không đánh cược không?


Được. Trong thực tế có một tình huống trông giống như tung đồng xu: mặt ngửa, mô hình của bạn cho thấy nó có thể khiến tăng trưởng của thế giới tăng gấp đôi; mặt sấp, nó có thể hủy diệt thế giới. Loại đồng xu này bạn tuyệt đối không được đánh cược.


Vì trong thế giới thực, thứ nhất, phần 50% "khiến tăng trưởng của thế giới tăng gấp đôi" đó, rất có thể bạn đã làm ra thứ mà người khác sớm muộn gì cũng sẽ làm ra, nó đại khái không phải là sự tăng gấp đôi giá trị thế giới thực sự và vĩnh viễn. Còn nếu thế giới bị hủy diệt, thì đó là vĩnh viễn, mãi mãi không còn nữa.


Vì vậy tôi cho rằng, trong các tình huống thực tế, một khi đưa sự không chắc chắn và nhiễu vào từng khâu, trọng số của sự hủy diệt thảm khốc sẽ trở nên nặng hơn nhiều, còn tăng trưởng vừa phải vẫn tốt, nhưng không thể bù đắp được.


Xem thêm một ví dụ tung đồng xu. Bạn đã nói mình hoàn toàn không tin tôn giáo. Nhưng cá cược Pascal luôn ở đó: tin vào Chúa có phải là giá trị kỳ vọng dương không? Nếu thực sự có thế giới bên kia, không tin thì xuống địa ngục, còn chi phí tin ngay hôm nay là hữu hạn, đây có phải là một ví dụ khác không?


Cùng một logic, nếu logic này không liên quan gì đến nội dung cụ thể của tôn giáo mà bạn đang xem xét, thì nó cũng áp dụng cho "tôn giáo cột điện": nếu bạn dành cả đời để thờ phụng cột điện, bạn sẽ lên thiên đường; nếu không thì xuống địa ngục. Vậy có phải điều đó có nghĩa là bạn nên dâng hiến cả đời mình để thờ phụng cột điện?


Theo cùng logic đó, nó cũng áp dụng cho "tôn giáo chống cột điện": thờ phụng cột điện thì xuống địa ngục, báng bổ cột điện thì lên thiên đường. Vậy có phải điều đó có nghĩa là bạn nên dùng cả đời để chống lại cột điện? Cùng một logic, lại cho bạn hai câu trả lời hoàn toàn trái ngược.


Câu trả lời là: đối với thế giới này, bạn có thể tưởng tượng vô số giả thuyết và khả năng kỳ quái, và bạn không thể gán xác suất dương đáng kể cho vô số khả năng không hợp lý.


Một vấn đề giá trị kỳ vọng khác liên quan đến chủ nghĩa vị tha hiệu quả: nhiều EA đặt an toàn AI lên ưu tiên cao nhất, vì đó là giá trị kỳ vọng dương, chúng ta chi tiền, có lẽ có thể tránh được sự tuyệt chủng của loài người, vì chúng ta có thể căn chỉnh AI. Lập luận này có đứng vững không?


Một phần đúng. Bản thân lập luận này hoàn toàn chính xác: đây rất có thể là thập kỷ quyết định của AI, tác động tiềm tàng của nó là thay đổi thế giới, có thể cực tốt, cũng có thể là thảm họa, và điều đó sẽ nhấn chìm bất kỳ việc gì không bao giờ thay đổi thế giới, hoặc bất kỳ việc gì bạn làm bây giờ cũng không thể thay đổi thế giới. Vậy nên đây là một lập luận rất thuyết phục.


Nhưng điều nó không trả lời là: bạn thực sự có thể làm gì. Tôi thấy nhiều người cuối cùng cứ loanh quanh tại chỗ: xác định an toàn AI là sự nghiệp mình nên hiến dâng, nhưng lại không tìm được bất kỳ việc gì trong thực tế thực sự có thể khiến AI an toàn hơn. Điều này có nghĩa là, đưa ra những hiểu biết sâu sắc về "cái gì mới thực sự đáng kể, cái gì mới thực sự hữu ích" là vô cùng có giá trị, vô cùng quan trọng.


Bạn có thể xem mấy báo cáo gần đây về việc Hugging Face bị hack, ai mà biết được, nhưng có vẻ những báo cáo đó khá có lợi cho thế giới về mặt giá trị kỳ vọng, đó là điều rất tốt. Chỉ là tìm được loại việc tốt rõ ràng tích cực như thế không dễ, và hiện nay có rất nhiều tranh luận: các hành động khác nhau của EA rốt cuộc là tích cực hay tiêu cực đối với an toàn AI.


Bạn có biết mình sẽ làm gì để căn chỉnh AGI không? Bạn nghĩ chúng ta với tư cách một nền văn minh, hiện nay nước đi tốt nhất là gì?


Phỏng đoán thật lòng của tôi là, ma quỷ nằm trong chi tiết. Liệu có thể có một câu trả lời cấp cao duy nhất, rõ ràng, mà bất kỳ công ty nào làm theo là gần như đảm bảo nó sẽ tiến triển an toàn? Tôi nghĩ đó sẽ là một tổ hợp của rất nhiều quyết định, và những quyết định này đều bắt nguồn từ cùng một tâm thế: cực kỳ quan tâm đến việc căn chỉnh, mục tiêu và động cơ của mô hình mà bạn tạo ra, và giả định chúng sẽ được sử dụng theo cách agent, kể cả khi thiết kế không nhằm mục đích đó; đồng thời cần rất nhiều thử nghiệm, rất nhiều gỡ lỗi, rất nhiều thận trọng.


Chúng ta đều biết bạn nói rằng FTX Future Fund đã làm được nhiều việc tốt. Vậy bạn có nghĩ rằng toàn bộ giai đoạn từ khi FTX trỗi dậy đến khi sụp đổ, dù kết cục như vậy, nhờ những việc tốt mà Future Fund đã làm, là đáng giá không?


Không đáng. Tôi rất muốn tin rằng nó đáng giá, nhưng tôi không thể thành thật nói rằng nó đáng giá. Lẽ ra nó phải đáng giá. Nếu cuối cùng tôi không làm hỏng việc, tôi nghĩ nó sẽ đáng giá. Nếu mọi người rút ra được bài học đúng đắn từ đó, có lẽ nó sẽ đáng giá, nhưng tôi không nghĩ mọi người đã rút ra được.


Vậy bài học mọi người nên rút ra là gì?


Có vài bài học đan xen lẫn nhau. Nhiều bài học liên quan đến "điều gì sẽ xảy ra khi mọi thứ nổ tung", khi bạn ở trong chế độ khủng hoảng. Lúc đó bạn rất dễ nhận được những lời khuyên tồi. Nhiều người sẽ nhanh chóng mất đi phán đoán về điều thực sự quan trọng. Và mọi thứ sẽ nhanh chóng bị bóp méo qua lăng kính "ai là người thắng". Thực sự rất khó để lùi lại một bước và nhìn rõ chuyện gì đang xảy ra.


Nếu điểm kỳ dị thực sự đang đến gần, và chúng ta đang đứng trước ngưỡng cửa của AI siêu nhân loại, nếu bạn là tôi, hôm nay 14 tuổi, bạn sẽ đi như thế nào để tạo ra tác động tích cực lớn nhất?


Tôi nghĩ việc đầu tiên là học AI càng kỹ càng tốt, hiểu càng sâu càng tốt, như vậy bạn mới có thể tham gia vào cuộc trò chuyện này, dù là làm công cụ, hay tiếp cận từ góc độ an toàn AI trực tiếp. Tôi nghĩ đây là điều quan trọng nhất hiện nay.


Trước AI, bạn có lẽ sẽ nói "kiếm tiền để quyên góp", luyện tập giao dịch thật tốt, kiếm thật nhiều tiền rồi quyên góp. Bây giờ đã thay đổi chưa?


Bởi vì thời gian từ bây giờ đến khi AI cất cánh đang bị nén lại. Thời gian bạn dùng để làm ra thứ khác trước tiên trở nên ngắn hơn; đồng thời, việc hiểu bản thân AI đã trở nên cực kỳ hữu ích. Vì vậy, ngay cả khi mục tiêu của bạn là thành lập công ty, dựa vào nó để kiếm tiền rồi quyên góp, thì hiện nay với hầu hết mọi người, tôi sẽ nói: hãy tìm một nơi mà AI có thể tự động hóa, thực sự hữu ích, thực sự quan trọng, một lĩnh vực nào đó trong cơ sở hạ tầng của chúng ta, đó mới là hướng tôi sẽ nhìn vào.


Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia

举报 Báo lỗi/Báo cáo
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Báo lỗi/Báo cáo
Gửi