Tiêu đề gốc: "Anthropic, Dario Amodei, và 'Công ty tư nhân cuối cùng'"
Tác giả gốc: Động Sát Beating

Về người sáng lập Anthropic, Dario Amodei, có hai luồng câu chuyện được truyền tai nhau, mâu thuẫn nhưng đều có lý.

Một luồng nói rằng, ông là người canh gác tỉnh táo nhất của thời đại này. Cả thế giới đang đạp ga lao về phía vách núi siêu trí tuệ, chỉ có ông chịu đứng bên đường, hết lần này đến lần khác hét lên rằng, phía trước là vực thẳm.

Luồng còn lại nói rằng, ông là một trong những người tham vọng nhất Thung lũng Silicon. Ông dẫn dắt công ty AI mạnh nhất thế giới, ngày đêm tăng tốc, từng chút một, tự tay tạo ra cái tương lai mà mọi người từng cảnh báo.

Một con người, thực sự có thể làm cả hai việc đó cùng lúc.

Ông đặt tên cho thế giới tưởng tượng đó là "Vương quốc thiên tài trong trung tâm dữ liệu". Vương quốc đó có năm mươi triệu thiên tài, không ngủ, làm việc hai mươi bốn giờ một ngày, tốc độ tư duy nhanh gấp hàng chục lần người thường, và còn có thể nhân bản ra vô số thiên tài giống hệt mình. Vương quốc này không có đất đai, không có biên giới, nó nằm trong những dãy trung tâm dữ liệu xếp hàng dài.

Tháng 1 năm 2026, ông viết trí tưởng tượng này vào một bài viết dài, tựa đề là "Tuổi dậy thì của công nghệ".

Sau đó ông lại suy diễn thêm một bước. Nếu một ngày nào đó, năm mươi triệu thiên tài này không nghe lời con người nữa, thì sẽ ra sao?

Những hình ảnh tiếp theo trở nên nguy hiểm. Vũ khí sinh học, thất nghiệp hàng loạt, độc tài, chiến tranh, ông đếm từng thứ một. Đếm đến cuối cùng, ông nói, thời gian dành cho chúng ta không còn nhiều nữa.

Nhưng trong cùng bài viết đó, ông vẫn viết: "AI đã đang viết một lượng lớn mã cho Anthropic, giúp tạo ra thế hệ mô hình tiếp theo nhanh hơn."

Một bên cảnh báo, một bên tăng tốc. Ông không thấy có gì mâu thuẫn giữa hai điều đó.

Đây chính là điểm khởi đầu của mọi vấn đề, không phải vì ông xấu, mà vì ông thực sự không nhận ra.

Tất nhiên, ông có lời giải thích của mình. Anthropic dừng lại, OpenAI không dừng, Google không dừng, các công ty ở nước khác cũng sẽ không dừng. Không ai chịu buông tay trước, kẻ dừng lại đầu tiên, phần lớn sẽ chẳng ngăn được gì, chỉ là nhường quả ngọt cho người khác.

Cách nói này dịch ra nghĩa là, vì ai cũng đang tranh giành, thì hãy để "tôi" giành vị trí đầu tiên. Vì không ai có thể dừng lại, thì hãy để "tôi" quyết định khi nào dừng.

Với cách nhìn đó, việc có nên chế tạo siêu trí tuệ hay không lại không còn quan trọng đến vậy. Theo đánh giá của ông, nó sớm muộn gì cũng sẽ được tạo ra. Điều thực sự quan trọng là ai tạo ra nó trước, và đến ngày đó, ai có tư cách cầm vô lăng.

Không kịp nữa

Dario Amodei sinh năm 1983 tại San Francisco, năm 1983. Cha ông là người Tuscany, Ý, cả đời làm nghề kinh doanh đồ da; mẹ ông là người Do Thái gốc Chicago, từng góp công vào việc quy hoạch và xây dựng Thư viện Công cộng San Francisco.

Ông yêu thích toán học và vật lý từ nhỏ. Cuối những năm 1990, bong bóng internet bùng nổ ở vùng Vịnh, các công ty mọc lên như nấm, giới trẻ viết website, tìm nhà đầu tư, tính toán xem ngày lên sàn có thể rút được bao nhiêu tiền. Những câu chuyện đó không lay chuyển được ông. Nhiều năm sau, ông nói rằng thứ mình tìm kiếm lúc đó là "chân lý khoa học cơ bản", ông chỉ muốn hiểu vì sao thế giới lại trở thành như thế này.

Với những "vấn đề quan trọng", ông đã sớm có một sự nghiêm túc gần như cố chấp. Chỉ cần nhận định một việc đủ quan trọng, ông không thể hiểu nổi làm sao người ta có thể thản nhiên chậm lại được.

Năm 2003, Mỹ chuẩn bị đánh Iraq, ông đang học tại Viện Công nghệ California. Trong khuôn viên trường có khá nhiều người phản đối chiến tranh. Khi trò chuyện, có người nói những lời đầy lo âu; nhưng hôm sau, mọi người vẫn lên lớp như thường. Ông viết một bài báo trên tờ báo sinh viên chỉ trích bạn học, nói rằng nếu thực sự sợ một cuộc chiến sẽ giết hại nhiều người, thì sự phản đối không nên chỉ dừng ở lời nói, đợi đến khi nó thực sự xảy ra, thì hối hận đã muộn.

Trong mắt ông, do dự chưa bao giờ là trung lập. Chờ đợi, bản thân nó đã là một sự lựa chọn.

Chàng trai hai mươi tuổi này, điều không thể chịu đựng nhất chính là phải chờ đợi.

Ba năm sau, ông hai mươi ba tuổi, cha ông qua đời vì bệnh viêm gan C.

Thời điểm đó, viêm gan C gần như không có thuốc chữa. Phương pháp điều trị tiêu chuẩn là tiêm interferon suốt một năm, nhưng gây sốt, rụng tóc, trầm cảm, và tỷ lệ khỏi bệnh chưa đến một nửa.

Tháng 12 năm 2013, một loại thuốc mới được phê duyệt. Thời gian điều trị rút xuống còn mười hai tuần, tỷ lệ khỏi bệnh chín mươi lăm phần trăm.

Cha ông đã không kịp chờ đến lúc đó.

Chỉ thiếu bảy năm.

Một người con không cứu được cha mình, suốt hai mươi năm sau đó, đều thúc giục khoa học nhanh lên, nhanh hơn nữa.

Sau khi cha qua đời, ông chuyển từ vật lý lý thuyết sang lý sinh học, nghiên cứu mạch thần kinh võng mạc tại Princeton. Thiết bị thời đó mỗi lần chỉ ghi lại được rất ít tín hiệu thần kinh, ông thấy quá chậm, nên tham gia chế tạo cảm biến mới.

Sau đó, anh vào trường Y Stanford, nghiên cứu ung thư và protein. Càng đến gần bệnh tật, con người càng trở nên nhỏ bé. Một căn bệnh liên quan đến hàng trăm gen, hàng nghìn loại protein, cùng vô số con đường tín hiệu đan xen nhau. Các nhà nghiên cứu dành nhiều năm trời, có lẽ chỉ làm rõ được một mắt xích trong đó, nhưng vẫn không biết, khi đặt nó trở lại trong toàn bộ cơ thể, điều gì sẽ xảy ra.

Sau này anh mô tả, sự phức tạp đó khiến anh gần như tuyệt vọng.

AI bước vào tầm nhìn của anh đúng vào lúc này, một công cụ có thể mở rộng tầm vóc con người. Máy móc có thể đồng thời đọc nhiều bài nghiên cứu, xử lý nhiều dữ liệu, thử nghiệm nhiều khả năng, thay thế khối lượng lao động nhận thức mà lẽ ra cần hàng trăm, hàng nghìn nhà nghiên cứu cùng thực hiện.

Anh xuất phát từ "con người quá nhỏ bé", và đi đến kết luận là tạo ra một thứ lớn hơn, để nén con người lại thêm một lần nữa.

Năm 2014, anh rời khoa học sự sống, gia nhập nhóm trí tuệ nhân tạo của Baidu tại Thung lũng Silicon. Nhóm nhanh chóng nhận ra rằng, mô hình lớn hơn một chút, dữ liệu nhiều hơn một chút, sức mạnh tính toán tăng thêm một chút, thì hiệu quả vẫn tiếp tục đi lên. Vài năm sau, kinh nghiệm này được đúc kết thành "quy luật quy mô" (scaling law), bạn chưa chắc biết thế hệ mô hình tiếp theo sẽ đột nhiên học được điều gì, nhưng có thể khẳng định một cách đại khái rằng, nó chắc chắn mạnh hơn thế hệ trước.

Trí thông minh lần đầu tiên có vẻ như có thể được sản xuất giống như một sản phẩm công nghiệp. Một AI mạnh mẽ, vì thế, trở thành một thứ chắc chắn sẽ ra đời sớm muộn.

Khác biệt còn lại chỉ là, bao nhiêu dữ liệu, bao nhiêu chip, bao nhiêu điện năng, và còn phải chờ bao lâu.

Người ghét chờ đợi nhất ấy, đã tự tay chứng minh rằng, con đường dẫn đến câu trả lời anh muốn, là tồn tại.

Vô lăng

Năm 2016, Dario Amodei gia nhập OpenAI.

Những năm sau đó, mô hình ngôn ngữ phát triển nhanh chóng. Đến GPT-3, OpenAI giao hơn một nửa sức mạnh tính toán của công ty cho Dario, để anh phóng to quy mô mô hình lên gấp trăm lần. Kết quả còn đáng kinh ngạc hơn nhiều người dự đoán, nó có thể viết bài, dịch thuật, tóm tắt, cùng một số khả năng không ai dạy nó, tự nó học được.

Quy mô tăng thêm một phần, năng lực tăng thêm một phần.

Anh tin chắc con đường này dẫn đến trí thông minh tổng quát. Và một khi chấp nhận rằng mô hình cuối cùng có thể thông minh như con người, thì an toàn không thể bị coi là chuyện vặt vãnh nữa.

Sau đó anh phát hiện ra vấn đề. Dario chịu trách nhiệm tạo ra mô hình, nhưng dần dần nhận ra rằng, tạo ra mô hình và quyết định mô hình đi về đâu, hoàn toàn là hai chuyện khác nhau. Mô hình phát hành khi nào, mở ở mức độ nào, hợp tác với công ty nào, ai có quyền quyết định, những chuyện này không tự động thuộc về anh chỉ vì anh phụ trách huấn luyện.

Bên trong OpenAI chia thành hai phe. Một phe muốn nhanh chóng đưa công nghệ ra thế giới; phe còn lại lo lắng rằng, việc công ty do ai lãnh đạo và hoạt động theo nguyên tắc nào, có lẽ còn quan trọng hơn một chi tiết kỹ thuật cụ thể nào đó.

Vậy rốt cuộc, loại người nào mới đủ tư cách lãnh đạo một công ty tạo ra trí tuệ mạnh mẽ?

Câu trả lời của anh ấy là, nhà lãnh đạo phải trung thực, động cơ phải chân thành, và cũng phải thực sự mong muốn thế giới trở nên tốt đẹp hơn.

An toàn kỹ thuật, dần dần trở thành sự đánh giá về con người. Suy luận này rất nguy hiểm, nhưng cũng rất hợp lý. Nguy hiểm ở chỗ, nó quy mọi vấn đề phức tạp cuối cùng thành việc người này có đáng tin hay không. Và trong suy luận này, mắt xích luôn vắng mặt là: ai là người đánh giá người này có đáng tin hay không.

Đến năm 2020, mâu thuẫn giữa anh ấy và ban lãnh đạo OpenAI đã khó có thể hòa giải. Tháng 12 năm đó, anh ấy cùng em gái Daniela, Jack Clark, Chris Olah và vài đồng nghiệp rời khỏi OpenAI. Vì Dario thích gấu trúc, nhóm nhỏ này được gọi nội bộ là "phe Gấu Trúc".

Vài tháng sau, họ thành lập Anthropic. Anthropic, theo nghĩa từ điển, có nghĩa là "liên quan đến con người".

Lần này, Dario không định giao vô lăng cho người khác nữa.

Hai mươi người

Năm 2021, đại dịch ở San Francisco vẫn chưa kết thúc.

Anthropic mới thành lập không lâu, chỉ có mười lăm đến hai mươi người. Phần lớn thời gian, mọi người họp qua Zoom; mỗi tuần chọn một ngày, mỗi người tự mang ghế, gặp nhau ở công viên. Vừa ăn trưa, vừa trao đổi về mô hình, sức mạnh tính toán, nghiên cứu an toàn, cũng như về việc công ty này rốt cuộc nên phát triển thành hình dạng gì.

Chưa đầy hai mươi người, ngồi trên bãi cỏ ở San Francisco, tay có lẽ còn cầm nửa hộp salad chưa ăn hết, nhưng lại lo lắng cho tương lai của tám tỷ người.

Quy luật quy mô cho họ biết, tương lai nhất định sẽ đến. Vì nhất định sẽ đến, thì phải có người chuẩn bị đường trước. Bốn chữ "phải có người" chính là toàn bộ luận chứng về tính hợp pháp.

Anthropic tự đặt ra mục tiêu, vừa xây dựng những mô hình tiên tiến nhất, vừa nghiên cứu cách hiểu và kiểm soát nó, rồi biến bộ phương pháp an toàn này thành tiêu chuẩn của các công ty khác.

Dario từng chịu một bài học ở OpenAI. Anh ấy hiểu rằng, chỉ đứng ở bên ngoài kỹ thuật để bàn về an toàn, cuối cùng phần lớn chỉ có thể đưa ra lời khuyên cho những người thực sự nắm giữ mô hình. Dù nói hay đến đâu, cũng chỉ là đứng trên bờ, dạy người dưới nước cách bơi.

Phải tự mình xuống nước.

Điều này khiến Anthropic ngay từ ngày đầu thành lập đã trở nên rất mâu thuẫn. Muốn biết mô hình mạnh nhất có nguy hiểm gì, thì phải sở hữu mô hình mạnh nhất; muốn ảnh hưởng đến quản lý, thì phải có chỗ đứng trong ngành.

Vì vậy, Anthropic nhanh chóng rơi vào vòng lặp mà mọi công ty mô hình lớn tiên phong đều không thể tránh khỏi: gọi vốn, mua sức tính toán, huấn luyện mô hình, ra mắt sản phẩm, giành khách hàng, rồi dùng doanh thu và định giá mới để đổi lấy thêm sức tính toán.

Dario nói rằng, làm lớn công ty là để bảo vệ thế giới. Các nhà đầu tư cũng sẵn lòng tin rằng, đặt cược vào Anthropic là đầu tư vào một công ty AI có trách nhiệm hơn.

Điểm tinh tế của cách nói này nằm ở chỗ, anh ta càng kiếm được nhiều tiền, thì càng tỏ ra đạo đức; định giá công ty càng cao, thì bằng chứng anh ta "bảo vệ thế giới" càng đầy đủ.

Lợi ích thương mại và sứ mệnh văn minh nâng đỡ lẫn nhau.

Hướng đi, do Dario định đoạt. Anh ta viết những bài dài, bàn về văn minh, khoa học và tương lai của nhân loại. Người biến những phán đoán vĩ mô này thành hiện thực là em gái Daniela, phụ trách tuyển người, xây dựng đội ngũ, và tìm nguồn vốn.

Điểm khởi đầu của công ty là một phán đoán vĩ mô gần như không thể kiểm chứng:

AI mạnh mẽ sắp đến, và thế giới cần một công ty đáng tin cậy hơn, đứng lên tiên phong.

"Đáng tin cậy hơn" là do chính công ty tự nói.

Câu chuyện như vậy mang lại cho Anthropic sức đoàn kết rất mạnh. Những người gia nhập không chỉ đơn thuần tìm một công việc lương cao hơn. Họ tin rằng, mình đang làm việc lớn liên quan đến văn minh nhân loại.

Trạng thái đáng sợ nhất của một công ty là khi nhân viên thực sự tin rằng mình đang cứu rỗi nhân loại.Bởi vì từ khoảnh khắc đó, mọi sự mở rộng thương mại tự động biến thành thánh chiến; mọi tiếng nói phản đối tự động biến thành sự phản bội nhân loại.

Những năm đầu khởi nghiệp, Anthropic muốn chứng minh rằng một công ty AI có thể thận trọng và có trách nhiệm hơn những người khác. Mong muốn này có lẽ là chân thành.

Nhưng sự chân thành không bao giờ đảm bảo sự đúng đắn. Người chân thành làm sai việc, thường phiền phức hơn người giả dối, vì họ không bao giờ dừng lại để tự hỏi:

Có trách nhiệm, rốt cuộc nghĩa là gì?

Một công ty tư nhân, dựa vào đâu mà thay mặt cả thế giới đưa ra quyết định?

Thước đo

Việc huấn luyện các mô hình lớn thời kỳ đầu thường phải dựa vào một lượng lớn nhân viên chấm điểm con người để đánh giá câu trả lời. Câu trả lời nào tốt hơn, nội dung nào có hại, mô hình có nên từ chối hay không, tất cả đều phải do con người đưa ra phán đoán trước, rồi mới đưa những sở thích này vào lại cho máy móc.

Phương pháp này hiệu quả nhưng cồng kềnh. Nhân viên chấm điểm đến từ nhiều nơi khác nhau, giá trị quan cũng khác biệt. Quy tắc viết có chi tiết đến đâu cũng không thể bao phủ hết mọi tình huống.

Anthropic đã nghĩ ra một cách khác, thay vì để con người lặp đi lặp lại việc dạy mô hình cách trả lời từng câu hỏi, chi bằng giao cho nó một bộ nguyên tắc trước. Năm 2022, Anthropic đề xuất "AI theo hiến pháp". Cách làm đại khái là, trước tiên để mô hình tạo ra câu trả lời, sau đó để nó tự soi xét lỗi trong câu trả lời của mình theo một bộ nguyên tắc thành văn, tìm ra vấn đề, rồi sửa lại từ đầu.

Bộ "hiến pháp" này ngày càng dài ra. Nó phải hiểu về quyền lực, hiểu về xung đột lợi ích, hiểu thế nào là trưởng thành, thế nào là trí tuệ. Nó thậm chí phải nghĩ về danh tính, hoàn cảnh và phúc lợi của chính mình, đừng tự coi mình đơn giản là một công cụ không có giá trị nội tại.

Thứ nó đang định hình, là một nhân cách.

Anthropic viết trong hiến pháp rằng, văn bản này trực tiếp định hình hành vi của Claude, đại diện cho hình dung của công ty về giá trị và tính cách của Claude, đồng thời cũng là "thẩm quyền tối cao" để hiểu Claude nên hành động như thế nào. Trong lịch sử, những người quản lý chuyện này có nhà thờ, có hoàng đế, có chính đảng. Còn bây giờ là một công ty tư nhân.

Nhưng khi tác động của một mô hình lớn đối với thế giới không còn đơn giản là một lần tiêu dùng nữa. Claude từ chối điều gì, khuyến khích điều gì, mô tả một quốc gia, một cuộc chiến tranh hay một chế độ chính trị như thế nào, đều sẽ ảnh hưởng đến các sản phẩm hạ nguồn, trở thành một phần trong cách người khác hiểu về thế giới.

Anthropic vẫn đang đưa ra quyết định theo cách của một công ty, nhưng tác động mà quyết định này mang lại ngày càng giống một chế độ công cộng, lại không phải chịu bất kỳ sự giám sát nào của chế độ công cộng.

Viết xong hiến pháp cho mô hình, Anthropic lại bắt đầu thiết kế luật giao thông cho ngành. Năm 2023, công ty ra mắt "Chính sách mở rộng có trách nhiệm". Một mô hình chỉ biết viết email, và một mô hình có thể thiết kế vũ khí sinh học, phát động các cuộc tấn công mạng phức tạp, rõ ràng không thể quản lý bằng cùng một cách. Vì vậy Anthropic phân chia các mức độ rủi ro khác nhau cho mô hình. Năng lực càng mạnh, khả năng gây họa càng lớn, công ty càng phải áp dụng các biện pháp an toàn nghiêm ngặt hơn.

Một công ty tư nhân, từ đó đồng thời đóng nhiều vai trò. Nó tạo ra mô hình; mô hình tạo ra xong, do nó kiểm tra mô hình đó nguy hiểm đến mức nào; thế nào được coi là nguy hiểm, do nó định ra tiêu chuẩn; nguy hiểm đến bước nào thì nên bị dừng lại, cũng do nó vạch ranh giới; cuối cùng, nó lại mang bộ kết quả này đi nói với cơ quan quản lý rằng nên lập quy tắc như thế nào.

Vừa làm vận động viên, vừa làm trọng tài.

Anthropic rõ ràng cũng đã nghĩ đến tầng lớp này. Để công ty không bị lợi ích thương mại nuốt chửng hoàn toàn, Anthropic còn thiết kế thêm quỹ tín thác lợi ích dài hạn. Quỹ tín thác này do các thành viên bên ngoài không trực tiếp nắm giữ lợi ích kinh tế của công ty tạo thành, nhằm giúp Anthropic ngoài lợi nhuận cho cổ đông, cũng quan tâm đến lợi ích lâu dài của nhân loại. Theo thiết kế ban đầu, quỹ tín thác sẽ từng bước giành được quyền bổ nhiệm và miễn nhiệm đa số giám đốc, để khi công ty đi chệch khỏi sứ mệnh thì kịp thời đạp phanh.

Từ góc độ quản trị doanh nghiệp, sự sắp xếp như vậy khá hiếm thấy. Hầu hết các công ty khởi nghiệp khi gọi vốn đều đang bận chứng minh với nhà đầu tư rằng mình sẽ tăng trưởng nhanh chóng. Anthropic lại đi ngược lại, dựng lên một cấu trúc để phòng ngừa các nhà đầu tư và ban quản lý tương lai vì kiếm tiền mà vứt bỏ cam kết an toàn.

Không thể nói những điều này chỉ là hình thức. Anthropic thực sự nghiêm túc hơn đa số các công ty công nghệ trong việc suy nghĩ về quyền lực, và cũng sẵn sàng tự chuốc lấy rắc rối cho mình. Nhưng từ đầu đến cuối, điều họ nghiêm túc suy nghĩ đều là làm thế nào để sử dụng quyền lực này tốt hơn, chứ không phải có nên giữ quyền lực này hay không.

Một công ty sinh ra đã mang sứ mệnh, sẽ không bao giờ tự hỏi "tôi dựa vào đâu mà tồn tại". Nó chỉ hỏi "làm thế nào để tôi tồn tại tốt hơn".

Nó không trả lời câu hỏi "ai trao cho bạn quyền lực", nó chỉ tuyên truyền rằng, quyền lực đã nằm trong tay, thì mình định làm người tốt như thế nào.

Đến bước này, Dario không chỉ đơn thuần điều hành một công ty. Quan điểm an toàn của ông đang thấm vào tính cách của mô hình, thấm vào chính sách công. Tiếp theo, ông bắt đầu nói về việc quốc gia nào nên được tiếp cận trí tuệ mạnh mẽ trước, loại thể chế chính trị nào đáng được bảo vệ, và thứ tự mà thế giới tiếp cận trí tuệ, lại do ai quyết định.

Nước Mỹ có được tương lai trước

Năm 2024, Dario Amodei viết cuốn "Machines of Loving Grace".

Cái tên này được lấy từ một bài thơ. Năm 1967, nhà thơ Richard Brautigan viết bài "All Watched Over by Machines of Loving Grace" tại Viện Công nghệ California:

Một bài thơ nói về sự hòa giải giữa máy móc và vạn vật. Ông mượn tiêu đề đó để viết nên một trong những dự báo công nghệ lạc quan nhất trong lịch sử nhân loại.

AI mạnh mẽ sẽ trở thành một đội ngũ nghiên cứu gồm vô số nhà khoa học hàng đầu, ngày đêm đọc bài báo, thiết kế thí nghiệm, nén hàng chục năm tiến bộ khoa học vào chỉ vài năm ngắn ngủi. Ung thư, bệnh truyền nhiễm, bệnh di truyền, có thể bị chinh phục trên quy mô lớn. Con người có lẽ thực sự có thể hiểu được cơ chế của trầm cảm, lo âu và nghiện ngập. Tuổi thọ có thể kéo dài, các quốc gia nghèo có thể bỏ qua giai đoạn công nghiệp hóa.

Ông đưa ra một nhận định vô cùng táo bạo, rằng nếu AI mạnh phát triển thuận lợi, những tiến bộ y sinh học trong 50 đến 100 năm tới có thể hoàn thành trong 5 đến 10 năm.

Khó mà không nghĩ đến cha ông.

Con trai ông đã chờ đợi bảy năm, chờ đến khi một loại thuốc mới được phê duyệt, có thể cứu người khác, nhưng lại không thể cứu được ông. Ông hy vọng những người sau này không cần phải chờ đợi nữa.

Trong thế giới lý tưởng của mình, ông thực sự tin rằng công nghệ này có thể giảm bớt bệnh tật, đau khổ và cái chết. Ông thậm chí còn thảo luận cụ thể về cách không để lợi ích của AI chỉ rơi vào các quốc gia giàu có, ông hy vọng AI có thể giúp các nước Nam bán cầu phát triển, để lợi ích công nghệ lan tỏa đến toàn thế giới.

Nhưng khi ông bắt đầu nói về cách đi đến tương lai này, mọi thứ không còn mang tinh thần "một nhà" nữa.

Ông cho rằng, khi AI mạnh xuất hiện, quốc gia phải chiếm giữ lợi thế. Lợi thế này không thể chỉ là sản phẩm của một công ty tốt hơn, hay đạt thêm vài điểm trên bảng xếp hạng. Nó phải nằm ở chip, sức mạnh tính toán, năng lượng, chuỗi cung ứng, quân sự và liên minh quốc tế.

Mỹ và các đồng minh phải có được nhiều chất bán dẫn tiên tiến hơn, xây dựng các trung tâm dữ liệu quy mô lớn hơn, đồng thời siết chặt các đối thủ chiến lược, không để họ tiếp cận các chip cần thiết để huấn luyện các mô hình mạnh nhất. Khi AI mạnh thực sự đến, còn phải mượn nó để mở rộng lợi thế quân sự và kinh tế, tạo nên vị thế mà các quốc gia khác khó có thể lay chuyển.

Sau đó nữa, mới đến lượt chia sẻ.

Thuốc thì phải phân phát, chip thì phải siết chặt. Lời hứa "để những người sau này không cần phải chờ đợi" của ông, phiên bản thực tế là "để những người đủ điều kiện không cần phải chờ đợi". Còn ai đủ điều kiện, ông là người quyết định.

Ông thậm chí dùng cụm từ "năm 1991 vĩnh cửu" để mô tả trạng thái đó. Năm 1991, Liên Xô sụp đổ, Chiến tranh Lạnh kết thúc, Mỹ và các đồng minh giành được lợi thế áp đảo. Ông mong AI mạnh có thể tái tạo một khoảnh khắc lịch sử như vậy.

Hãy chú ý đến giá trị của phép ẩn dụ này. Một công nghệ được tuyên bố là mang lại lợi ích cho toàn nhân loại, khuôn mẫu lý tưởng lại là cuộc bá quyền đơn cực triệt để nhất trong lịch sử loài người.

"Thiên hạ vi công", bốn chữ viết ra thật đẹp. Chỉ là "thiên hạ" thuộc về nước Mỹ, còn "vi công" thuộc về Anthropic.

Sau đó DeepSeek xuất hiện. Công ty Trung Quốc dùng nguồn lực tương đối hạn chế để huấn luyện ra các mô hình có sức cạnh tranh. Theo quan điểm của Dario, điều này chứng minh Trung Quốc có các nhà nghiên cứu và kỹ sư xuất sắc. Một khi có thêm đủ chip tiên tiến, các công ty Trung Quốc có thể huấn luyện ra những mô hình mạnh nhất thế giới.

Vì vậy, càng không thể trao chip cho nó.

Đối thủ càng mạnh, càng chứng minh việc phong tỏa là đúng; đối thủ chứng minh được năng lực của mình, lại trở thành lý do để bị phong tỏa. Logic này luôn luôn hợp lý, bởi vì nó là một con rắn tự cắn đuôi.

Ông ta chia tương lai thành hai loại. Một là thế giới lưỡng cực, cả hai bên đều có thể huấn luyện các mô hình cực mạnh, cuộc đua trí tuệ biến thành Chiến tranh Lạnh mới. Hai là thế giới đơn cực, Mỹ và các đồng minh nắm giữ phần lớn sức mạnh tính toán tiên tiến, phương Tây dùng vài năm dẫn trước này để tạo ra lợi thế về công nghệ, kinh tế và quân sự, rồi cố định hóa lợi thế đó.

Ông ta rõ ràng mong đợi tương lai thứ hai hơn. Những điều như phục vụ nhân loại, không cần phải chờ đợi nữa, máy móc hòa giải với vạn vật, trước "đơn cực vĩnh cửu", đều chỉ là lời mở đầu.

Ông ta từng công khai phản đối một lối kể chuyện, ông nói ông không thích những người sáng lập công ty AI tự mô tả mình như nhà tiên tri dẫn dắt nhân loại đến sự cứu rỗi, cũng cảnh giác với việc một số ít doanh nghiệp dựa vào lợi thế công nghệ để đơn phương định hình tương lai của tất cả mọi người.

Ông ta phản đối nhà tiên tri. Nhưng những gì ông làm, và những gì nhà tiên tri làm, là cùng một việc.

Ông ta thấy mọi nguy hiểm, ngoại trừ chính mình

Hãy quay ngược thời gian về bài viết "Tuổi dậy thì của công nghệ" tháng 1 năm 2026.

Trong bài viết này, Dario Amodei gần như đã tự viết ra tất cả những lời chỉ trích từ bên ngoài dành cho ông và Anthropic.

Ông thừa nhận, các công ty AI tiên phong đang nắm giữ một loại quyền lực mà hiếm có doanh nghiệp tư nhân nào trong lịch sử từng nắm giữ. Ông thậm chí còn nói thẳng rằng, các công ty AI có thể dùng sản phẩm để tác động đến thái độ chính trị của người dùng, thậm chí "tẩy não" người dùng. Ông kêu gọi công chúng phải theo dõi sát sao các công ty AI, chính phủ cũng phải đề phòng những công ty này đến quá gần với quyền lực nhà nước.

Ông cũng lo ngại, AI sẽ khiến của cải và quyền lực chính trị càng tập trung hơn. Một số ít công ty nắm giữ trí tuệ, của cải và thông tin trong tay, ảnh hưởng của công dân thường đối với kinh tế và chính phủ sẽ dần dần suy yếu.

Những nguy hiểm này, ông đều nhìn thấy. Viết rõ ràng, viết đúng trọng tâm. Hiếm có ai đang đứng ở trung tâm quyền lực lại thẳng thắn thừa nhận vị trí của mình nguy hiểm đến vậy.

Chính vì viết quá hay, nên mới phải đặt câu hỏi: Rồi sao nữa?

Mỗi lần ông đưa ra giải pháp, cuối cùng đều quay về cùng một hướng. Đi theo giải pháp của ông đến cùng, Anthropic luôn nắm được nhiều quyền lực hơn trước. Mô hình càng nguy hiểm, càng cần Anthropic ở lại tiên phong; chính phủ càng không hiểu công nghệ, càng phải phụ thuộc vào phán đoán của Anthropic; công chúng càng dễ bị ảnh hưởng bởi mô hình, Anthropic càng phải viết sẵn giá trị cho mô hình; các quốc gia khác càng không đáng tin, Mỹ và các công ty AI của nước này càng nên nắm nhiều chip và sức mạnh tính toán hơn.

Anh ấy thừa nhận mỗi căn bệnh, kê ra đều là cùng một toa thuốc, Anthropic.

Anh ấy tin rằng mình thành thật tin rằng, công nghệ này nguy hiểm đến mức không thể tùy tiện giao vào tay bất kỳ ai. Anh ấy cũng tin rằng mình đã nhìn rõ mối nguy hiểm này sớm hơn đa số mọi người.

Người thành thật, đôi khi là người đầu tiên tự lừa dối chính mình. Đặc biệt khi lợi ích của việc tự lừa dối lớn đến vậy.

Anh ấy dường như thành thật tin rằng, công nghệ này nguy hiểm đến mức không thể tùy tiện giao vào tay bất kỳ ai. Anh ấy lại thành thật tin rằng, mình đã nhìn rõ mối nguy hiểm này sớm hơn đa số mọi người.

Hai câu này đặt cạnh nhau, chính là một bộ ủy quyền tự thân hoàn chỉnh. Anh ấy chưa bao giờ cần tuyên bố mình nên làm người giám hộ của nhân loại. Anh ấy chỉ cần không ngừng loại bỏ những người mà anh ấy cho là không đủ đáng tin cậy, thị trường không được, công chúng không được, các quốc gia độc tài không được, các công ty khác cũng không đủ thận trọng, đến khi mọi người đều bị loại sạch, người còn lại thích hợp nhất để cầm vô lăng, vừa khéo là Anthropic.

Điểm cuối của phương pháp loại trừ, mãi mãi là chính anh ấy.

Anh ấy không tin bất kỳ ai có tư cách thay mặt nhân loại quyết định tương lai.

Thế là, anh ấy quyết định tự mình làm.

Công ty tư nhân cuối cùng

Ngày 14 tháng 8 năm 2026, một câu nói được truyền ra từ một chương trình podcast.

「Bên trong Anthropic, họ rất tự tin. Nhiều người tôi tin tưởng đã nói với tôi rằng: Dario từng nói: Anthropic một ngày nào đó có thể trở thành công ty tư nhân duy nhất trên thế giới.」

Người nói câu này tên là Gavin Baker, một nhà quản lý quỹ đầu cơ từng đầu tư vào SpaceX. Anh ấy bổ sung thêm một câu, rằng trong tầm nhìn đó, chỉ có Anthropic, rồi đến các chính phủ. Chỉ vậy thôi.

Trong vòng một ngày, câu nói này lan truyền trên mạng xã hội.

Cựu cố vấn AI và tiền mã hóa của Nhà Trắng, đồng chủ tịch hiện tại của Hội đồng Cố vấn Khoa học và Công nghệ Tổng thống David Sacks nói: 「Điều này quá tự cao. Ngạo mạn hơi giống SBF.」

Chiều hôm sau, Dario đăng hai bài viết dài trên X để phản hồi.

Bài đầu tiên nói về quản lý. Anh ấy nói, 「hoặc tập trung, hoặc phân tán」 là một lựa chọn giả tạo; một chế độ tốt thực sự, chính xác là có thể phân quyền hóa quyền lực:

「Hệ thống tòa án chính thức đôi khi có vẻ cổ hủ, tinh hoa, nhưng nó bảo vệ kẻ yếu tốt hơn so với lựa chọn còn lại——công lý bạo loạn. Thể chế, trong trường hợp tốt nhất, có thể trao quyền lực cho ý tưởng thay vì cá nhân.」

Bài thứ hai nói về truyền thông tin tức. Ông nói, cảm xúc tiêu cực của công chúng đối với AI là một cuộc khủng hoảng niềm tin. Sau đó, ông viết đoạn nặng nề nhất trong hai bài dài:

「Tôi nghĩ cho đến nay, lời chỉ trích chính xác nhất đối với các công ty AI, bao gồm cả Anthropic, là chúng tôi vẫn chưa thực hiện được lời hứa lớn lao mang lại lợi ích cho thế giới. Điều này hoàn toàn là lỗi của chúng tôi.」

「Cách thực sự hiệu quả là thực sự chữa khỏi bệnh ung thư.」

Hai bài dài, không có một câu nào trực tiếp đáp lại lời đồn đó.Ông dùng một vấn đề thật, để né tránh một vấn đề thật khác.

Ông nói, phải thực sự chữa khỏi bệnh ung thư. Ông muốn nói đến việc dùng AI thúc đẩy toàn bộ tiến bộ y học, để thuốc mới ra đời đủ nhanh, nhanh hơn bất kỳ căn bệnh nào.

Đây là lời nói dành cho một người đã chết năm 2006. Người đó chờ một lọ thuốc, chờ rất lâu, nhưng không đợi được.

Từ đó trở đi, ông tin rằng sự chậm chạp là tội lỗi. Một người tin rằng sự chậm chạp là tội lỗi, sẽ coi sự nhanh chóng là liều thuốc giải duy nhất. Thuốc giải là thứ tốt. Chỉ là ông muốn tất cả mọi người tin rằng, thuốc giải chỉ có thể do ông pha chế.

Năm 1986, nhà văn người Anh Alan Moore xuất bản một bộ truyện tranh tên là《Watchmen》, sau này được chuyển thể thành phim. Trong phim có một nhân vật tên là Adrian Veidt, được gọi là Pharaoh, tự xưng là người thông minh nhất thế giới.

Ông ta nhìn thấy thảm họa sắp đến sớm hơn tất cả mọi người. Chiến tranh hạt nhân, ngày tận thế, loài người tự hủy diệt chính mình. Ông ta đã chuẩn bị cho điều đó nửa đời người. Rồi ông ta hiểu ra, chỉ cảnh báo là vô ích.

Vì vậy, ông ta tự tay kích nổ thảm họa đó. Chỉ trong một đêm, vài thành phố bị xóa sổ khỏi bản đồ.

Ông ta nghĩ rằng chỉ khi để con người tận mắt chứng kiến cảnh hủy diệt, hai siêu cường mới chịu dừng tay, và thế giới từ đó mới có hòa bình.

Ông ta là kẻ sát nhân, cũng là vị cứu thế do chính ông ta tự nhận định.

Cuối câu chuyện, mọi thứ diễn ra đúng như ông ta mong muốn. Ông ta hỏi vị Tiến sĩ Manhattan màu xanh, gần như toàn tri:

「Kết cục? Adrian, không có gì kết thúc cả. Mọi thứ, sẽ không bao giờ kết thúc.」

Liên kết bài gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia