Tiêu đề video gốc: Bên trong tâm trí của CEO Anthropic Dario Amodei | The Circuit | Phỏng vấn mở rộng

Nguồn video gốc: Bloomberg Original
Biên dịch gốc: Web3 Sky City

Lời biên tập: CEO của Anthropic, Dario, hiện đang ở một vị trí rất khó xử. Một mặt, ông sở hữu mô hình AI hàng đầu thế giới, mặt khác, vô tình bị chính phủ Mỹ ra lệnh cấm khiến mô hình này bị ngừng hoạt động toàn cầu, thậm chí những người không phải công dân Mỹ trong nhóm cũng không thể sử dụng.

Chưa rõ vụ việc này sẽ kết thúc thế nào, nghe nói Dario vẫn đang tiếp tục nỗ lực, mọi người có thể tiếp tục theo dõi diễn biến. Nhưng chúng ta có thể nhìn thoáng qua suy nghĩ của vị lãnh đạo nhà máy AI Coding số một đầy tranh cãi này qua cuộc phỏng vấn mới nhất với Emily.

Trong bản đồ quyền lực của Thung lũng Silicon hiện nay, Anthropic đang ở một vị trí trung tâm cực kỳ đặc biệt và đầy căng thẳng. Là đối thủ cạnh tranh mạnh mẽ nhất của OpenAI, nó được thành lập bởi một nhóm các nhà nghiên cứu hàng đầu đã "ra đi" vì bất đồng quan điểm về giá trị.

Khi CEO Dario ngồi dưới ánh đèn sân khấu nói về sự tăng trưởng theo cấp số nhân của AI, ông thể hiện một sự điềm tĩnh hiếm có, giống như một bác sĩ phẫu thuật. Đây không chỉ là một cuộc cạnh tranh về công nghệ, mà còn là một cuộc chơi sâu sắc về lòng tin, an toàn và cách nền văn minh nhân loại tự định vị khi đối mặt với sự bùng nổ trí tuệ.

Tóm tắt toàn văn

Cuộc phỏng vấn mới nhất này đi sâu vào hành trình tâm lý của CEO Anthropic, Dario, khi đối mặt với sự tăng trưởng theo cấp số nhân của AI, bao gồm nội tình về việc rời khỏi OpenAI, lựa chọn mô hình kinh doanh của công ty, cũng như tác động sâu rộng của AI đến thị trường việc làm, an ninh mạng và địa chính trị.

CEO giải thích chi tiết cách Anthropic kiểm soát quyền lực thông qua các cơ chế như thành lập "Quỹ tín thác lợi ích dài hạn", đồng thời theo đuổi vị thế dẫn đầu công nghệ, nhưng vẫn thực thi các giá trị an toàn của mình bằng cách thiết lập "ranh giới đỏ" và trì hoãn phát hành các mô hình rủi ro cao (như Mythos).

Lưu ý, phát ngôn của Dario luôn không mấy thân thiện với phương Đông, mọi người tự phân biệt.

Quan điểm cốt lõi

· Ngành AI đang ở trong một "giai đoạn tăng trưởng theo cấp số nhân ổn định", sự tăng trưởng này khi tích lũy đủ lượng sẽ tạo ra cảm giác bùng nổ về chất.

· Niềm tin là nền tảng hợp tác trong ngành AI, Anthropic chủ trương các bên tham gia đáng tin cậy nên liên kết để thiết lập tiêu chuẩn ngành.

· Mô hình kinh doanh doanh nghiệp có tính tương thích cao hơn với các giá trị an toàn AI, tránh được các vấn đề gây nghiện và cạnh tranh nội dung kém chất lượng thường thấy trong thị trường tiêu dùng.

· Đối với rủi ro thất nghiệp do AI gây ra, xã hội cần dự đoán trước và xây dựng các chính sách kinh tế vĩ mô, đồng thời tìm kiếm trò chơi tổng dương "làm nhiều hơn với cùng một nguồn lực".

· Ứng dụng quân sự phải tuân thủ nguyên tắc "con người trong vòng lặp", giữ vững ranh giới đỏ về giám sát quy mô lớn và vũ khí hoàn toàn tự động.

Dưới đây là cuộc phỏng vấn đầy đủ:

Áp lực và trải nghiệm tăng trưởng theo cấp số nhân

Emily Chang: Anh có thời gian ngủ bao nhiêu?

Dario Amodei: Tôi chưa bao giờ là người có chất lượng giấc ngủ tốt. Chỉ có thể nói, tôi đang học nghệ thuật thư giãn và chìm vào giấc ngủ trong những khoảnh khắc căng thẳng phi thường.

Emily Chang: Mọi thứ phát triển quá nhanh. Cảm giác khi ở trong đó là gì?

Dario Amodei: Đó là một cảm giác theo cấp số nhân. Giống như, giả sử bạn lái tàu vũ trụ rời khỏi Trái Đất với tốc độ tương đối tính. Cách hoạt động của thuyết tương đối hẹp là, khi bạn ngủ một giấc dậy, trên Trái Đất đã trôi qua hai ngày. Vì vậy bạn phải xử lý công việc của hai ngày trong một ngày.

Sau đó bạn lại đi ngủ, vì bạn tiếp tục tăng tốc, trên Trái Đất đã trôi qua ba ngày. Rồi ngày hôm sau, bốn ngày trôi qua. Cảm giác đó đại khái là như vậy.

Emily Chang: Anh có thường xuyên cảm thấy lo lắng bất an vì sợ phải đối mặt với điều gì sau khi thức dậy không?

Dario Amodei: Chúng tôi đã có đủ những vấn đề rõ ràng và cấp bách cần xử lý, tôi vừa giải quyết những vấn đề này, vừa suy nghĩ cách chuẩn bị. Nhưng tôi nghĩ sự hoang tưởng hay lo lắng về những gì sẽ đối mặt sau khi thức dậy chẳng có ích gì. Tôi đã nghiên cứu những người từng xử lý các tình huống áp lực cao như vậy trong lịch sử. Bạn cần học cách ứng phó lý trí, đừng so sánh mức độ nguy hiểm khác nhau.

Trạng thái dao động qua lại giữa "Tôi không lo lắng" và "Trời ơi, hôm nay chúng ta phải hoảng loạn" này, tôi cho rằng đó là dấu hiệu của sự thiếu chín chắn trong quyết định. Còn một quyết định thực sự chín chắn là, bạn không thể phớt lờ điều này, và chúng ta cũng không thể chủ quan.

Thực tế, điều này đang ngày càng trở nên rủi ro hơn, nhưng chúng ta phải đối mặt một cách lý trí, giống như bác sĩ phẫu thuật xử lý ca mổ vậy. Hoặc, giống như sĩ quan chỉ huy một chiến dịch quân sự, hay bất kỳ ai đưa ra quyết định ảnh hưởng đến nhiều người, đều phải đưa ra những quyết định đó một cách lý trí. Và họ phải hiểu rõ rủi ro, nhưng họ cũng phải giữ được sự bình tĩnh cơ bản.

Vì vậy, hôm qua con trai tôi hỏi có thể dùng tài khoản Claude của tôi không, tôi nói nhất định không được, tôi cần tokens của mình. Chúng tôi cũng ngày càng thấy nhiều ứng dụng này ở thị trường tiêu dùng, ban đầu chúng tôi hy vọng sẽ trở thành một công ty tập trung nhiều hơn vào doanh nghiệp, nhưng dù chúng tôi không đầu tư nhiều công sức, mảng kinh doanh tiêu dùng cũng bắt đầu tăng trưởng nhanh chóng.

Emily Chang: Hiện tại anh đang ở trung tâm của vũ trụ AI, cảm giác đó thế nào?

Dario Amodei: Điều thú vị là, trong suốt sự nghiệp của tôi, đặc biệt là từ khi gia nhập Anthropic, những gì tôi trải qua là một sự tăng trưởng theo cấp số nhân ổn định.

Trải nghiệm của sự tăng trưởng theo cấp số nhân ổn định này là: không có gì xảy ra, không có gì xảy ra, không có gì xảy ra, rồi một vài chuyện nhỏ xảy ra, và sau đó đột nhiên, nó bùng nổ dữ dội. Đó là trải nghiệm của thế giới này. Đó cũng là trải nghiệm về quy mô của công ty so với các công ty khác và so với thế giới này.

Vì vậy, tôi đã nhìn chằm chằm vào biểu đồ này rất lâu, và tôi nói, rất có thể vào khoảng thời gian này, chúng ta sẽ trở thành công ty AI có doanh thu cao nhất và định giá cao nhất. Đúng vậy, điều đó đã xảy ra. Nó đã xảy ra. Vậy nên theo một nghĩa nào đó, tôi không cảm thấy ngạc nhiên, bởi vì đường cong trên biểu đồ rất mượt mà.

Nhưng tất nhiên, nhìn từ góc độ khác, khi mọi thứ thực sự xảy ra, bạn sẽ thấy nhiều chi tiết và màu sắc phong phú hơn. Và, điều này chắc chắn là đáng ngạc nhiên.

Chúng tôi luôn ghi nhớ những vấn đề mà chúng tôi thường quan tâm, đó là làm thế nào để đào tạo ra những mô hình xuất sắc? Làm thế nào để áp dụng chúng vào những sản phẩm tuyệt vời? Làm thế nào để đảm bảo mọi thứ đều an toàn? Làm thế nào để vừa giúp đỡ mọi người, vừa kiểm soát các rủi ro xã hội phát sinh từ công nghệ này? Tất cả đều là những vấn đề giống nhau, chỉ là được xem xét dưới một kính hiển vi lớn hơn mà thôi.

Bối cảnh trưởng thành và tinh thần Thung lũng Silicon

Emily Chang：Khi lớn lên ở San Francisco, bạn là một đứa trẻ như thế nào? Tôi biết cha bạn từng là thợ thủ công da, mẹ bạn làm việc trong thư viện, điều này đã ảnh hưởng đến bạn ra sao?

Dario Amodei：Lúc đó, cuộc cách mạng internet đang diễn ra ngay xung quanh tôi, nhưng tôi chẳng hề quan tâm. Tôi chỉ thích nghiên cứu toán học và những thứ như vẽ vời. Tôi rất hứng thú với việc khám phá vũ trụ. Tôi cũng rất thích khoa học viễn tưởng. Nhìn chung, đó là môi trường của tôi lúc bấy giờ. Tôi nghĩ đơn giản là tôi có một sự tò mò mãnh liệt về thế giới này.

Emily Chang：Bạn lớn lên ở một nơi được gọi là trung tâm công nghệ. Và giờ đây nó lại là trung tâm của AI. Nơi này, thành phố này, có yếu tố nào định hình thế giới quan của bạn không?

Dario Amodei：Có. Tôi nghĩ rằng tinh thần chung về việc không chạy theo đám đông, đề cao chủ nghĩa cá nhân, và cho rằng "hơi điên một chút cũng không sao" là có thật. Tôi nghĩ một phần lớn trong số đó có thể đã ảnh hưởng ngấm ngầm đến tôi.

Bạn sẽ nghe những câu chuyện, chẳng hạn như khi đến một số quốc gia châu Âu, hoặc thậm chí các khu vực khác của đất nước này, cách suy nghĩ khác biệt thường bị kìm hãm hoặc bị coi là kỳ quặc, hoặc có những ý tưởng điên rồ.

Thực ra tôi có nhiều chỉ trích về Thung lũng Silicon, nhưng tôi nghĩ nó có một điểm tốt, đó là khuyến khích một triết lý: kể cả khi tất cả chuyên gia đều phản đối bạn, điều đó cũng chẳng sao. Nếu bạn có một tầm nhìn nhất quán và một thế giới quan nhất quán, bạn nên theo đuổi nó, đó mới là điều quan trọng nhất. Có thể nó sẽ chẳng thành công.

Nhưng nếu thành công, nó sẽ có hiệu ứng đuôi dài, ở một số lĩnh vực bạn có thể đào sâu, và cuối cùng có thể tìm thấy một mỏ vàng khổng lồ ở đó. Tôi nghĩ tinh thần này rất quan trọng.

Emily Chang：Bạn, Daniela, em gái bạn, và chồng của cô ấy là Holden Karnovsky, từng sống cùng nhau trong một căn nhà thuê chung vào năm 2016. Lúc đó các bạn đang tranh luận về điều gì?

Dario Amodei：Tôi nghĩ đó là thời điểm dự án Open Philanthropy vừa mới khởi động, Holden là người phụ trách dự án đó. Lúc đó tôi là một nhà khoa học sinh học. Vì vậy tôi đã hỗ trợ họ xử lý một số vấn đề liên quan đến sức khỏe hoặc nghiên cứu sinh học ở các nước đang phát triển. Nói cách khác, tôi đã đưa ra một số lời khuyên cho những chủ đề đó. Ví dụ như, lĩnh vực nào có triển vọng? Lĩnh vực nào không có nhiều triển vọng?

Bất đồng cốt lõi khi rời OpenAI

Emily Chang：Quyết định rời OpenAI của anh đã trở thành huyền thoại ở Thung lũng Silicon. Chuyện gì đã thực sự xảy ra? Bỏ qua những câu chuyện kể, vấn đề cốt lõi là gì? Các anh bất đồng ở những điểm nào?

Dario Amodei：Nghe này, tôi sẽ nói ra, và tôi sẽ nói một cách rất đơn giản và rõ ràng. Khi bạn xây dựng một công nghệ mạnh mẽ, bạn sẽ phải đối mặt với nhiều vấn đề khó khăn, và Anthropic cũng trải qua điều đó mỗi ngày. Chúng tôi không biết liệu những quyết định mình đưa ra là đúng hay sai.

Vì vậy, có nhiều tranh cãi hợp lý về vấn đề an toàn. Tất nhiên chúng tôi đã có một số bất đồng với họ, nhưng hãy hiểu rằng, chỉ riêng điều đó thôi không đủ để trở thành lý do rời đi. Ở đây cũng có những người từng bất đồng với tôi. Ở đây cũng có những người bất đồng với nhau.

Nhưng khi bạn cảm thấy không thể tin tưởng ai đó, khi bạn cảm thấy giá trị của họ không như những gì họ nói, khi bạn cảm thấy họ không đủ trung thực, khi bạn cảm thấy họ hành động không vì những lý do họ tuyên bố, khi bạn thấy những mô hình hành vi đáng lo ngại hoặc sự thiếu trung thực, điều đó khiến bạn khó có thể tiếp tục làm việc trong công ty và khó có thể tiếp tục tin tưởng công ty đó. Nói tóm lại, khi bạn không có tầm nhìn chung với ai đó và không còn tin tưởng họ nữa, thì còn tranh luận để làm gì?

Giải pháp là mỗi người một ngả, bạn làm việc của bạn, họ làm việc của họ. Tôi hoàn toàn thoải mái chấp nhận điều này: chúng tôi làm theo cách của mình, còn họ làm theo cách của họ. Chúng ta sẽ chờ xem ai thắng trên thị trường, ai thắng trước tòa án dư luận. Tôi cho rằng những sự thật này mạnh hơn mọi lời biện minh, thuyết phục hơn bất kỳ suy đoán kịch tính nào về việc ai rời đi và tại sao lại rời đi.

Chúng ta cần hiểu rằng, chúng tôi đang cung cấp một hình mẫu về cách triển khai công nghệ này, theo cách mà chúng tôi cho là có trách nhiệm. Nếu họ có ý kiến phản đối, họ nên đưa ra lập luận. Tôi nghĩ không cần phải nói nhiều về chuyện này.

Hợp tác ngành và xây dựng lại lòng tin

Emily Chang: Tại hội nghị thượng đỉnh về AI ở Ấn Độ, có một khoảnh khắc bạn và Sam Altman dường như từ chối bắt tay trên sân khấu. Chuyện gì đã xảy ra vậy?

Dario Amodei: Tình hình lúc đó là, hội nghị đó được tổ chức cực kỳ hỗn loạn. Cả hai chúng tôi đều lên sân khấu vào phút chót, và họ thay đổi thứ tự vị trí của chúng tôi một cách tùy tiện. Sau đó, họ chụp ảnh chúng tôi, rồi ra lệnh cho tất cả nắm tay nhau. Nếu bạn từng tham dự những hội nghị kiểu này – tôi không có ý nói xấu Ấn Độ – nhưng những hội nghị quốc tế có sự tham gia của nguyên thủ quốc gia thường được tổ chức rất hỗn loạn.

Emily Chang: Nhưng những người khác đều nắm tay nhau. Thôi nào.

Dario Amodei: Nghe này, tôi không biết phải nói với bạn thế nào, được chứ? Lúc đó Narendra Modi đang ở trên sân khấu, đột nhiên kêu gọi mọi người nắm tay nhau.

Emily Chang: Được rồi, được rồi.

Bình luận viên: Bạn thấy đấy, Sam và Elon đang kiện nhau. Có vẻ như bạn không thích Sam.

Emily Chang: Nếu những nhà phát triển công nghệ quan trọng nhất thế giới không thể nắm tay nhau trên sân khấu, thì làm sao chúng tôi có thể tin rằng các bạn sẽ hợp tác về các vấn đề rủi ro sinh tồn?

Dario Amodei: Vậy thì, đây là điều tôi muốn nói với các bạn. Trong số những người xây dựng công nghệ này, có sự khác biệt rất lớn về phẩm chất và độ tin cậy. Tôi nghĩ điều này có nghĩa là, những người khác nhau, cho rằng không ai tin tưởng lẫn nhau, tôi không cho rằng điều đó là đúng.

Tôi biết Demis Hassabis, người xây dựng mô hình Gemini, những mô hình cạnh tranh với Claude. Tôi đã quen họ 15 năm rồi. Chúng tôi từng hợp tác xử lý nhiều vấn đề. Chúng tôi mua tài nguyên tính toán từ Google. Chúng tôi thường xuyên trao đổi ý tưởng về an toàn.

Vì vậy, quan điểm của tôi là, trước hết, có một số bên tham gia đáng tin cậy hơn những bên khác. Và tôi nghĩ rằng bên ngoài Anthropic cũng có những bên tham gia mà tôi tin tưởng, tôi cho rằng họ là những người đáng tin cậy. Điều cần xảy ra là các bên tham gia đáng tin cậy cần liên kết với nhau để đối phó với những bên tham gia không đáng tin cậy. Buộc các bên tham gia phải tuân theo cùng một tiêu chuẩn.

Qua nhiều kinh nghiệm, tôi nhận ra rằng một số người sẽ không tự giác làm điều đúng đắn. Nhưng nếu phần lớn trong ngành đều làm điều đúng đắn, thì tôi nghĩ những người khác trong ngành sẽ không còn lựa chọn nào khác ngoài việc đi theo dòng chảy. Điều này giống như một phiên bản tích cực, bạn truyền cảm hứng cho người khác.

Giống như Demis và tôi truyền cảm hứng cho nhau vậy. Anh ấy đang làm AlphaFold. Chúng tôi cũng đang cố gắng làm một số điều trong lĩnh vực sinh học, chúng tôi đang làm về khả năng giải thích. Họ đã bắt đầu nghiên cứu về khả năng giải thích. Điều này thậm chí không phải là cạnh tranh.

Chỉ là vì mỗi công ty đều đang làm những điều rất thú vị. Và các công ty khác sẽ nghĩ, điều đó thật tuyệt. Chúng tôi cũng muốn thử xem liệu có thể tạo ra điều gì mới mẻ từ đó không. Đây là mặt "củ cà rốt" trong cạnh tranh đỉnh cao. Sau đó là mặt "cây gậy", hoặc "cây gậy" ngầm, đó là bạn nhận ra rằng những người này đang làm điều đúng đắn. Nếu người khác không làm điều đúng đắn, trông họ sẽ rất tệ.

Chúng tôi thường thấy hành vi như thế này: họ miễn cưỡng làm điều đúng đắn, nhưng lại cố gắng giả vờ rằng họ đang làm điều khác biệt, và ám chỉ rằng chúng tôi có một số ý đồ tồi tệ hoặc xấu xa, điều này có thể đoán trước được. Nhưng tôi nghĩ, đây chính là cách chúng tôi hợp nhất ngành và thúc đẩy sự hợp tác trong ngành.

Mô hình kinh doanh: Sự phù hợp giữa doanh nghiệp và giá trị

Emily Chang: Trước đó, những người khác tập trung vào các ứng dụng tiêu dùng thú vị và hào nhoáng. Còn bạn lại đặt cược vào lĩnh vực mã hóa và doanh nghiệp, Claude Code đã thành công rực rỡ, Claude Co-work cũng thành công rực rỡ. Tại sao bạn lại đặt cược đó? Đó là quyết định dựa trên giá trị hay dựa trên kinh doanh?

Dario Amodei: Khi chúng tôi thành lập Anthropic, điều căn bản nhất, điều luôn quan trọng, là mong muốn từ sâu thẳm trong lòng chúng tôi. Chúng tôi muốn thực hiện điều này theo cách đúng đắn. Nhưng bạn phải tự hỏi, để tài trợ cho quá trình tạo ra các mô hình cực kỳ đắt đỏ này, công ty phải có mô hình kinh doanh phù hợp. Vậy, mô hình kinh doanh có cản trở việc thực hiện các giá trị không?

Vấn đề này luôn tồn tại. Nhưng điều tôi học được từ việc làm việc tại các công ty khác và quan sát họ là: Nếu bạn chọn một mô hình kinh doanh xung đột căn bản với giá trị của mình, bạn sẽ gặp khó khăn. Bạn sẽ phải từ bỏ giá trị của mình, hoặc bị thời đại đào thải.

Cuối cùng, bạn sẽ rơi vào tình thế tiến thoái lưỡng nan; dù có cách để né tránh, nhưng đó vẫn là một cục diện rất khó xử. Tốt hơn hết là chọn một mô hình kinh doanh tương thích với giá trị của bạn.

Vì vậy, khi chúng tôi nghĩ về vấn đề này, chúng tôi cho rằng, bạn thấy đấy, chúng tôi đã chứng kiến thế giới mạng xã hội và lĩnh vực tiêu dùng, nó dường như thực sự khuyến khích sự tương tác, thậm chí là gây nghiện. Loại nội dung cẩu thả mà chúng tôi thấy từ các mô hình video AI có logic đằng sau là tối đa hóa thời gian chú ý bạn dành ra, bởi vì đằng sau đó là cơ chế khuyến khích do doanh thu quảng cáo thúc đẩy.

Tuy nhiên, nếu chúng ta xem xét lĩnh vực doanh nghiệp, bạn thấy đấy, ý định ban đầu của chúng tôi là hy vọng những mô hình này có thể hữu ích cho mọi người. Nếu tôi nghĩ về tất cả những điều tích cực có thể làm với AI, tôi thường nhắc mọi người về những tác động tiêu cực, nhưng về cơ bản, chúng tôi tin rằng mặt tích cực cuối cùng sẽ thắng thế mặt tiêu cực. Nhiều ứng dụng tích cực trong số đó về cơ bản thuộc về phạm trù ứng dụng doanh nghiệp.

Chúng tôi muốn sử dụng AI để chữa trị những căn bệnh trước đây không thể chữa khỏi, điều này đòi hỏi hợp tác với các công ty công nghệ sinh học, công ty dược phẩm và các tổ chức nghiên cứu học thuật. Tất cả những thứ này đều là doanh nghiệp, và chúng tôi muốn sử dụng AI để làm cho năng lượng rẻ hơn và hiệu quả hơn. Tất cả đều thuộc về ứng dụng doanh nghiệp.

Chúng tôi muốn sử dụng AI để hỗ trợ giáo dục. Phần lớn trong số đó thuộc về ứng dụng cấp doanh nghiệp. Chúng tôi muốn sử dụng AI để giải quyết các vấn đề về sức khỏe và phát triển ở các nước đang phát triển. Dù chúng là các tổ chức phi lợi nhuận, nhưng về bản chất vẫn thuộc phạm trù doanh nghiệp. Chúng tôi muốn thúc đẩy tăng trưởng kinh tế. Điều này về cơ bản cũng thuộc phạm vi cấp doanh nghiệp.

Ngoài ra, tôi nghĩ còn có một yếu tố khác, đó là doanh nghiệp rất coi trọng lòng tin và các mối quan hệ lâu dài, các ứng dụng tiêu dùng đôi khi mang cảm giác câu khách, trong khi ở cấp doanh nghiệp, điều quan trọng là xây dựng mối quan hệ hợp tác, nơi bạn làm việc với một công ty trong nhiều năm, bạn nói được làm được, họ cũng nói được làm được, và về cơ bản họ tin tưởng bạn.

Vì vậy, điều này rất đồng bộ với mục tiêu triển khai các mô hình này một cách tích cực và an toàn của chúng tôi. Do đó, tôi cho rằng việc sở hữu một mô hình kinh doanh phù hợp cao độ với giá trị của chúng tôi là rất có lợi.

Không phải là đôi khi không có xung đột, cũng không phải là chúng tôi không cần đưa ra những lựa chọn khó khăn, nhưng tôi nghĩ số lượng những lựa chọn như vậy ít hơn nhiều so với các trường hợp khác.

Hào hào cạnh tranh và "Ngày tận thế SaaS"

Emily Chang: Các nhà phát triển có thể chuyển từ Claude sang GPT hoặc Gemini chỉ trong một buổi chiều. Liệu có thực sự khả thi để duy trì vị thế dẫn đầu lâu dài trong ngành này không? Và theo ông, một đối thủ cạnh tranh nghiêm túc cần bao lâu để sao chép những gì các ông đã xây dựng?

Dario Amodei: Chất lượng mô hình mới là điều quan trọng nhất. Ví dụ, hiện tại chúng tôi đang dẫn đầu xa về chất lượng mô hình. Dù có một số quán tính nhất định, nhưng tôi không bao giờ dựa vào điều đó, tôi chưa bao giờ dựa vào, hay nói đúng hơn là Anthropic chưa bao giờ dựa vào ý tưởng "sản phẩm có độ dính cao, người dùng sẽ không chuyển đổi".

Tôi cho rằng bạn vẫn muốn có một mô hình tốt hơn. Bạn muốn có một sản phẩm tốt hơn. Và chúng tôi thấy rằng tốc độ tăng trưởng hoàn toàn không có dấu hiệu giảm sút, nếu có điều gì thay đổi, thì chúng còn tăng lên, ít nhất là vào thời điểm chúng ta ghi lại cuộc phỏng vấn này. Vì vậy, tôi nghĩ đây là điều quan trọng nhất.

Emily Chang: Ngay sau khi Claude Co-Work được ra mắt, 285 tỷ đô la giá trị thị trường đã bốc hơi chỉ sau một đêm, và các nhà giao dịch gọi đó là Ngày tận thế SaaS (SaaSpocalypse). Nếu AI tiếp tục cải thiện với tốc độ này, bao nhiêu phần mềm truyền thống sẽ bị thay thế, và tốc độ thay thế sẽ nhanh đến mức nào?

Dario Amodei: Đây là loại câu hỏi rất khó dự đoán trước, nếu bạn có thể dự đoán hoàn hảo trước thời hạn, thì người ta đã làm rồi, họ sẽ kiếm được khối tài sản khổng lồ trên thị trường và luôn đúng.

Vì vậy, không ai biết chính xác điều gì sẽ xảy ra, nhưng tôi sẽ chỉ ra một vài điểm: tất cả các công ty phần mềm truyền thống này đều có một số hào hào cạnh tranh. Tôi nghĩ điều sẽ xảy ra là một số hào hào đó sẽ biến mất, nhưng một số khác sẽ được giữ lại. Khả năng viết phần mềm nhanh chóng, tôi chắc chắn nghĩ rằng điều này sẽ biến mất, nếu hào hào của bạn là "chúng tôi viết loại phần mềm phức tạp mà không ai có thể viết được", thì, chúc bạn may mắn. Bạn sẽ không thể bảo vệ điều đó.

Nhưng tôi nghĩ mọi người có mối quan hệ với khách hàng. Mọi người có kiến thức chuyên môn về cách lĩnh vực đó vận hành. Mọi người có kiến thức lĩnh vực độc đáo. Vì vậy, lời khuyên của tôi cho tất cả những người này rõ ràng là: đừng tự mãn. Đừng phớt lờ nó. Hãy liệt kê tất cả các hào hào của bạn, và hiểu rõ rằng một số sẽ biến mất, trong khi những cái khác sẽ trở nên tương đối quan trọng hơn, vì chúng là yếu tố hạn chế. Và cũng có thể sẽ xuất hiện những hào hào mới.

Tôi cho rằng những ai có thể xoay chuyển linh hoạt, dựa vào những hào lũy vẫn còn tồn tại và tận dụng những hào lũy mới, sẽ làm rất tốt. Còn những ai tự mãn, chỉ tự lừa dối bản thân rằng những gì hiệu quả trong quá khứ sẽ mãi hiệu quả trong tương lai, họ sẽ không có ngày tốt lành. Đó là lời khuyên tôi muốn đưa ra.

Và tôi nghĩ rốt cuộc, tôi đoán – tất nhiên điều này phụ thuộc vào cách bạn định nghĩa SaaS và những gì bạn cho là không phải SaaS – nhưng tôi đoán rằng ngành công nghiệp phần mềm sẽ trở nên lớn hơn, chứ không nhỏ đi, mặc dù trong đó sẽ xuất hiện một số kẻ thua cuộc lớn.

Emily Chang: Hãy giải thích điều đó.

Dario Amodei: Tôi chỉ nghĩ rằng chiếc bánh đang ngày càng lớn hơn, chẳng hạn, tôi cho rằng với AI, chiếc bánh này đang trở nên to hơn. Các doanh nghiệp lâu đời hiện tại có thể trở nên nhỏ hơn về mặt tương đối. Giá trị của một số doanh nghiệp trong số đó có thể giảm. Nếu chúng không thể điều chỉnh theo hướng đúng đắn, một số thậm chí có thể phá sản.

Nhưng tôi nghĩ khi tốc độ tăng trưởng rất nhanh, bạn thường thấy điều này: nếu tiềm năng của AI tăng gấp 10 lần, thì các ngành công nghiệp hiện tại tăng 1,5 lần là rất dễ dàng, chỉ là mức tăng không nhiều bằng toàn bộ chiếc bánh lớn hơn mà thôi. Vì vậy, tôi nghĩ điều này có thể xảy ra.

Điều này không có nghĩa là chúng ta sẽ không thấy một số kẻ thua cuộc lớn. Tôi cho rằng những ai không thích nghi, bịt tai trộm chuông, không nhìn thấy xu hướng tương lai, và không thể nhận diện hào lũy của chính mình, sẽ phải đối mặt với tình cảnh rất khó khăn.

Sức mạnh tính toán, Tài trợ và Đối tác

Emily Chang: Những người ủng hộ lớn nhất của bạn là các công ty như Amazon, Google, Microsoft và NVIDIA. Mỗi công ty đều có chương trình nghị sự riêng. Họ vừa là đối tác vừa là đối thủ cạnh tranh. Các bạn có những cột mốc thương mại khổng lồ gắn liền với tài trợ. Ai thực sự là người nắm quyền kiểm soát?

Dario Amodei: Chúng tôi đã nhiều lần thẳng thắn bày tỏ suy nghĩ thực sự của mình. Tôi luôn rất rõ ràng khi chủ trương áp đặt kiểm soát đối với việc xuất khẩu chip sang Trung Quốc, tôi nói điều này vì tôi cho rằng nếu Trung Quốc dẫn đầu về năng lực AI, điều đó sẽ rất tồi tệ cho nước Mỹ và tiến trình toàn cầu. Và một số nhà sản xuất chip rõ ràng không đồng tình với quan điểm này. Nhưng điều đó không ngăn cản tôi bày tỏ ý kiến của mình.

Ngay cả sau khi chúng tôi ký kết thêm nhiều thỏa thuận hợp tác, tôi vẫn nhấn mạnh điều này ngay bây giờ. Những gì họ biết là chúng tôi luôn hợp tác với họ. Chúng tôi luôn là đối tác tốt. Chúng tôi có thể làm việc cùng nhau. Tôi chắc rằng họ muốn chúng tôi không nói những điều này, nhưng đây thực sự là những gì tôi tin tưởng.

Bạn định làm gì? Cuối cùng họ cũng sẽ đồng ý thôi. Lợi nhuận họ thu được từ các giao dịch này cũng tương đương với chúng tôi. Nhìn này, tất cả chúng ta đều là người trưởng thành. Chúng ta có thể hợp tác trong một việc, đồng thời giữ quan điểm khác biệt trong một việc khác.

Emily Chang: Bloomberg đưa tin rằng định giá của các bạn thậm chí còn cao hơn OpenAI. Chúng ta đang nói về một công ty khởi nghiệp mới thành lập năm năm, với định giá gần một nghìn tỷ đô la. Bạn hiểu điều này như thế nào? Về con số đó, và vì bạn có kỷ luật hơn trong việc quản lý tài nguyên tính toán và có lộ trình sinh lời nhanh hơn, tại sao bạn lại cần nhiều tiền đến vậy?

Dario Amodei: Việc mở rộng quy mô tài nguyên tính toán diễn ra rất nhanh, nên thực tế là nền tảng kinh doanh trông có vẻ tốt, nhưng một năm sau, quy mô tài nguyên tính toán của bạn có thể gấp 3 hoặc 4 lần hiện tại – tôi sẽ không đưa ra con số chính xác, nhưng sự tăng trưởng của loại tài nguyên tính toán này rất nhanh chóng.

Chúng tôi hoàn toàn có lý do để tin rằng tăng trưởng doanh thu sẽ đạt và vượt qua các quy mô này. Và việc huy động vốn chính là biện pháp đệm để đối phó với phạm vi bất định này.

Vì vậy, đây hoàn toàn là một hành động hợp lý. Việc pha loãng cổ phần do điều này gây ra là rất nhỏ, và về mặt logic, hai điều này hoàn toàn không giống nhau. Thực tế, nó tương thích với mặt đối lập, và điều này không có nghĩa là nền tảng kinh doanh có vấn đề gì.

Emily Chang: Có báo cáo về tình trạng quá tải máy chủ, vấn đề về độ tin cậy, và người dùng phàn nàn về việc hết token. Bạn nói rằng các công ty khác đang đặt cược tất cả vào việc xây dựng cơ sở hạ tầng. Bạn thực sự có những gì bạn cần, hay bạn đang chạy theo để bắt kịp?

Dario Amodei: Về sức mạnh tính toán, một trong những điểm cần lưu ý là có cái gọi là sức mạnh tính toán tiếp thị. Vì vậy, quan điểm của tôi là, sau một khoảng thời gian, thậm chí lâu hơn vài tháng, chúng tôi có thể có được một lượng lớn sức mạnh tính toán. Điều đáng nói ở đây là, tôi không nghĩ rằng theo bất kỳ tiêu chuẩn hợp lý nào, chúng tôi đã mua quá ít sức mạnh tính toán.

Vì vậy, kế hoạch ban đầu của chúng tôi là sức mạnh tính toán sẽ tăng gấp 10 lần mỗi năm.

Mức tăng gấp 10 lần mỗi năm là điều chúng tôi kỳ vọng. Nhưng đó không phải là những gì chúng tôi đang thấy hiện tại. Trong quý 1 năm 2026, doanh thu theo quý của chúng tôi đã tăng hơn gấp 3 lần, đây chỉ là số liệu của một quý, chứ không phải tăng trưởng theo năm; tăng gấp 3 lần trong một quý, và tất nhiên, 3 mũ 4 có nghĩa là tăng trưởng cả năm sẽ đạt 80 lần.

Chúng tôi đã không lường trước được mức tăng trưởng 80 lần mỗi năm. Lập kế hoạch với mục tiêu tăng trưởng 80 lần mỗi năm là không hợp lý, bởi vì nếu cuối cùng chỉ đạt được mức tăng 10 lần, bạn sẽ thiếu hụt tới 8 lần. Vì vậy, chúng tôi đang ở trong một giai đoạn cục bộ cực đoan, bùng nổ sức mạnh tính toán. Tình trạng này sẽ không kéo dài.

Nếu tình trạng này tiếp diễn, đến cuối năm bạn sẽ có một con số doanh thu mà không một công ty nào trên Trái Đất có thể đạt được. Tôi không nghĩ điều đó sẽ xảy ra. Nó chỉ là, nó thực sự không thể kéo dài.

Nhưng bạn có thể trải qua những giai đoạn ngắn ngủi như vậy, và bạn sẽ thốt lên, trời ơi, điều này nhanh hơn nhiều so với bất kỳ dự đoán nào trước đây của chúng ta. Nhưng tôi không biết, bạn đã thấy thỏa thuận sức mạnh tính toán với Google, và cũng đã thấy thỏa thuận với Amazon. Chúng tôi có thể và sẽ làm được nhiều hơn thế nữa.

Ví dụ, thị trường có tính thanh khoản. Nếu bạn có thể sử dụng sức mạnh tính toán một cách rất hiệu quả và có nhu cầu, bạn sẽ có được sức mạnh tính toán cần thiết. Có thể chỉ mất một hoặc hai tháng.

Dẫn đầu cuộc đua đỉnh cao và văn hóa công ty

Emily Chang: Cảm giác vượt qua đối thủ truyền kiếp của bạn thế nào?

Dario Amodei: Nghe này, trước mắt chúng tôi còn nhiều thách thức khó khăn. Chúng tôi có một triết lý "chạy đua lên đỉnh cao", tức là cố gắng kéo các công ty khác cùng đi theo. Tôi nghĩ chúng tôi đã thấy rằng, chúng tôi thực sự đã kéo họ đi theo. Đôi khi họ không thừa nhận điều đó.

Đôi khi họ vừa tấn công chúng tôi vừa bắt chước chúng tôi, nhưng hiệu ứng kéo theo này rất có giá trị.

Vì vậy, tôi cho rằng, dù từ góc độ thương mại hay từ góc độ mô hình, giá trị của việc trở thành doanh nghiệp dẫn đầu ngành không nằm ở việc đánh bại đối thủ vì cạnh tranh. Ý nghĩa của nó là có khả năng dẫn dắt toàn bộ hệ sinh thái cùng phát triển, và chúng tôi hy vọng trong tương lai sẽ làm được nhiều hơn nữa trong lĩnh vực này.

Emily Chang： Nhưng phải nói rằng, giành chiến thắng thực sự mang lại cảm giác rất tuyệt.

Dario Amodei： Bạn thấy đấy, chúng tôi luôn nỗ lực để thành công, phải không? Giống như chúng tôi luôn cố gắng, chúng tôi không muốn thất bại ở đây, tôi không phải là người nghĩ rằng chúng ta nên dừng sự phát triển của công nghệ này, không nên xây dựng nó. Chúng tôi tồn tại trong hệ thống doanh nghiệp tự do, và điều đó không có vấn đề gì. Chúng tôi chỉ phải giảm thiểu rủi ro từ các mô hình, vì vậy, đây luôn là việc tìm kiếm sự cân bằng giữa hai yếu tố.

Emily Chang： Vậy thì, trong phần lớn lịch sử của Anthropic, các bạn luôn ở thế yếu. Tôi nghĩ, khi bạn chẳng có gì, việc chiếm lĩnh đỉnh cao đạo đức sẽ dễ dàng hơn. Ở quy mô này, việc giữ vững tầm nhìn ban đầu khó khăn đến mức nào?

Dario Amodei： Tôi muốn nói rằng, tôi dành rất nhiều thời gian để suy nghĩ về lý do tại sao điều này lại như vậy.

Khi công ty không ngừng mở rộng, tôi luôn cảnh giác ở mọi giai đoạn quy mô. Ở mỗi giai đoạn phát triển của công ty, đều xuất hiện những thách thức mới. Công ty có thể mất đi bản sắc của mình theo một cách mới nào đó. Dù là sự năng động trong kinh doanh hay các giá trị cốt lõi của nó.

Tôi lo ngại về cả hai điều này, vì tôi nghĩ chúng có tác dụng tương hỗ.

Thực tế, tôi cho rằng việc chúng tôi có thể xây dựng những mô hình xuất sắc như vậy chính là chìa khóa để chúng tôi thực hiện các giá trị của mình một cách hiệu quả. Khi công ty ngày càng lớn mạnh, có rất nhiều cạm bẫy. Có nhiều cách có thể sai lầm, không phải vì giá trị của tôi, của đồng sáng lập hay của lãnh đạo công ty thay đổi, mà vì cấu trúc của công ty thay đổi rất nhanh.

Vì vậy, có lẽ một nửa thời gian của tôi là nói chuyện với công ty về văn hóa của Anthropic và cách văn hóa đó vận hành, khi bạn phát triển quá nhanh, bạn sẽ tuyển dụng rất nhiều người từ các công ty công nghệ lớn.

Nếu bạn không nói cho họ biết Anthropic vận hành như thế nào, họ sẽ chỉ đơn giản lặp lại những gì họ quen thuộc duy nhất, tức là cách vận hành của công ty cũ của họ.

Vì vậy, đây là một cuộc đấu tranh không ngừng, cũng là một thách thức liên tục.

Nó giống như, nhiệm vụ quan trọng nhất của tôi và Daniela có lẽ là tìm ra cách duy trì điều này. Bởi vì chúng tôi nhận ra rằng, về lâu dài, đây mới là cốt lõi của chúng tôi.

Hiệu quả Nghiên cứu & Phát triển và Tiến bộ Khoa học

Emily Chang: Tốc độ lặp lại sản phẩm của các bạn thật đáng kinh ngạc. Số lượng sản phẩm các bạn tung ra và tốc độ thực hiện thật khó tin. Các bạn đã làm điều đó như thế nào?

Dario Amodei: Tôi muốn nói hai điều. Điều đầu tiên là, chúng tôi là một công ty thống nhất. Chúng tôi có một văn hóa doanh nghiệp thống nhất. Tôi nghĩ rằng trong khi mở rộng quy mô, chúng tôi vẫn duy trì hiệu quả cực kỳ cao. Mọi người vẫn hướng tới một mục tiêu chung, điều này thể hiện sự thống nhất về văn hóa và tổ chức. Tôi cho rằng đây là yếu tố quan trọng nhất.

Còn yếu tố thứ hai, tôi muốn nói là chính Claude, hiện tại chúng tôi đang tận dụng Claude để hỗ trợ. Sử dụng nó để giúp chúng tôi phát triển mô hình, nâng cao hiệu quả của mô hình và phát triển sản phẩm một cách nhanh chóng. Để làm được điều này, bạn cần phát triển nhiều phương pháp thực hành mới khác nhau. Mặc dù chúng tôi còn khá mới trong lĩnh vực này, nhưng nó đã mang lại sự tăng tốc đáng kể, và sự tăng tốc này ngày càng trở nên đáng tin cậy hơn. Đó là hai yếu tố tôi sẽ chỉ ra.

Emily Chang: Bạn có thể cho tôi biết điều điên rồ nhất mà AI từng làm mà bạn từng thấy không?

Dario Amodei: Tôi nghĩ những điều điên rồ nhất tôi từng thấy chủ yếu xảy ra trong lĩnh vực sinh học và y học. Tôi đã thấy khá nhiều trường hợp, thực tế bao gồm cả trường hợp của Daniela, Claude đã chẩn đoán ra một số vấn đề y tế mà nhiều bác sĩ hàng đầu đã bỏ sót. Trong lĩnh vực sinh học, các mô hình này bắt đầu thể hiện những khả năng đáng kinh ngạc trong các nhiệm vụ như thiết kế thuốc, hóa học tính toán, v.v. Là một nhà sinh vật học từng trải, tôi nhìn vào những kết quả này và không khỏi thốt lên rằng, điều này thực sự rất khó.

Hãy hiểu rằng, để hoàn thành những nhiệm vụ này cần phải trải qua rất nhiều đào tạo chuyên sâu. Và Claude đang ngày càng trở nên xuất sắc hơn trong lĩnh vực này. Đây là một lĩnh vực mà tôi cho rằng chúng ta sẽ thu được lợi ích to lớn từ nó. Đây là mặt tích cực, chúng ta sẽ có được những phúc lợi vô cùng to lớn này. Cuộc sống sẽ trở nên tốt đẹp hơn. Chất lượng trải nghiệm của con người sẽ trở nên tốt hơn.

Emily Chang：Một thế kỷ tiến bộ khoa học.

Dario Amodei：Một thế kỷ tiến bộ khoa học, và một thế kỷ tiến bộ ở cấp độ trải nghiệm con người. Ví dụ, hãy quay lại năm 1900. Hãy nghĩ về tất cả những vấn đề chúng ta phải đối mặt vào năm 1900, tất cả những nguyên nhân khiến con người chết sớm, tất cả những đau khổ họ phải chịu đựng, và tất cả những thiếu thốn vật chất mà ngày nay chúng ta không còn phải đối mặt.

Sau đó hãy tưởng tượng một trăm năm tiếp theo. Tôi thực sự tin rằng thế kỷ tiến bộ khoa học và y học này, nếu chúng ta vượt qua được khó khăn hiện tại – tôi tin chúng ta có thể làm được. Tôi ngày càng cảm thấy lạc quan. Chúng ta sẽ có một thế giới tốt đẹp hơn nhiều so với hiện tại.

Viết lách, tư duy và sự hỗ trợ của AI

Emily Chang：Tôi biết bạn yêu thích viết lách đến mức nào. Bạn nổi tiếng với những bài viết của mình. Bạn có sử dụng Claude để hỗ trợ viết lách không?

Dario Amodei：Có chứ. Tôi chưa đến mức sử dụng trực tiếp văn bản do Claude tạo ra, vì tôi có phong cách riêng và khá kén chọn. Nhưng về cơ bản, tôi dùng Claude để hỗ trợ động não, giúp tôi sắp xếp chủ đề, hoặc cung cấp một số nội dung để tôi tham khảo.

Vì vậy, nó đóng vai trò hỗ trợ. Tôi không biết còn bao xa nữa Claude mới có thể viết ra những tác phẩm tốt hơn tôi. Chúng ta chưa đạt đến giai đoạn đó, nhưng tôi nghĩ ngày đó chắc chắn sẽ đến.

Emily Chang：Tôi cũng yêu thích viết lách, tôi nghĩ viết giúp bạn làm rõ suy nghĩ. Quá trình này đòi hỏi rất nhiều tư duy phản biện. Nếu chúng ta để Claude làm thay, liệu chúng ta có mất đi khả năng này không?

Dario Amodei：Tôi có phần lo lắng về điều đó, thực tế, đó cũng là một nửa lý do tôi kiên trì tự viết. Điều này đúng với khán giả bên ngoài. Mặc dù có nhiều người đọc bài viết của tôi, nhưng viết lách cũng là để làm rõ suy nghĩ của chính tôi, giúp tôi biết bước tiếp theo cần làm gì, và tạo ra một điểm tham chiếu chung giữa tôi và người khác.

Tôi nghĩ chúng ta vẫn đang tìm hiểu cách sử dụng AI sao cho vừa giữ được những lợi ích này. Có lẽ những gì tôi đang làm bây giờ cũng vậy, chẳng hạn như tôi dùng Claude để nghiên cứu. Và tôi dùng Claude để hỗ trợ sắp xếp suy nghĩ của chính mình.

Tôi cho rằng nếu chúng ta sử dụng nó một cách toàn diện, như để nó viết một bài báo về rủi ro AI, trước hết, nó không thể viết ra quan điểm cá nhân của tôi, thứ hai, tôi thực sự sẽ mất đi những lợi ích mà việc viết lách mang lại. Khi hiệu suất mô hình được cải thiện, tôi nghĩ trong tương lai sẽ có một cách nào đó để sử dụng chúng trực tiếp hơn trong việc viết lách, đồng thời vẫn giữ được những lợi ích này, nhưng đó sẽ là một quá trình tinh tế. Tình hình sẽ không chỉ có một chiều, chúng ta phải từ từ mày mò trong một khoảng thời gian tới.

Tôi nghĩ chúng ta có thể sẽ chứng kiến một sự kết hợp rất bất thường, đó là tăng trưởng GDP cao đi kèm với tỷ lệ thất nghiệp cao, hoặc ít nhất là thiếu việc làm, hoặc tồn tại một lượng lớn công việc lương thấp, cùng với bất bình đẳng nghiêm trọng.

Rủi ro thất nghiệp, năng suất và chính sách vĩ mô

Emily Chang: Bạn đã rất thẳng thắn về vấn đề thất nghiệp. AI có thể loại bỏ một nửa số công việc văn phòng cấp thấp trong vòng 1 đến 5 năm tới. Đó là phát biểu năm ngoái. Tốc độ phát triển của AI nhanh đến kinh ngạc. Bây giờ vẫn là 50% sao? Hay tỷ lệ còn cao hơn?

Dario Amodei: Tôi đã luôn nói rằng, nếu bạn xem lại những đoạn video gốc, chúng thường bị cắt xén khỏi ngữ cảnh chỉ trong ba giây đó, nhưng thực tế, tuyên bố thực sự của tôi luôn là: Tôi không biết tương lai sẽ ra sao, nhưng điều này báo hiệu rằng những biến động mạnh mẽ tiềm tàng của tình hình có thể đạt đến một cấp độ.

Và tôi cũng đã luôn nói về những biện pháp đối phó mà chúng ta có thể thực hiện, tôi từng đề cập đến thuế token, và hợp tác với doanh nghiệp để điều chỉnh nhân sự. Tôi hơi hoài nghi về các chương trình đào tạo lại, nhưng chúng ta thực sự nên đưa nó vào cân nhắc trong chính sách kinh tế vĩ mô.

Ngay từ đầu, những gì tôi nói luôn là về giải pháp, nhưng dường như trong tâm lý con người có xu hướng luôn cắt ra ba giây đó về nội dung ngày tận thế. Vì vậy, thông điệp tôi muốn truyền tải tuyệt đối không phải là ngày tận thế. Điều tôi muốn nói là, đây là điều chúng ta nên lường trước và lo lắng, và chúng ta thực sự cần phải ứng phó với thái độ tích cực. Tôi không hoàn toàn chắc chắn, nhưng tôi vẫn khá lo lắng. Mức độ lo lắng của tôi vẫn ở cùng một mức độ.

Hiện tại, chúng ta thấy AI đang nâng cao năng suất của con người, nhưng đây chỉ là giai đoạn tăng trưởng ban đầu thông thường. Nếu bạn nhìn lại thời kỳ Cách mạng Công nghiệp, tôi đã đề cập điều này trong cuốn *Adolescence of Technology*. Bạn tự động hóa 90% công việc, điều đó rất tốt.

Năng suất của con người trong 10% công việc còn lại tăng gấp 10 lần, vì họ có đòn bẩy gấp 10 lần. Nhưng cuối cùng, nó sẽ tiến gần đến 100%. Và vấn đề đi kèm là bạn phải tìm cho họ những việc khác để làm.

Về sự phát triển dài hạn, tôi chưa chắc chắn. Tôi thực sự cảm thấy không chắc chắn về điều đó. Nhưng tôi tin rằng có nhiều kiểu thích ứng khác nhau. Ví dụ, một điểm tôi đề cập là các kỹ sư phần mềm nội bộ tại Anthropic. Hiện tại, chúng tôi đang trải qua sự chuyển đổi này, dù AI viết tất cả hoặc gần như tất cả mã, nhưng AI thực sự giúp các kỹ sư phần mềm làm việc hiệu quả hơn.

Nhưng ngay cả như vậy, nó vẫn nâng cao hiệu quả của con người. Tuy nhiên, chúng tôi đã bắt đầu thấy một dấu hiệu: đối với một số người, nó có thể không nâng cao hiệu quả, và trong trường hợp đó, để AI trực tiếp hoàn thành công việc có thể hiệu quả hơn.

Vậy đó là một khía cạnh của vấn đề. Mặt khác, chúng ta cần tăng nhu cầu ở những lĩnh vực nào? Chúng tôi gọi đó là kỹ sư triển khai tiên phong, hoặc tương tự như kiến trúc sư giải pháp ứng dụng AI, công việc của họ kết hợp phát triển kỹ thuật và giao tiếp với khách hàng. Hiện tại, nhu cầu về loại nhân tài này rất lớn, vì cơ sở khách hàng rộng lớn và chúng tôi đang trong giai đoạn mở rộng nhanh chóng.

Vậy, điều này có phù hợp với mọi người làm công việc kỹ thuật phần mềm thuần túy không? Không phải là sự phù hợp hoàn hảo. Không phải là sự tương ứng một-một. Điều này khiến bạn nhận ra rằng sẽ có sự đảo lộn lớn trong tương lai, nhưng mọi thứ cũng sẽ điều chỉnh. Bên nào sẽ thắng? Tôi không biết.

Nhưng lý do phải đưa ra cảnh báo là vì đây là cách chúng ta ứng phó. Đây cũng là cơ sở để chúng ta xây dựng chính sách, dù ở cấp độ con người hay ở cấp độ kinh tế vĩ mô toàn cầu. Chúng tôi muốn đưa ra những quan điểm được suy nghĩ thấu đáo. Chúng tôi không muốn đưa ra những lời hứa mà mọi người cho là không thể thực hiện hoặc không khả thi. Chúng tôi không muốn phát biểu những điều chưa được lập luận đầy đủ. Chúng tôi muốn suy nghĩ thận trọng về những vấn đề này, tìm kiếm các giải pháp khả thi và thực tế.

Emily Chang: Bạn đã trình bày biểu đồ này, cho thấy sự mất mát tiềm năng về việc làm trong các lĩnh vực như bán hàng, tài chính; công việc nào sẽ biến mất, ai sẽ bị thay thế, và những công việc mới nào sẽ được tạo ra?

Dario Amodei： Thực tế không ai có thể chắc chắn, bởi vì nền kinh tế là không thể dự đoán, giống như thị trường chứng khoán vậy, chúng thuộc về những quy trình phi tập trung, bạn không thể thực sự biết trước được phần công việc mà con người vẫn có thể đảm nhiệm trong tương lai là gì.

Nhưng tôi muốn nói rằng, theo nghĩa rộng, bất kỳ lĩnh vực nào có công việc văn phòng cấp đầu vào, dù là ngân hàng, tài chính hay các ngành khác, trước hết AI có tiềm năng to lớn để nâng cao hiệu suất làm việc của con người, nhưng sau đó, AI sẽ có khả năng thay thế hoàn toàn con người để thực hiện toàn bộ công việc.

Tiếp theo, chúng ta cần suy nghĩ, con người thực sự có thể làm gì? Tôi cho rằng chúng ta cần lên kế hoạch trước cho điều này. Khi trao đổi với khách hàng doanh nghiệp, chúng tôi đã làm điều đó rồi. Chúng tôi thấy những lựa chọn mà họ phải đối mặt. Họ phải đối mặt với lựa chọn: tôi nên tiết kiệm chi phí sao?

Điều này thường có nghĩa là giảm nhân viên, về cơ bản là dùng ít nguồn lực hơn để làm những việc tương tự, hay chúng ta nên làm nhiều hơn với tổng nguồn lực không đổi? Bất cứ khi nào có cơ hội, chúng tôi luôn cố gắng thúc đẩy họ làm nhiều hơn với cùng một nguồn lực, bởi vì điều này về cơ bản có nghĩa là thuê cùng số lượng hoặc thậm chí nhiều người hơn, chỉ là để thực hiện một số công việc mới, từ đó thúc đẩy họ đạt được trò chơi tổng dương.

Lợi thế hiện tại của chúng ta là chiếc bánh sẽ mở rộng đáng kể. Chính vì chiếc bánh sẽ mở rộng đáng kể, nên rất có thể sẽ xuất hiện những lĩnh vực mới mà con người có thể bước vào, vấn đề chỉ là liệu có thể tìm ra những cơ hội này đủ nhanh hay không. Quy mô của cuộc đảo lộn này sẽ rất lớn, đó là điều tôi đang nhắc nhở mọi người chú ý, nhưng chúng ta phải giải quyết vấn đề kết nối này.

Emily Chang： Hãy suy luận cho tôi xem, chẳng hạn như năm năm sau khi bạn thức dậy, đất nước này sẽ như thế nào? Những người này đang làm gì? Bởi vì nếu tỷ lệ thất nghiệp đạt đến mức đó, chẳng phải đó là dấu hiệu báo trước cho một cuộc cách mạng sao?

Dario Amodei： Đó chính xác là điều chúng tôi muốn ngăn chặn, chúng tôi tuyệt đối phải tránh tình huống này xảy ra.

Tôi cho rằng có một số điểm khởi đầu. Những điều này không có gì đảm bảo, chúng ta không thể chắc chắn, nhưng dù sao vẫn còn thế giới vật chất, chẳng hạn như những thứ tồn tại trong thế giới vật chất, cuộc cách mạng robot cũng đang diễn ra, nhưng nó chậm hơn nhiều so với những gì đang xảy ra trong lĩnh vực AI. Mọi người luôn nói về việc xây dựng trung tâm dữ liệu, nhưng khi việc xử lý bất kỳ loại thông tin nào trở nên dễ dàng hơn nhiều, yếu tố hạn chế có thể sẽ trở thành những thứ trong thế giới vật chất.

Vì vậy, chúng ta cần nhiều người hơn tham gia vào việc chế tạo, xây dựng và sản xuất trong thế giới vật chất.

Bất cứ điều gì lấy con người làm trung tâm, tôi nghĩ đó sẽ là một điều lớn lao. Tôi đã nghe nhiều câu chuyện về AI phát hiện ra những vấn đề mà bác sĩ đã bỏ sót, và tôi rất vui, nhưng con người thực sự vẫn muốn giao tiếp với những người khác, đặc biệt là khi xử lý những vấn đề quan trọng. Có thể AI cung cấp dịch vụ khách hàng tốt hơn, nhưng dù vậy, con người, hoặc ít nhất một phần trong số họ, vẫn muốn tương tác với con người.

Vì vậy, những công việc định hướng quan hệ con người như thế này, tôi nghĩ chúng sẽ trở nên quan trọng, và tôi tin rằng con người sẽ nỗ lực để định hướng AI, ở một mức độ nào đó, nó phải phù hợp với giá trị và ý định của ai đó. Vì vậy, tôi nghĩ sẽ có một vai trò nào đó trong lĩnh vực này, mặc dù tôi không biết vai trò đó là mỏng manh hay sâu sắc. Tôi nghĩ điều này rất khó nói.

Phản công cáo buộc "Tiếp thị ngày tận thế"

Emily Chang: Hiện đã có rất nhiều tiếng nói phản đối. Tôi biết anh nói rằng anh đang cố gắng cảnh báo mọi người, nhưng Jensen Huang lại nói anh đang nhầm lẫn giữa khái niệm nhiệm vụ và công việc. Những người khác cũng nói rằng đây giống như một chiến dịch "tiếp thị ngày tận thế" có lợi cho Anthropic hơn. Vì vậy, tôi hy vọng anh sẽ làm rõ và kiên quyết phản bác điều này.

Dario Amodei: Về tổng thể rủi ro thất nghiệp, tôi có một số suy nghĩ. Ý tôi là, chúng tôi vẫn chưa hoàn thiện những suy nghĩ này, vì tôi muốn đảm bảo chúng chính xác. Nhưng Anthropic đã đưa ra nhiều giải pháp. Chúng tôi từng thiết lập các khoản trợ cấp kinh tế. Chúng tôi có các chỉ số kinh tế. Tôi đã thảo luận về các con đường khả thi để đối phó với những rủi ro này thông qua thuế và chính sách kinh tế vĩ mô. Về những công việc mới sẽ ra sao.

Trong giai đoạn sơ khai của công nghệ, tôi đã trình bày, tôi có khoảng 5 trang dành riêng để thảo luận về sự khác biệt giữa nhiệm vụ và công việc, tại sao lần này lại khác với trước đây, và liệt kê 6 điều chúng ta có thể làm, từ từ thiện tư nhân đến hành động của chính phủ. Tôi đã thảo luận về vấn đề, và cũng thảo luận về giải pháp.

Nhưng mạng xã hội, tôi cực kỳ ghét, như một thể loại tôi cực kỳ ghét, mọi người chỉ cắt một đoạn clip ba giây từ một năm trước, họ không thực sự đọc bài viết, hoặc họ lợi dụng tính chất của mạng xã hội – trong khi tôi đã thảo luận rất nghiêm túc về những rủi ro này trong bài viết của mình.

Việc cho rằng đây chỉ là tiếp thị rẻ tiền bản thân nó đã là một hình thức tiếp thị rẻ tiền. Đó là sự lười biếng. Đó là thất bại trong việc đối thoại với công việc tri thức nghiêm túc. Tôi nghĩ điều này cũng là một phần của vấn đề. Một lần nữa, tôi cho rằng đây là một phần của căn bệnh mãn tính ở Thung lũng Silicon. Nó đã bị mắc kẹt trong thế giới mạng xã hội ba giây này.

Vì vậy, mọi người chỉ phản ứng với những nội dung này, hoặc họ nghĩ rằng mình chỉ cần phản ứng với chúng. Một lần nữa, tôi cho rằng điều này rất nguy hiểm, và chúng ta đã thất bại trong việc có một cuộc đối thoại trưởng thành.

Thay vào đó, mọi người chỉ lười biếng nhìn vào những đoạn clip ba giây. Rồi họ nói, Ồ, đó là những gì Dario đã nói. Thật ngu ngốc. Thật thiếu nghiêm túc. Mỗi khi ai đó nói như vậy, tôi lại đánh giá thấp họ.

An ninh quốc gia và ranh giới đỏ của AI quân sự

Bình luận viên: Một trong những công ty AI hàng đầu thế giới đang thâm nhập sâu vào nhiều khía cạnh của an ninh quốc gia Hoa Kỳ, bao gồm cả các hoạt động quân sự. Cuộc đối đầu giữa Anthropic và Lầu Năm Góc về các biện pháp bảo vệ an ninh AI quân sự đang leo thang.

Emily Chang: Anh từ lâu đã có lập trường phản chiến, có thể truy ngược lại thời gian anh học tại Caltech. Tuy nhiên, anh là một trong những công ty AI đầu tiên ký hợp đồng với Bộ Quốc phòng để vận hành trên các mạng bí mật của Hoa Kỳ. Được sử dụng để tiến hành chiến tranh. Hãy giải thích điều này.

Dario Amodei: Được rồi. Tôi muốn nói rằng, hãy nhìn xem, thế giới đang không ngừng thay đổi. Như cách tôi nhìn nhận về công nghệ này, tôi lo ngại vì chúng ta đang đối mặt với một khối độc tài đang hồi sinh, cực kỳ hung hãn, và chúng ta cần phải tự bảo vệ mình.

Đây là quan điểm mà tôi luôn tin tưởng và vẫn giữ vững, chính vì vậy, trong suốt hai nhiệm kỳ chính phủ, dù tôi có thể không đồng ý với từng chính sách, nhưng đây là lý do chúng tôi nói chung ủng hộ điều này.

Vì vậy, đó là lý do chúng tôi hợp tác với họ. Tất nhiên, chúng tôi không làm điều này vì tiền. Điều này rất phiền phức, ngay cả khi không tính đến các cuộc chiến pháp lý, việc triển khai trên các mạng chính phủ không mang lại nhiều lợi nhuận, nhưng lại tiêu tốn rất nhiều công sức. Vì vậy, chúng tôi làm điều này vì chúng tôi có tinh thần trách nhiệm. Nhưng cũng vì chúng tôi tham gia vì mối quan tâm này, nên việc sử dụng công nghệ đó phải có những giới hạn.

[Khi thảo luận về các giai đoạn phát triển công nghệ, tôi từng đưa ra quan điểm: Chúng ta nên tận dụng công nghệ này trong mọi lĩnh vực, ngoại trừ những cách làm phá hoại giá trị của chính mình, và những ranh giới đỏ mà chúng ta vạch ra như giám sát hàng loạt và vũ khí tự động hoàn toàn chính là những thứ tôi cho rằng sẽ làm suy yếu giá trị của chúng ta.

Nếu áp dụng những biện pháp này, thì dù chiến thắng cũng chẳng có ý nghĩa gì. Đó là điểm cân bằng mà tôi nhìn thấy, cũng là lập trường mà chúng tôi nắm giữ. Điều này cũng giải thích tại sao chúng tôi vừa là một trong những công ty đầu tiên hợp tác với Bộ Chiến tranh, đồng thời lại có những việc làm và không làm khi người khác sẵn sàng thực hiện một số hành vi nhất định.

Tôi cho rằng bạn cần chọn một lập trường và kiên trì theo đuổi nó. Cách làm mà lập trường công ty dao động – từ ban đầu tuyên bố không hợp tác với chính phủ, đến bỗng nhiên nhận hết mọi yêu cầu của chính phủ – tôi thực sự không thể hiểu nổi. Bạn nên chọn nguyên tắc của mình và giữ vững chúng.

Emily Chang: Anh đã hợp tác với Palantir từ năm 2024.

Dario Amodei: Đúng vậy.

Emily Chang: Công nghệ của họ được ICE và lực lượng cảnh sát ở Gaza sử dụng. Claude có được dùng để giám sát theo những cách khác không?

Dario Amodei: Chúng tôi không hợp tác với ICE qua Palantir hay bất kỳ kênh nào khác. Chúng tôi không hợp tác với CBP. Tôi không nghĩ chúng tôi có hoạt động ở Gaza. Chúng tôi rất thận trọng trong việc giới hạn phạm vi hợp tác vào những điều chúng tôi đồng tình.

Emily Chang: Vậy là anh đã vạch ra ranh giới đỏ của mình, tổng thống cấm anh hợp tác với chính phủ liên bang, Lầu Năm Góc coi anh là rủi ro chuỗi cung ứng, còn OpenAI thì ký những hợp đồng mà anh từ chối. Thực tế, chiến thắng trong cuộc đấu tranh này trông như thế nào?

Dario Amodei: Tôi không nghĩ một công ty tư nhân có thể chiến thắng trong cuộc đấu tranh này. Đây hoàn toàn không phải là một cuộc đấu tranh. Anthropic không cố gắng chiến thắng, cũng không nghĩ đến thắng thua. Đây đúng hơn là một cuộc tranh luận về cách chính phủ sử dụng AI một cách đúng đắn. AI là một công nghệ mới nổi. Chúng ta chưa hiểu nó đáng tin cậy ở khía cạnh nào và không đáng tin cậy ở khía cạnh nào. Chúng ta chưa hiểu nó thúc đẩy hay làm suy yếu giá trị của chúng ta ở những điểm nào.

Vì vậy, tôi nghĩ một trong những điều quan trọng là thiết lập tiền lệ cho những trường hợp sử dụng mà chúng tôi cho là tốt – thẳng thắn mà nói, hầu hết các trường hợp sử dụng đều tốt – và những trường hợp chúng tôi lo ngại. Như tôi đã nói, chúng ta đã thấy rằng hợp đồng chỉ có thể làm được đến một mức nhất định, và như chúng ta thấy, người khác có thể ký một hợp đồng không tôn trọng cùng một ranh giới như bạn.

Nhưng điều nó làm được là nâng cao nhận thức về vấn đề này. Hiện tại, Quốc hội đang có sự hợp tác lưỡng đảng nghiêm túc, cố gắng cấm một số điều chúng tôi lo ngại và thiết lập các biện pháp bảo vệ. Một lần nữa, tôi không muốn coi đây là một cuộc tranh đấu, nhưng ở một mức độ nào đó, nó đã có hiệu quả trong việc thúc đẩy đất nước chúng ta suy nghĩ thận trọng hơn về cách sử dụng công nghệ này một cách phù hợp.

Giá trị và Đạo đức Quân sự

Emily Chang: Người điều hành Anthropic là một kẻ cuồng tín ý thức hệ, và anh ta không nên có quyền quyết định duy nhất. Điều tôi quan tâm là vấn đề AI rộng lớn hơn. Anh có phiền khi bị gọi là kẻ cuồng tín ý thức hệ hay một nhóm kẻ cuồng tín cánh tả không?

Dario Amodei: Tôi đã từng bị chửi tệ hơn nhiều thế này. Mọi người có thể gọi tôi hay Anthropic bất cứ điều gì họ muốn. Điều thực sự quan trọng là hai việc: với tư cách là một công ty, chúng tôi đã thành công, và chúng tôi giữ vững các giá trị của mình. Thực tế, ở một số khía cạnh, cuộc sống của tôi rất dễ dàng, bởi vì khi bạn chỉ theo đuổi hai điều đó, nó thực sự đơn giản, phải không? Giống như vậy, bạn luôn biết mình đang đứng ở đâu.

Emily Chang: Một quan chức Mỹ từng nói rằng, với sự trợ giúp của LLM, quân đội Mỹ đã tăng số lượng mục tiêu tấn công hàng ngày từ 1.000 lên 5.000. Điều này có nghĩa là Claude có thể giúp giết nhiều người hơn nhanh hơn. Anh có cảm thấy yên tâm về điều này không?

Dario Amodei: Tôi nghĩ có hai điều ở đây, đầu tiên là khả năng của Mỹ trong việc nâng cao hiệu quả quân sự. Tôi ủng hộ khả năng này. Tôi nghĩ rằng có khả năng mạnh hơn không gây ra chiến tranh, mà ngược lại có thể răn đe chiến tranh. Về cơ bản, anh đang hỏi liệu tôi có tin tưởng đất nước này không, liệu tôi có muốn đất nước này trở thành một tác nhân mạnh mẽ hơn, thay vì một tác nhân có ảnh hưởng yếu hơn trên trường thế giới không? Tôi muốn. Tôi là một người yêu nước.

Còn một vấn đề riêng nữa, đó là liệu tôi có ủng hộ hay không một số chính sách nhất định mà chính phủ Mỹ tham gia?

Rõ ràng, trong số những gì chính phủ tham gia, tôi ủng hộ một số và không ủng hộ một số khác. Điều đó không phải do tôi quyết định. Nếu chúng tôi cung cấp một công nghệ, và Bộ Quốc phòng (DOD) đưa ra đề xuất, thực tế chúng tôi đồng ý với quan điểm của họ. Nếu chúng tôi cung cấp một công nghệ, chúng tôi không có quyền quyết định bạn có thể tiến hành chiến dịch quân sự nào, hay không thể tiến hành chiến dịch quân sự nào.

Hiện tại, cá nhân tôi có thể cho rằng một chiến dịch quân sự nào đó là hợp lý, còn một chiến dịch khác là ý tưởng tồi, nhưng chúng tôi sẽ không phủ nhận vai trò của công nghệ đó.

Bạn phải để việc hoạch định chính sách cho các nhà ra quyết định quân sự. Điều bạn có thể làm là vạch ra một số ranh giới ở cấp độ cao, đối với chúng tôi, đó là ngăn chặn những trường hợp sử dụng đi ngược lại giá trị của chúng tôi, giá trị của đất nước, đồng thời thúc đẩy những trường hợp sử dụng mà chúng tôi cho là giúp lan tỏa giá trị của mình. Đó là cách chúng tôi suy nghĩ.

Emily Chang: Bloomberg từng đưa tin rằng quân đội Mỹ đã sử dụng Claude trong cuộc chiến ở Iran, thông qua nền tảng Maven Smart System do Palantir tạo ra, để hỗ trợ xác định mục tiêu bằng AI. Theo báo cáo, vào tháng 2, một tên lửa của Mỹ đã bắn trúng một trường nữ sinh ở Iran, khiến hơn 150 người thiệt mạng, phần lớn là trẻ em. Claude có đóng vai trò gì trong cuộc tấn công đó không?

Dario Amodei: Chúng tôi, hãy nhìn nhận, chúng tôi không thể tiếp cận, chúng tôi không biết chính xác các mô hình này được sử dụng như thế nào. Rõ ràng, những sai lầm xảy ra trong chiến tranh thực sự rất, rất khủng khiếp, đó thực sự là một điều rất đáng sợ.

Nếu điều đó chưa đủ để giải thích tại sao chúng tôi kiên quyết phản đối những trường hợp sử dụng mà chúng tôi không ủng hộ, chúng tôi thậm chí sẵn sàng chấp nhận rủi ro ảnh hưởng đến tương lai của công ty để hạn chế cách các mô hình này được sử dụng. Và trường hợp sử dụng mà bạn đang nói đến thậm chí còn chưa chạm đến ranh giới đỏ của chúng tôi.

Chúng tôi lo ngại trong tương lai sẽ có nhiều hơn gấp 100 lần các trường hợp sử dụng, trong đó một số thực sự vi phạm ranh giới đỏ của chúng tôi. Hiện tại, một lần nữa, tôi nghĩ nhìn chung, các mô hình này được sử dụng một cách phù hợp. Tôi cho rằng hiệu ứng ròng là tích cực.

Nhưng các nhà ra quyết định quân sự, ngay cả trong thời kỳ tốt nhất, cũng có thể phạm phải những sai lầm cực kỳ nghiêm trọng, và tôi không biết liệu chúng ta có đang ở thời kỳ tốt nhất hay không.

Ví dụ, chúng ta có thể thảo luận về một số vấn đề. Chúng ta có thể bàn về cách thiết lập các ranh giới đỏ để ngăn chặn những cách sử dụng mô hình có nhiều khả năng dẫn đến các vấn đề này, nếu chúng ta cho phép, hoàn toàn buông lỏng, nếu chúng ta, giống như hầu hết các công ty khác hiện nay, khuất phục trước vũ khí tự động hóa hoàn toàn, như đã thấy ở đây, là Claude hỗ trợ, nhưng con người đưa ra quyết định cuối cùng.

Vì vậy, chính con người mới là người đưa ra quyết định cuối cùng, chứ không phải Claude. Hãy tưởng tượng trong một thế giới – không phải Claude, vì chúng tôi không cho phép điều đó, mà là mô hình AI của người khác – nơi mô hình AI trực tiếp đưa ra quyết định mà con người không bao giờ can thiệp. Đó là điều chúng tôi kiên quyết bảo vệ.

Đó chính xác là điều chúng tôi đang chống lại. Tôi muốn nói rằng, còn một điều khác ở đây. Một lần nữa, tôi cho rằng mua sắm không phải là cách đúng đắn để đạt được mục tiêu này. Nhưng chúng ta thực sự cần đảm bảo – điều này không chỉ là mối quan tâm của tôi với tư cách là nhà cung cấp công nghệ, mà còn là của người dân Mỹ – rằng những người ra quyết định quân sự của Mỹ không mắc phải những sai lầm này.

Đảm bảo họ vận hành đáng tin cậy và đưa ra những lựa chọn sáng suốt khi hành động.

Tương tự, với tư cách là một công dân và nhà cung cấp công nghệ, đây cũng là mối quan tâm của tôi. Ví dụ, khi chính phủ sử dụng công nghệ, chúng tôi sử dụng rất nhiều Microsoft Excel. Nếu bạn nói rằng, bạn có thể dùng Excel cho một hoạt động quân sự nào đó, nhưng không thể dùng cho hoạt động khác, điều này là không khả thi trong thực tế. Hy vọng điều này giúp bạn hiểu cách chúng tôi suy nghĩ về vấn đề này.

Emily Chang: Trường này có một trang web, bạn có thể tìm thấy nó trên Google, lẽ ra Claude không nên phát hiện ra điều này sao? Hay nói cách khác, AI hoặc bất kỳ công nghệ nào họ sử dụng lẽ ra không nên phát hiện ra điều này? Điều này có đặt ra một vấn đề đáng lo ngại hơn về việc sử dụng công nghệ như một lối tắt trong chiến tranh?

Dario Amodei: Nghe này, nghe này, tôi muốn nói rằng, tôi không chắc, tôi thực sự không chắc. Điều này phụ thuộc vào, có thể là kiến thức mật ngoài tầm hiểu biết của tôi. Nhưng, nguyên tắc chúng tôi đã thiết lập, và tôi nghĩ nguyên tắc được tuân thủ ở đây là, con người đưa ra quyết định cuối cùng. Tôi không biết Claude hoặc bất kỳ AI nào khác đã đóng vai trò gì, nhưng nếu điều này không cho thấy tại sao nguyên tắc đó lại quan trọng đến vậy, thì tôi không biết điều gì có thể nói lên điều đó nữa.

Emily Chang: Liệu cuộc chiến AI có nhiều khả năng ngăn chặn Thế chiến thứ ba hơn, hay nhiều khả năng gây ra chiến tranh hơn?

Dario Amodei: Nhìn chung, tôi nghĩ nó có nhiều khả năng ngăn chặn chiến tranh hơn. Nhưng nếu chúng ta không có bất kỳ hạn chế nào về cách sử dụng nó, thì tôi nghĩ, nó có nhiều khả năng dẫn đến bùng nổ chiến tranh hơn. Bạn đã xem Dr. Strangelove chưa? Tiền đề của bộ phim đó là bạn sở hữu một loại thiết bị ngày tận thế, tự động phóng vũ khí hạt nhân để đáp trả khi nó cho rằng mình đang bị tấn công bằng vũ khí hạt nhân.

Điều gì có thể xảy ra sai sót? Nói cách khác, tôi lại nghĩ đến các chủ đề như vũ khí tự động hoàn toàn gây chết người. Tôi cho rằng cách thức xảy ra xung đột là hai bên kiềm chế lẫn nhau và chờ thời cơ hành động. Họ sẽ hiểu lầm nhau. Nếu chúng ta thiếu sự giám sát thích hợp đối với công nghệ này, tôi nghĩ khả năng xảy ra những sự cố như vậy sẽ tăng lên.

Hiện tại, tôi nghĩ nếu AI có thể được tận dụng một cách phù hợp, thậm chí không cần giới hạn trong lĩnh vực chiến tranh, chỉ cần xem xét lĩnh vực thu thập thông tin tình báo. Hãy tưởng tượng, khi chúng ta nắm rõ từng hành động của đối thủ, họ sẽ phải suy nghĩ kỹ trước khi muốn thực hiện một cuộc xâm lược hoặc chiến dịch quân sự nào đó. Do đó, tôi tin rằng khả năng tình báo xuất sắc thực sự có thể ngăn chặn xung đột. Khả năng phản ứng xuất sắc có thể kiềm chế xung đột. Tôi luôn tin tưởng vào những điều này.

Mythos: Trò chơi an ninh của các mô hình tiên tiến

Emily Chang: Anthropics gần như xuất hiện trên các tiêu đề tin tức hàng tuần. Tất nhiên, hiện tại được chú ý nhất là Mythos.

Lời bình: Đây là mô hình Anthropic mới nhất và mạnh mẽ nhất hiện nay, nó có khả năng tự chủ xuyên suốt tất cả các giai đoạn của chuỗi tiêu diệt mạng.

Emily Chang: Bạn từng nói rằng khả năng của Mythos quá mạnh, không phù hợp để phát hành ra công chúng. Điều gì về nó khiến bạn ngạc nhiên nhất?

Dario Amodei: Tôi nghĩ điều khiến tôi ngạc nhiên nhất là khả năng phát hiện lỗ hổng của mô hình không ngừng gia tăng, và quan trọng hơn, chúng còn có thể chuyển đổi những lỗ hổng này thành các chương trình khai thác – trong khi mọi người thường chỉ thảo luận về bản thân lỗ hổng. Mọi người thường không nói về quá trình chuyển đổi lỗ hổng thành chương trình khai thác, và nó lại thể hiện khá xuất sắc trong lĩnh vực này.

Vì vậy, điều khiến tôi ngạc nhiên là chúng tôi đã chứng kiến bước nhảy vọt khổng lồ này. Đây là một bước nhảy vọt đặc biệt lớn. Và không có bất kỳ sự hướng dẫn nào, một số công ty mà chúng tôi ban đầu cung cấp công nghệ này cho biết, đây giống như một siêu vũ khí. Phải có giấy phép sở hữu súng mới được sử dụng nó.

Xin đừng công bố điều này. Yêu cầu hạn chế sử dụng này đến từ chính các công ty mà chúng tôi cung cấp công nghệ, họ đã phát hiện ra vô số lỗ hổng quan trọng và khả năng khai thác xung quanh những lỗ hổng đó, đến mức về cơ bản họ yêu cầu chúng tôi không công bố nó.

Cần phải nói rõ, vì thông tin trong lĩnh vực truyền thông xã hội luôn bị bóp méo, mục tiêu của chúng tôi không phải là giữ nó trong két sắt mãi mãi. Chúng tôi đang cố gắng mở dần công nghệ này. Hướng tới những nhóm người ngày càng rộng rãi. Cuối cùng, chúng tôi cho rằng nên phát hành Mythos cho công chúng, nhưng phải đi kèm với các biện pháp bảo mật mạng mạnh mẽ.

Một mối lo ngại hiện tại là, chúng tôi đã phát hành các biện pháp bảo mật mạng hiện tại cùng với Opus 4.7, mặc dù đây là một mô hình bảo mật mạng xuất sắc, nhưng khả năng của nó yếu hơn nhiều, và các biện pháp này có thể bị vượt qua. Chúng tôi hơi lo lắng về một số công ty khác cho rằng đây là một biện pháp phòng thủ đầy đủ, bởi vì mặc dù điều này đôi khi có hiệu quả, nhưng tất cả chúng ta đều biết các bộ phân loại này có thể bị vượt qua hoặc bỏ qua.

Theo các thử nghiệm của chính chúng tôi, thẳng thắn mà nói, dựa trên đánh giá của chúng tôi về các biện pháp phòng thủ mà các công ty khác đã thực hiện, các biện pháp phòng thủ này hiện tại chưa đủ mạnh. Đây chính là điều chúng tôi đang chờ đợi, đó là để khả năng phòng thủ đạt đến mức chúng tôi thực sự tin tưởng vào nó.

Emily Chang: Vào thời điểm đó đã có rất nhiều sự phản đối. Có các nhà nghiên cứu nói rằng họ có thể sử dụng các mô hình mã nguồn mở rẻ hơn để tái tạo quy trình này. Một số người nói rằng OpenAI đã có những khả năng này. Vậy, bạn trả lời thế nào với những người cho rằng đây là một màn trình diễn quan hệ công chúng lớn?

Dario Amodei: Về tuyên bố rằng có thể tái tạo thông qua các mô hình mã nguồn mở, điều này hoàn toàn sai. Ý tưởng cốt lõi của hệ thống là Mythos có thể xem xét toàn bộ mã nguồn và phát hiện vấn đề. Có người trên Twitter nói rằng nếu bạn để một mô hình mã nguồn mở chỉ vào dòng mã mà Mythos đã phát hiện, thì nó cũng có thể phát hiện ra vấn đề tương tự. Đó không phải, đó không phải là prompt, đó không phải là vấn đề đó, nói cách khác, đó không phải, đó hoàn toàn không phải là cùng một thứ.

Thử nghiệm cuối cùng cho điều này là chúng tôi tiếp cận các công ty, kiểm tra kho mã nguồn mở và phát hiện ra 271 lỗ hổng mới trong Firefox. Chúng tôi đã tìm thấy hàng nghìn lỗ hổng trong các công ty tư nhân chưa kịp vá hoặc chưa thể tiết lộ.

Giống như, trong các mô hình trước đây, không ai phát hiện ra 271 lỗ hổng đó. So với tình huống "tôi tìm thấy chính xác dòng mã mà Mythos phát hiện, tôi biết mình đã tìm thấy cây kim trong đống cỏ khô, và những thứ khác giờ có thể nhặt lấy cây kim này", quy trình làm việc thực tế hiệu quả lại là một chuyện khác.

Nhưng đối với những người nói rằng đây chỉ là chiêu trò tiếp thị, tôi muốn nói rằng, chúng tôi đã chịu tổn thất thương mại rất lớn vì không phát hành mô hình này. Mô hình này đã đẩy nhanh đáng kể nghiên cứu nội bộ của Anthropic và quá trình sản xuất các mô hình tiếp theo. Nếu chúng tôi phát hành nó, nó cũng sẽ mang lại tốc độ tương tự cho thế giới bên ngoài. Điều này gây tổn hại rất lớn cho chúng tôi về mặt thương mại.

Emily Chang: Nếu điều này giúp ích cho người phòng thủ, thì nó cũng sẽ giúp ích cho kẻ tấn công. Liệu chúng ta còn có thể phòng thủ bất cứ thứ gì không?

Dario Amodei: Tôi muốn nói rằng, lý do chúng tôi cung cấp Mythos cho người phòng thủ trước khi cung cấp cho kẻ tấn công là để vá tất cả các lỗ hổng. Tôi không biết, khi các mô hình ngày càng tốt hơn, có thể sẽ có ngày càng nhiều lỗ hổng được phát hiện, nhưng số lượng lỗ hổng cuối cùng cũng có hạn. Chúng có hạn, giống như bạn có một bề mặt, và chỉ có bấy nhiêu lỗ hổng trên đó.

Bạn vá tất cả các lỗ hổng, bề mặt sẽ trở nên cực kỳ khó bị tấn công; đồng thời, bản thân mã nguồn cũng được viết bởi các mô hình mạnh mẽ, do đó rất khó để tìm ra lỗi hoặc xâm nhập vào chúng. Vì vậy, tôi nghĩ từ một góc nhìn khác, hy vọng rằng sau 6 tháng hoặc 1 năm, chúng ta sẽ có một hệ sinh thái internet an toàn hơn so với trước đây. Chúng tôi đang nỗ lực hướng tới mục tiêu đó và cố gắng hết sức để mở cửa mythos cho những người phòng thủ mạng mới.

Chúng tôi đã liên tục trao đổi với chính phủ. Chúng tôi rất tôn trọng các khuyến nghị của họ. Vì lo ngại rủi ro phản gián, họ đang làm chậm tốc độ mở cửa của chúng tôi. Rủi ro. Tôi nghĩ điều này là khôn ngoan. Tôi tin rằng tất cả những người nghiêm túc ở đây đều hiểu rằng có những sự đánh đổi thực sự trong việc này.

Chúng tôi thấy trên Twitter và các công ty AI khác có nhiều lời chỉ trích gay gắt về điều này. Hãy nhìn vào những phát ngôn của họ, rồi nhìn vào hành động bất nhất của họ. Họ không phải là những người nghiêm túc. Họ không thực sự coi trọng những sự đánh đổi khó khăn mà chúng tôi đang đối mặt ở đây.

Bạn thấy đấy, mỗi ngày đều có khách hàng gọi cho tôi và nói rằng, tôi muốn sử dụng mythos. Cũng có các quốc gia gọi cho tôi và nói rằng, tôi muốn sử dụng mythos. Còn chính phủ Mỹ và đội ngũ an ninh của tôi thì nói với tôi rằng, không, hãy chờ đã, có rủi ro trong việc này. Tôi không nói rằng bên nào là đúng.

Tôi nghĩ sự thật nằm ở đâu đó giữa hai bên. Cả hai đều có quan điểm hợp lý. Cả hai đều có quan điểm hợp lý. Nhưng có những thách thức thực sự ở đây, và chúng ta cần cùng nhau đối mặt với tư cách một xã hội, thay vì đơn giản gạt bỏ mọi thứ như một chiêu trò tiếp thị rẻ tiền, cũng đừng giống như một số công ty khác, lợi dụng giám đốc tiếp thị để cố gắng định vị ngược.

Tất cả điều này cho thấy một sự thiếu trang trọng và chín chắn đáng kinh ngạc. Chúng ta cần cùng nhau đối mặt với thời điểm này.

Cân bằng quyền lực và quản lý của chính phủ

Emily Chang: Liệu anh đã phải thực hiện những sự đánh đổi khiến anh cảm thấy không thoải mái chưa?

Dario Amodei: Toàn bộ lịch sử của Anthropic là một quá trình đánh đổi, toàn bộ lịch sử của Anthropic, trong một thế giới lý tưởng nào đó, bạn sẽ muốn dành nhiều năm để nghiên cứu mọi thứ có thể sai sót trước khi phát hành chatbot đầu tiên. Hiện tại, chúng tôi thực sự đã trì hoãn.

Chúng tôi thực sự đã trì hoãn lần phát hành đầu tiên của Claude, nhưng chỉ vài tháng. Vì vậy, tôi nói rằng mọi thứ đều là sự đánh đổi, ở hai thái cực của quang phổ là hoàn toàn điên rồ, do đó, mọi thứ đều là sự đánh đổi.

Tôi muốn nói rằng, vì hiện tại chúng tôi đang ở vị trí dẫn đầu thương mại mà tôi đã mô tả, thực tế, tôi và Daniela đang làm mọi thứ có thể để thúc đẩy thêm tiến bộ trong việc hành động thận trọng. Đó là mục đích của việc phát hành mythos, nếu bạn không phải là người dẫn đầu ngành, sẽ rất khó để làm được điều này. Vì vậy, tôi nghĩ bạn sẽ thấy nhiều điều tương tự xảy ra hơn.

Emily Chang: Có một quan điểm cho rằng, tại sao chính phủ không tiếp quản các anh? Tại sao họ lại để một công ty tư nhân kiểm soát công nghệ mạnh mẽ như vậy?

Dario Amodei: Vì vậy, tôi thực sự nghĩ đây là một câu hỏi rất nghiêm túc, và tôi cũng đồng tình với những lo ngại này. Tôi không nghĩ chính phủ nên trực tiếp tiếp quản chúng tôi, nhưng tôi có thể diễn đạt theo cách này. Tôi muốn nói rằng, nhìn lại và mô tả thực trạng hiện tại, mọi công nghệ mạnh mẽ thế hệ trước mà chúng ta từng thấy trong lịch sử, hoặc là do chính phủ xây dựng, hoặc bắt nguồn từ chính phủ.

Ví dụ như vũ khí hạt nhân, rõ ràng ban đầu do chính phủ xây dựng, và sau đó cũng chủ yếu do chính phủ dẫn dắt. Nhưng ngay cả những công nghệ như Internet, GPS, điện thoại di động, mọi công việc nghiên cứu và phát triển đều được thực hiện trong các phòng thí nghiệm, phòng thí nghiệm liên bang và các trường đại học.

AI là công nghệ đầu tiên được xây dựng trong khu vực tư nhân, chính phủ không đóng vai trò thực chất và tham gia tương đối chậm trễ. Tôi cho rằng đây thực sự là một tình huống nguy hiểm và bất ổn. Đây không phải là tình huống tôi lựa chọn. Không có giải pháp thay thế nào ở đây, bản thân công nghệ này có thể được xây dựng. Các đối thủ cạnh tranh của chúng ta đang tiến hành xây dựng, điều này có giá trị kinh tế, dù sao nó cũng sẽ được xây dựng, vấn đề là chính phủ không tham gia, chứ không phải khu vực tư nhân đang làm.

Tôi cho rằng chúng ta cần cân nhắc đến sự kiểm soát quyền lực, vì vậy tôi nghĩ cần có sự kiểm soát quyền lực đối với các công ty AI. Chúng ta có một cơ chế, đó là Long-term Benefit Trust, về cơ bản nó là một tổ chức có thể bổ nhiệm và bãi nhiệm đa số thành viên hội đồng quản trị. Nếu logic này được xuyên suốt, nó thực sự có quyền sa thải tôi.

Hiện tại chúng ta đang đưa vào một số yếu tố – dù còn xa mới đầy đủ – chúng ta đang đưa vào một số yếu tố tương tự quản trị công cộng, tức là bạn phải chịu trách nhiệm với ai đó, không chỉ với cổ đông của công ty. Điều này rất quan trọng, bất kể công ty có chuyện gì xảy ra trong tương lai, cấu trúc này sẽ tiếp tục tồn tại. Trong lĩnh vực AI, chúng tôi khuyến khích các công ty khác cũng áp dụng cấu trúc tương tự.

Về phía chính phủ, tôi cho rằng chúng ta cần kiểm soát và cân bằng. Quốc hội đã công bố một số nỗ lực nhằm thiết lập các ranh giới đỏ, vì vậy tôi thực sự nghĩ rằng nhánh lập pháp và nhánh tư pháp cần đóng vai trò, bởi vì đối với công nghệ này, tôi vừa lo lắng về việc công ty nắm giữ nó, vừa lo lắng về việc chính phủ nắm giữ nó.

Sau đó, doanh nghiệp cần kiểm soát chính phủ, và chính phủ cũng cần quản lý doanh nghiệp. Chúng ta cần có sự quản lý cơ bản đối với công nghệ này. Tôi cho rằng chúng ta cần bắt đầu thực hiện kiểm tra trước khi phát hành, tức là kiểm tra bắt buộc trước khi phát hành, cũng như kiểm tra và kiểm toán các mô hình.

Đối với tôi, điều rất mỉa mai là có một nhóm người trong giới công nghệ Thung lũng Silicon, ban đầu họ cho rằng ngay cả việc minh bạch hóa xung quanh công nghệ này, hay thậm chí áp dụng kiểm soát xuất khẩu, cũng sẽ hoàn toàn phá hủy tiềm năng tạo ra công nghệ này và kìm hãm sự đổi mới. Tuy nhiên, một khi họ nhìn thấy mối nguy hiểm thực sự đầu tiên mà tôi đã luôn dự đoán, tình hình đã thay đổi. Họ bắt đầu nói nhiều về cái gọi là quốc hữu hóa, cho rằng chính phủ nên trực tiếp tiếp quản nó.

Thôi nào, mọi người. Thái độ của các bạn cứ xoay vòng, từ chống đối cực đoan – kiểu như 'nếu các người dám nhìn chúng tôi quá nhiều, là đang hủy hoại ngành này' – sang hẳn một hướng cộng sản hoàn toàn như 'chính phủ nên tịch thu hết mọi thứ'. Chúng ta cần một cách tiếp cận hợp lý và ôn hòa hơn.

Đây chính xác là điều chúng tôi luôn ủng hộ, vì chúng tôi hiểu sâu sắc sức mạnh tiềm ẩn trong công nghệ này. Chúng tôi không hoảng loạn. Chúng tôi cũng không phủ nhận điều đó. Chúng tôi thấy sự tăng trưởng theo cấp số nhân mượt mà và đang ứng phó phù hợp.

Vậy, chuyến thăm lại Nhà Trắng của anh thế nào? Chúng tôi luôn cố gắng làm việc với bất kỳ ai có thể hợp tác. Ở cấp chính phủ, tôi đã nói rằng chúng tôi có một phương pháp đơn giản. Chúng tôi có những nguyên tắc. Chúng tôi tuân thủ các nguyên tắc đó và hy vọng những người ở phe đối diện sẽ có lý trí. Thành thật mà nói, chính phủ thực sự rất coi trọng mythos.

Ví dụ, chúng tôi đã có những cuộc đối thoại tốt với Bộ trưởng Bessent và Chánh văn phòng Sotomay. Còn Chánh văn phòng Nhà Trắng Susie Wiles, tôi nghĩ họ thực sự hiểu bản chất của rủi ro ở đây. Tôi nghĩ Mythos thực sự giúp họ cảm nhận cụ thể hơn những rủi ro này nằm ở đâu.

Vì vậy, như bất kỳ chính phủ nào, có những bộ phận chúng tôi hợp tác rất tốt và họ hiểu điều này. Tất nhiên, cũng có những bộ phận khó khăn hơn. Tôi nghĩ điều đó là bình thường. Tình trạng này xảy ra ở bất kỳ chính phủ nào, và chúng tôi chỉ cố gắng ứng phó một cách phù hợp.

Phần bù trí tuệ, địa chính trị và bức tranh tương lai

Emily Chang: Anh từng làm việc tại Baidu, một công ty công nghệ lớn của Trung Quốc, trong chi nhánh Thung lũng Silicon, và anh luôn có quan điểm rõ ràng về Trung Quốc. Trung Quốc đang tung ra các mô hình mã nguồn mở mạnh mẽ, và các công ty Mỹ đang phát triển miễn phí dựa trên chúng. Đây có phải là một mối đe dọa không?

Dario Amodei: Vì vậy, một điều chúng tôi thấy ở công nghệ này là phần bù cho mức độ thông minh của mô hình thực sự rất cao. Chúng tôi hiếm khi thấy mọi người có xu hướng chọn các mô hình kém thông minh hơn. Nói rõ ràng, đã tồn tại một hệ sinh thái phát triển sôi động. Có rất nhiều thách thức và vấn đề đơn giản hơn nhiều so với những gì chúng ta cần các mô hình tiên tiến để giải quyết.

Nhưng vẫn phải nhấn mạnh rằng, đây là một sự tăng trưởng theo cấp số nhân, nghĩa là những mô hình không nằm ở tuyến đầu này có thể mang lại giá trị kinh tế tương đương với những gì chúng ta thấy trong năm 2023 và 2024, nhưng đừng quên, chúng ta đang tăng trưởng với tốc độ gấp 10 lần mỗi năm.

Vì vậy, chúng tôi nhận thấy rằng, những thứ ở trình độ tiên tiến luôn mạnh mẽ hơn rất nhiều so với những thứ xa rời trình độ đó. Tôi nghĩ điều này vẫn chưa thực sự được hiểu rõ bởi những người quen xây dựng sản phẩm trong thời đại cũ, với tư cách là một người chưa từng điều hành công ty, chưa từng suy nghĩ về kỷ nguyên sản phẩm trước đây, và đặc biệt là ghét thời đại mạng xã hội.

Tôi cảm thấy mình như một người ngoài cuộc ở thế giới đó. Và tôi nghĩ trực giác của mọi người là sai lầm. Họ có đủ loại quy tắc kinh nghiệm về sản phẩm. Tôi cho rằng mô hình tăng trưởng cấp số nhân gấp 10 lần mỗi năm thực sự phá vỡ điều đó. Giống như trí thông minh là một yếu tố cực kỳ quan trọng, có trọng số vượt qua mọi thứ. Vì vậy, chúng tôi thấy đi đi lại lại rằng, giá trị thường nằm ở lĩnh vực tiên tiến.

Hiện tại, điều tôi lo ngại về một số mô hình tụt hậu là rủi ro mà chúng mang lại, đó là khả năng tấn công mạng cấp độ Mythos mà chúng ta phải đối mặt. 12 tháng sau, chúng ta sẽ có khả năng mạng mạnh mẽ hơn, nhưng khả năng tấn công mạng cấp độ Mythos có thể sẽ có sẵn cho bất kỳ ai tải về. Hy vọng trước đó chúng ta đã vá tất cả mọi thứ. Tôi không nghĩ có cách nào ngăn chặn nó, nhưng tôi cho rằng đây là một vấn đề nghiêm trọng.

Emily Chang: Những gì bạn thấy và nghe tại baidu có định hình quan điểm của bạn về Trung Quốc không?

Dario Amodei: Không, thực sự là không.

Tôi đã làm việc ở đó một năm. Tôi nghĩ có lẽ tôi học được nhiều hơn về nhận dạng giọng nói và những thứ tương tự. Có lẽ điều duy nhất khiến tôi lo ngại là, trong cách chúng tôi thu thập dữ liệu nhận dạng giọng nói, có một phần là – ở Trung Quốc họ không quan tâm đến quyền riêng tư, vì vậy chúng tôi có tất cả dữ liệu nhận dạng giọng nói này.

Nhưng ngoài điểm đó, mối lo ngại của tôi ở đây là về mặt địa chính trị. Tôi nghĩ điều khiến tôi lo lắng nhất về những gì đang xảy ra ở Trung Quốc là những gì chúng ta thấy ở Mỹ, tức là sự đàn áp tiếng nói phê bình mà chúng ta chứng kiến, thậm chí ở Mỹ, như những gì xảy ra với vấn đề Hồng Kông của Trung Quốc, như khả năng can thiệp vào thực tế của Mỹ.

Mạng lưới kinh doanh và đàn áp phê bình, đó là một quốc gia độc tài. Và đó là một quốc gia độc tài công nghệ cao. Khi tôi thấy điều này kết hợp với AI, bạn thực sự có được một xã hội phản địa đàng ở đây, giống như 1984 hoặc tệ hơn.

Trọng tâm của tôi là cố gắng ngăn chặn điều này. Tôi tin rằng chúng ta có cơ hội để ngăn chặn nó.

Tôi nghĩ chúng ta có cơ hội để biến AI thành một công nghệ ủng hộ tự do, một công nghệ giúp con người tự do hơn, có thể hiện thực hóa cam kết về công bằng bình đẳng cho tất cả mọi người, nếu không nó cũng có thể đi theo hướng ngược lại. Tương lai sẽ đi về đâu phụ thuộc vào hành động của các công ty AI, hành động của chính phủ, và hành động của tất cả chúng ta. Vì vậy, tôi cho rằng chúng ta có trách nhiệm với điều này.

Tự cải tiến và sự tồn vong của nền văn minh

Emily Chang: Những người trong lĩnh vực của anh thường nói về một thời điểm khi AI trở nên đủ mạnh để tự cải tiến, sau đó phiên bản cải tiến lại tiếp tục tự lặp lại, và cứ thế tiếp diễn. Một số nhà nghiên cứu của anh cho rằng thời điểm này sắp đến. Thời điểm đó còn cách chúng ta bao xa?

Dario Amodei: Tôi không cho rằng đó là một thời điểm cụ thể. Tôi nghĩ đó là một quá trình liên tục. Ở một số khía cạnh, chúng ta đã chứng kiến điều này, tức là AI có thể đề xuất kiến trúc cho thế hệ AI tiếp theo. Tôi muốn nói rằng khoảng một năm trước, chúng tôi quan sát thấy năng suất tổng thể đã tăng 10% đến 15% nhờ AI. Ví dụ, hiện tại tỷ lệ này có thể đã tăng lên 20% hoặc 30%. Thậm chí nó có thể đang tăng gấp đôi.

Giống như mọi thứ khác, chúng ta đang ở trên một đường cong hàm mũ, và không có một khoảnh khắc cụ thể nào mà AI đột nhiên tự tiến hóa, mất kiểm soát hoặc trở nên không an toàn.

Những gì chúng ta trải qua là một sự tăng trưởng hàm mũ ngày càng tăng tốc. Và tại mỗi điểm trên đường cong hàm mũ, chúng ta phải đánh giá: Đây có phải là lúc để chậm lại không? Đây có phải là lúc để áp đặt nhiều kiểm soát hơn đối với công nghệ này không? Tôi nghĩ tương lai sẽ cần ngày càng nhiều kiểm soát. Nhưng tôi cho rằng, chìa khóa để giải quyết tất cả điều này nằm ở đường cong hàm mũ mượt mà này.

Một lần nữa, tôi nghĩ rằng những người từng phản đối mọi sự quản lý AI, sau đó vì thấy một hiện tượng nào đó mà chủ trương quốc hữu hóa nó, đã dạy cho chúng ta một bài học. Tôi nghĩ rằng những người từng coi thường sức mạnh của AI, sau đó lại kêu lên rằng AI đang tự tiến hóa, sắp mất kiểm soát và yêu cầu dừng lại hoàn toàn, cũng đã dạy cho chúng ta một bài học.

Việc dao động qua lại giữa những phản ứng cực đoan này là vô cùng bất lợi cho việc đối phó với công nghệ này.

Cách ứng phó đúng đắn, cách ứng phó thông minh, là giữ bình tĩnh, không hoảng loạn. Các biện pháp ứng phó của chúng ta sẽ tăng lên một cách ổn định cùng với sức mạnh của công nghệ. Nếu bạn thấy ai đó có phản ứng dao động điên cuồng như vậy, điều đó cho thấy họ đã bị bất ngờ và họ không nghiêm túc.

Emily Chang： Theo tôi được biết, một trong những cuốn sách yêu thích của anh là *The Making of the Atomic Bomb*.

Dario Amodei： Đúng vậy.

Emily Chang： Anh có thấy mình có điểm tương đồng với Oppenheimer không?

Dario Amodei： Nhân vật mà tôi đồng cảm nhất là Leo Szilard, người đầu tiên đưa ra ý tưởng về khả năng tồn tại một phản ứng dây chuyền nào đó.

Nghe này, quan điểm của tôi là chúng ta không thể giải quyết vấn đề này thông qua những cá tính phi thường hay những người cố gắng trở thành trung tâm của mọi thứ, cần có sự cân bằng quyền lực ở đây, có rất nhiều bên tham gia mạnh mẽ với lợi ích riêng của họ, và cách duy nhất để mọi người có kết cục tốt đẹp là thiết lập một cơ chế nào đó, tức là đạt được sự cân bằng cơ bản ở mọi nơi.

Vì vậy, ở một mức độ nào đó, tôi thực sự coi Oppenheimer như một bài học ngược, về những gì không nên xảy ra.

Emily Chang： Anh từng nói rằng, khả năng sụp đổ của nền văn minh là khoảng 10% đến 25%. Điều này không phải là nhỏ. Liệu có một kịch bản nào đó, mà nguyên nhân dẫn đến kết quả này lại đến từ Anthropic không?

Dario Amodei： Tất nhiên tôi hy vọng là không. Quan điểm của tôi là những hành động chúng ta thực hiện đã làm giảm xác suất đó, chứ không phải tăng nó, xác suất này bắt nguồn từ logic rất trực quan của chính công nghệ: trên thế giới có nhiều quốc gia, trong nền kinh tế có nhiều công ty, và nếu khoảng trống không được lấp đầy, các công ty mới sẽ ra đời, đó là tình thế khó khăn mà chúng ta đang đối mặt.

Chúng tôi đang nỗ lực hành động để giảm xác suất này. Tôi tin rằng mức độ chúng tôi giảm nó lớn hơn nhiều so với mức độ chúng tôi tăng nó.

Tuy nhiên, bản chất cố hữu của công nghệ này là không thể đoán trước. Vì vậy, chúng tôi xây dựng và thử nghiệm rất nhiều trước khi phát hành sản phẩm, và tôi cho rằng, các mô hình hiện tại được phát hành không nguy hiểm, ít nhất là không nguy hiểm ngoài lĩnh vực an ninh mạng. Sau đó, chúng tôi cố gắng lặp lại và học hỏi từ đó. Vì vậy, chúng tôi có vô số cơ chế phòng vệ, và một nửa công việc trong công ty là nhằm giảm thiểu rủi ro ở mức tối đa.

Tuy nhiên, rủi ro không bao giờ có thể giảm xuống bằng không.

Điều tôi muốn nói là, giả sử trên thị trường có rất nhiều hãng hàng không, và bạn quyết định thành lập một hãng hàng không an toàn hơn. Hãng của bạn có thể an toàn gấp 10 lần tất cả các hãng khác. Nhưng nếu có ai đó hỏi bạn, liệu bạn có thể đảm bảo máy bay của mình không bao giờ rơi không? Làm sao bạn có thể đảm bảo được? Làm sao bạn có thể làm được điều đó?

Emily Chang: Nhưng nếu xác suất máy bay rơi là 25%, chắc chắn bạn sẽ không lên chiếc máy bay đó.

Dario Amodei: Đúng vậy. 25% là quá cao. Chúng tôi đang cố gắng đưa xác suất này xuống mức cực kỳ, cực kỳ thấp. Đó chính là mục tiêu của chúng tôi.

Xây dựng niềm tin: Chứng minh sự khác biệt qua hành động

Emily Chang: Các bạn đang xây dựng một thứ gì đó cực kỳ mạnh mẽ và hứa hẹn thu về lợi nhuận khổng lồ. Tại sao chúng tôi nên tin tưởng các bạn?

Dario Amodei: Tôi nghĩ rằng, khi bất kỳ công ty nào mới khởi nghiệp, đặc biệt khi xét đến cách hành xử của toàn bộ Silicon Valley như một thực thể trong thời gian qua, thì việc mọi người có quan điểm như vậy là điều tự nhiên. Nhìn lại vài năm trước, tôi cho rằng xuất phát từ góc độ không tin tưởng – nếu bạn không biết gì về tôi hoặc về Anthropic – thì đó là một thái độ khá hợp lý.

Tôi nghĩ Silicon Valley đã đánh mất quá nhiều niềm tin của thế giới, và chúng tôi phải giành lại niềm tin đó.

Thông điệp chúng tôi muốn truyền tải là, chúng tôi thực sự khác biệt. Và niềm tin này phải được giành lấy qua những hành động thực tế của chúng tôi. Bạn có thể đồng ý hoặc phản đối, nhưng chúng tôi luôn giữ vững các giá trị của mình. Về những câu chuyện thần thoại, việc không phát hành mô hình cực kỳ mạnh mẽ đó thực sự đã hạn chế chúng tôi về mặt thương mại.

Trước đó còn có nhiều việc vụn vặt khác, chúng tôi đã giữ lời về vấn đề Trung Quốc. Chúng tôi đã cắt quyền truy cập vào mô hình. Chúng tôi không bắt buộc phải làm vậy. Không ai yêu cầu chúng tôi làm điều đó. Hãy hiểu rằng, vào thời điểm đó, khi vài trăm triệu đô la vẫn chiếm tỷ trọng khá lớn trong tổng doanh thu của chúng tôi, điều này đã khiến chúng tôi mất đi hàng trăm triệu đô la.

Ví dụ như việc trì hoãn phát hành Claude II, chúng tôi có một lịch sử dài trong lĩnh vực này.

Chúng tôi không hoàn hảo. Chúng tôi sẽ mắc sai lầm. Nhưng tôi muốn mọi người nhìn vào toàn bộ lịch sử của chúng tôi, nếu tổng hợp lại, giả định nào phù hợp nhất với lịch sử này? Mọi người phải tự đưa ra quyết định.

Nhưng tôi nghĩ một giả định nhất quán là chúng tôi thực sự đang cố gắng làm điều đó. Làm những điều đúng đắn.

Chúng tôi không hoàn hảo. Tổ chức nào cũng có vấn đề rối loạn chức năng. Chúng tôi luôn cố gắng sửa chữa chúng, làm cho chúng hoạt động tốt hơn. Trong quá trình đó sẽ có nhiều sai sót, nhiều chỗ hỏng hóc. Nhưng về cơ bản, chúng tôi có một tầm nhìn chân thành và nghiêm túc về cách làm điều đúng đắn, và chúng tôi đang nỗ lực thực hiện tầm nhìn đó.

Emily Chang: Vậy thì, chúng ta sẽ gặp lại nhau ở đầu bên kia của sự tăng trưởng theo cấp số nhân.

Dario Amodei: Ừm, hy vọng vậy.

Emily Chang: Ừm, hy vọng vậy.

Dario Amodei: Có một điều về công việc CEO khiến tôi ngạc nhiên và trước đây không biết, đó là bạn phải thường xuyên trang điểm. Điều này hoàn toàn nằm ngoài dự đoán của tôi.

Emily Chang: Chỉ một chút phấn nền thôi mà.

Liên kết gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia