Video Title: Xây Dựng Anthropic | Cuộc Trò Chuyện với các Tổng Giám Đốc Sáng Lập Của Chúng Tôi
Video Source: Anthropic
Translated by: DeepTide TechFlow

Tóm Tắt Quan Trọng

Trong tuần vừa qua, Anthropic đã gặp phải hai vụ tai nạn liên tiếp:

Đầu tiên là hơn 3000 tài liệu nội bộ đã bị tiết lộ do lỗi cấu hình CMS, ngay sau đó, khi Claude Code v2.1.88 được phát hành trên npm, đã đính kèm một source map 59.8MB, 51 nghìn dòng mã nguồn tiếp tục rơi vào tay công chúng.

Một công ty đã ghi chú "An toàn" vào gen, nhưng lại liên tục gặp sự cố trong quản lý hệ thống nội bộ, tạo nên sự trào phúng không thể giảm nổi.

Nhưng trước khi vội vàng chế giễu, hãy quay lại và lắng nghe một cuộc trò chuyện nội bộ của bảy người sáng lập Anthropic từ hơn một năm trước. Bản ghi podcast này được thực hiện vào tháng 12 năm 2024, bảy người đã thảo luận về việc xây dựng công ty này như thế nào, RSP (Chính Sách Mở Rộng Chịu Trách Nhiệm, dịch theo nghĩa đen là "Chính Sách Mở Rộng Chịu Trách Nhiệm") đã được áp dụng ra sao, từ từ có lẽ sau cho từ "An Toàn" không thể sử dụng một cách dễ dàng, cũng như câu nói mà CEO Dario đã nói đi nói lại:

“Nếu một tòa nhà phát lửa mỗi tuần, thì thực ra nó là một công trình rất không an toàn.”

Bây giờ, khi nghe lại câu này, cảm giác thực sự khác biệt.

Bảy Người Sáng Lập, Được Nhận Diện Nhanh Chóng

Dario Amodei｜CEO, trước đây là Phó Tổng Giám Đốc Nghiên Cứu của OpenAI, có bằng chuyên ngành Sinh học Thần Kinh, là người quyết định cuối cùng về chiến lược và an ninh của Anthropic. Anh đã phát ngôn nhiều nhất trong cuộc trò chuyện này.

Daniela Amodei｜Tổng Giám Đốc, chị gái của Dario. Trước đó làm việc tại Stripe trong năm rưỡi, đã dẫn dắt nhóm tin cậy và an ninh, và từng làm việc trong lĩnh vực phi lợi nhuận và phát triển quốc tế. Cô chịu trách nhiệm chủ yếu về việc xây dựng tổ chức và giao tiếp bên ngoài của Anthropic.

Jared Kaplan｜Giáo sư Vật Lý chuyển đổi thành nhà nghiên cứu trí tuệ nhân tạo, một trong những tác giả chính của luật về mức độ mở rộng. Thường xuyên đưa ra đánh giá từ góc nhìn bên ngoài, tự nhận từng bắt đầu làm AI vì "đã chán với Vật Lý".

Chris Olah｜Người đại diện nổi tiếng của nghiên cứu về tính minh bạch, gia nhập thị trường trí tuệ nhân tạo ở Vịnh San Francisco khi mới 19 tuổi, làm việc tại Google Brain và sau đó là OpenAI. Người có sắc thái lý tưởng về công nghệ nhất trong Anthropic.

Tom Brown｜Tác giả chính của bài báo về GPT-3, hiện đang quản lý nguồn lực tính toán của Anthropic. Quan điểm hướng kỹ thuật và cơ sở hạ tầng, trong podcast đã chia sẻ về quá trình chuyển đổi từ "không tin rằng trí tuệ nhân tạo sẽ phát triển nhanh như vậy" sang việc thay đổi quan điểm.

Jack Clark｜Cựu phóng viên công nghệ của Bloomberg, hiện là người phụ trách chính sách và công việc công cộng của Anthropic. Trong cuộc trò chuyện này, ông đảm nhận vai trò người dẫn chương trình, chịu trách nhiệm truyền đạt và đặt câu hỏi phụ.

Sam McCandlish｜Cộng sự nghiên cứu, dù ít phát biểu nhất trong buổi nói chuyện nhưng thường chỉ cần một câu để chạm đến vấn đề then chốt, thuộc về "vị trí nhân vật chính" thêm vào.

Tóm Tắt Quan Điểm Hấp Dẫn

Tại Sao Làm AI: Từ Sự Chán Chường Vật Lý Đến "Xem Đủ Lâu Sẽ Tin"

Jared Kaplan: "Trước đó, tôi đã làm vật lý trong một thời gian dài, cảm thấy một chút chán chường, muốn làm việc cùng nhiều bạn hơn, vì vậy tôi đã chuyển sang làm AI."

Dario Amodei: "Tôi không nghĩ rằng tôi đã thuyết phục bạn một cách rõ ràng, tôi chỉ liên tục cho bạn xem kết quả mô hình AI. Đến một giai đoạn nào đó, sau khi bạn xem đủ lâu, bạn nói 'Ừ, dường như đúng đấy'."

Cược Chống Ngược: Đa số sự đồng thuận là hiệu ứng bầy đàn giả mạo thành trưởng thành

Jared Kaplan: "Rất nhiều nhà nghiên cứu về trí tuệ nhân tạo bị tổn thương tinh thần với tâm lý mùa đông lạnh về trí tuệ nhân tạo, dường như tham vọng không được phép."

Dario Amodei: "Bài học sâu sắc nhất của tôi trong mười năm vừa qua là: rất nhiều sự đồng thuận mà 'mọi người đều biết', thực ra chỉ là hiệu ứng bầy đàn giả mạo thành trưởng thành. Khi bạn thấy sự đồng thuận bị đảo ngược qua một đêm, bạn sẽ nói: Không, chúng ta đặt cược vào đây. Ngay cả khi bạn chỉ chắc chắn 50%, bạn cũng sẽ đóng góp nhiều điều mà người khác không có."

Bảo mật và Khả năng Mở Rộng Đi Đôi Với Nhau

Dario Amodei: "Một trong những động cơ để mở rộng mô hình là mô hình cần đủ thông minh để RLHF có thể hoạt động. Điều này vẫn là điều chúng tôi tin tưởng: Bảo mật và Khả năng Mở Rộng Đi Đôi Với Nhau."

RSP, Chính Sách Mở Rộng Có Trách Nhiệm, là "Hiến Pháp" của Anthropic

Tom Brown: "RSP đối với Anthropic, giống như Hiến Pháp của chúng tôi. Đó là một tài liệu cốt lõi hướng dẫn, vì vậy chúng tôi sẵn lòng dành nhiều thời gian và năng lực để chăm chút kỹ lưỡng."

Dario Amodei: "RSP sẽ ngăn chặn các kế hoạch không đáp ứng tiêu chuẩn bảo mật tiếp tục tiến triển. Chúng tôi không chỉ nói suông, mà thực sự tích hợp bảo mật vào từng khía cạnh."

Khi Cảnh Báo Cháy Vẫn Kêu Quá Thường Xuyên, Khi Đó Đã Không Có Ai Chạy Nữa

Daniela Amodei: "Chúng ta không thể xài từ 'bảo mật' mà làm chậm tiến trình công việc. Mục tiêu thực sự của chúng ta là để mọi người hiểu rõ rằng an toàn mà chúng ta ám chỉ là gì."

Dario Amodei: "Những cuộc 'tập trận an toàn' thường xuyên mới thật sự gây thiệt hại cho an toàn. Nếu có một tòa nhà mà cứ mỗi tuần đều vun vút cảnh báo cháy, thì thực tế đó là một tòa nhà rất không an toàn."

"Thất Bại Caooooo Cấp" Là Bẫy

Chris Olah: "Có một quan điểm rằng, hành động đạo đức nhất là hy sinh mục tiêu khác vì an toàn, để thể hiện sự tinh khiết đối với sứ mệnh của mình. Nhưng cách tiếp cận này thực tế là tự hủy hoại. Bởi vì điều này sẽ dẫn đến quyền quyết định rơi vào tay những người không coi trọng an toàn."

Người Sáng Lập Cam Kết Hiến Tặng 80% Thu Nhập

Tom Brown: "Chúng tôi cam kết chung hiến tặng 80% thu nhập cho những dự án thúc đẩy phát triển xã hội, điều này là điều mà ai cũng hết lòng ủng hộ."

Không ai muốn khởi nghiệp, nhưng họ cảm thấy đó là điều cần phải làm

Sam McCandlish:「Thực ra trong số chúng tôi không ai từ đầu đã có ý định thành lập công ty. Chúng tôi chỉ cảm thấy đây là trách nhiệm của chúng tôi, vì đây là cách duy nhất để đảm bảo tiến bộ của trí tuệ nhân tạo theo hướng đúng đắn.」

Daniela Amodei:「Sứ mệnh của chúng tôi vừa rõ ràng vừa trong sáng, trong ngành công nghệ, điều này không phải là điều thường thấy.」

Tính giải thích được: Trong mạng nơ-ron, có một hệ thống toàn bộ "thế giới số" nhân tạo

Chris Olah:「Mạng nơ-ron là một điều tuyệt vời, trong đó có rất nhiều vẻ đẹp mà chúng ta vẫn chưa nhìn thấy. Đôi khi tôi tưởng tượng, mười năm sau, bước vào một cửa hiệu sách, mua một quyển sách giáo trình về sinh học mạng nơ-ron, trong đó sẽ có nhiều nội dung gây kinh ngạc.」

AI được sử dụng để tăng cường dân chủ, không phải trở thành công cụ độc tài

Dario Amodei:「Chúng tôi lo lắng rằng nếu trí tuệ nhân tạo được phát triển một cách sai lầm, nó có thể trở thành công cụ độc tài. Làm thế nào để biến AI thành một công cụ thúc đẩy tự do và quyền tự quyết? Tầm quan trọng của lĩnh vực này không kém cạnh sinh học và tính giải thích được.」

Từ cuộc họp tại Nhà Trắng đến giải Nobel: Ảnh hưởng của AI đã vượt ra khỏi vòng công nghệ từ lâu

Jared Kaplan:「Năm 2018, bạn sẽ không nghĩ tổng thống sẽ mời bạn đến Nhà Trắng để nói về họ đang quan tâm đến mô hình ngôn ngữ.」

Dario Amodei:「Chúng tôi đã thấy giải Nobel trong lĩnh vực hóa học trao cho AlphaFold, chúng ta nên nỗ lực phát triển công cụ có thể giúp chúng ta tạo ra hàng trăm công cụ như AlphaFold.」

Tại sao nghiên cứu về trí tuệ nhân tạo?

Jack Clark: Tại sao chúng ta lại bắt đầu làm AI từ đầu? Jared, bạn làm AI vì lý do gì?

Jared Kaplan:「Trước đó, tôi đã nghiên cứu vật lý rất lâu, cảm thấy chút chán chường, và muốn làm việc cùng nhiều bạn hơn, cho nên tôi đã chuyển sang làm AI.」

Tom Brown：「Tôi đã nghĩ rằng đó là Dario đã thuyết phục bạn.」

Dario Amodei：「Tôi không nghĩ rằng tôi đã thuyết phục bạn một cách rõ ràng, tôi chỉ luôn cho bạn xem kết quả của mô hình AI, muốn diễn đạt rằng chúng rất thông dụng, không chỉ áp dụng cho một vấn đề duy nhất. Đến một lúc nào đó, sau khi tôi cho bạn xem đủ nhiều, bạn nói 'Ừ, dường như đúng vậy'.」

Jack Clark：Chris, khi bạn thực hiện nghiên cứu về khả năng giải thích, liệu đó có phải là khi bạn làm việc tại Google và quen biết mọi người không?

Chris Olah：「Không phải. Thực ra, khi tôi 19 tuổi đầu tiên đến vùng vịnh, tôi đã quen biết nhiều người trong số các bạn. Lúc đó tôi đã gặp Dario và Jared, họ là các bậc tiến sĩ sau bậc đại học, lúc ấy tôi thấy họ rất tuyệt. Sau đó, khi tôi đến Google Brain, Dario tham gia và chúng tôi ngồi cạnh nhau một thời gian, tôi cũng làm việc cùng Tom, sau đó tôi chuyển sang OpenAI và làm việc cùng tất cả mọi người.」

Jack Clark：「Tôi nhớ rằng tôi đã gặp Dario lần đầu vào năm 2015 tại một hội nghị và muốn phỏng vấn anh, phía PR của Google còn nói tôi phải đọc hết bài báo của bạn trước.」

Dario Amodei：「Lúc ấy tôi đang viết bài báo 'Concrete Problems in AI Safety' tại Google.」

Sam McCandlish：「Trước khi tôi bắt đầu làm việc cùng bạn, bạn đã mời tôi đến văn phòng trò chuyện, như một cách trình bày lại tổng quan về AI cho tôi. Tôi nhớ sau khi trò chuyện xong, tôi nghĩ: 'Nguyên ra vấn đề này nghiêm trọng hơn nhiều so với nhận thức của tôi.' Lúc ấy, bạn đã nói về 'các khối lượng tính toán lớn', số lượng tham số, và quy mô của não người.」

Đột phá trong việc Mở rộng

Jack Clark：Tôi nhớ khi làm scaling laws tại OpenAI, việc làm mô hình lớn bắt đầu thật sự hiệu quả, và hiệu quả một cách liên tục và kỳ lạ trên nhiều dự án, từ GPT-2 đến scaling laws đến GPT-3, chúng ta đã điều này như vậy, tiến gần hơn.

Dario Amodei：「Chúng ta là nhóm 'làm điều đó' đấy.」

Jared Kaplan：「Chúng tôi cũng rất hào hứng với an ninh. Lúc đó có một ý tưởng: AI sẽ rất mạnh mẽ, nhưng có thể không hiểu về giá trị con người, thậm chí không thể giao tiếp với chúng ta. Một mức độ nào đó của mô hình ngôn ngữ có thể đảm bảo rằng nó sẽ hiểu được nhiều kiến thức ngầm.」

Dario Amodei：「Ngoài ra, trên cơ sở mô hình ngôn ngữ đã có RLHF, một trong những động lực để mở rộng mô hình ban đầu là để mô hình trở nên đủ thông minh để RLHF có thể được triển khai. Điều này vẫn là điều chúng tôi tin vào ngày hôm nay: an ninh và quy mô hoạt động điều này liên quan chặt chẽ.」

Chris Olah：「Đúng, công việc mở rộng vào thời điểm đó thực sự cũng là một phần của nhóm an ninh. Bởi vì chúng tôi cảm thấy, muốn mọi người thực sự chú ý đến an ninh, trước hết phải có khả năng dự đoán các xu hướng AI.」

Jack Clark： Tôi nhớ mình đang ở một sân bay ở Anh, lấy mẫu từ GPT-2 để viết tin giả, sau đó gửi cho Dario trên Slack nói "Điều này thực sự có thể áp dụng, có thể có ảnh hưởng chính sách lớn", tôi nhớ Dario trả lời là "Đúng vậy".

Sau đó, chúng tôi đã làm nhiều công việc liên quan đến việc phát hành, điều đó thật sự điên rồ.

Daniela Amodei：「Tôi nhớ đoạn thời gian đó, đó là lần đầu tiên chúng tôi thực sự bắt đầu hợp tác, lúc đó GPT-2 được phát hành.」

Jack Clark：「Tôi nghĩ rằng điều đó rất hữu ích đối với chúng tôi, đầu tiên chúng tôi đã làm một việc 'hơi kỳ lạ nhưng hướng đến an ninh', sau đó chúng tôi đã làm Anthropic, một dự án với quy mô lớn hơn, cũng 'hơi kỳ lạ nhưng hướng đến an ninh'.」

Bước Đầu Tiên của AI

Tom Brown：「Quay trở lại bài báo 'Các Vấn Đề Cụ Thể'. Tôi vào OpenAI vào năm 2016, vào thời điểm đó bạn và tôi đều là những người đầu tiên, lúc đó tôi đã cảm thấy bài báo đó giống như là bài báo về an ninh AI chính thống đầu tiên. Bài báo đó ra sao?」

Dario Amodei：「Chris biết, anh ta đã tham gia. Lúc đó chúng tôi đang ở Google, tôi đã quên rằng dự án chính của tôi là gì vào thời điểm đó, bài báo đó giống như là một bài báo mà tôi đã làm chậm trễ.」

Chúng tôi muốn ghi chép những vấn đề mở trong An toàn AI. Lúc đó, An toàn AI thường được nói đến rất trừu tượng, chúng tôi muốn đưa nó xuống thực tế của Machine Learning. Bây giờ đã có khoảng sáu đến bảy năm làm việc trên con đường này, nhưng vào thời điểm đó, đó chỉ là một ý tưởng kỳ quái.

Chris Olah: "Tôi nghĩ rằng nó ở một khía cạnh nào đó gần như là một dự án chính trị. Lúc đó, nhiều người không coi trọng vấn đề an ninh. Chúng tôi muốn tổ chức một danh sách vấn đề mà mọi người công nhận là hợp lý, nhiều vấn đề đã có trong văn kiện, sau đó tìm những người có uy tín và chuyên môn ở nhiều tổ chức để cùng ký tên."

Tôi nhớ tôi đã bỏ ra rất nhiều thời gian, liên lạc với hơn hai mươi nghiên cứu viên trong Brain để họ ủng hộ việc xuất bản. Nếu chỉ xem xét vấn đề chính mình, khi nhìn lại ngày hôm nay có thể không hợp lý, có thể không phải là vấn đề chính xác nhất. Nhưng nếu coi đó là quá trình tạo ra sự đồng thuận: chứng minh "đây là một vấn đề thực sự, đáng tiếp tục xem xét một cách nghiêm túc", thì đó là một bước quan trọng.

Jack Clark: "Cuối cùng, bạn sẽ bước vào một thế giới khoa học viễn tưởng rất lạ lùng, tôi nhớ Anthropic từng nói về AI Hiến pháp sớm, Jared nói 'Chúng tôi sẽ viết Hiến pháp cho mô hình ngôn ngữ, hành vi của nó sẽ thay đổi'. Lúc đó nghe có vẻ điên rồ. Tại sao bạn nghĩ rằng điều đó khả thi?"

Jared Kaplan: "Tôi đã thảo luận với Dario rất lâu, tôi cảm thấy rằng trong AI, cách tiếp cận đơn giản thường rất hiệu quả. Phiên bản ban đầu khá phức tạp, sau đó liên tục đơn giản hóa, cuối cùng trở thành: tận dụng vào khả năng của mô hình giải các câu hỏi, chỉ cần cung cấp gợi ý rõ ràng cho nó biết nơi tìm kiếm là đủ, sau đó chúng ta có thể viết trực tiếp các nguyên tắc xuống."

Dario Amodei: "Điều này quay trở lại với 'Khối lực lượng tính toán lớn' (The Big Blob of Compute), 'Bài học đắng' (The Bitter Lesson), 'Giả thuyết tăng chức năng' (Scaling Hypothesis): Chỉ cần bạn có thể đưa ra một mục tiêu và dữ liệu rõ ràng cho AI, nó sẽ học được. Một nhóm chỉ thị, một nhóm nguyên tắc, mô hình ngôn ngữ có thể đọc chúng, cũng có thể so sánh chúng với hành vi của chính nó, mục tiêu huấn luyện ở đó. Vì vậy, quan điểm của tôi và Jared là: có cách để thực hiện điều đó, chỉ cần điều chỉnh chi tiết một cách lặp đi lặp lại."

Jared Kaplan: "Đối với tôi, những giai đoạn đầu tiên rất kỳ lạ. Tôi chuyển từ vật lý sang đây, bây giờ mọi người đều hào hứng với AI, dễ dàng quên đi tâm trạng lúc đó. Lúc đó, tôi đã thảo luận với Dario về những vấn đề này, cảm thấy nhiều nhà nghiên cứu AI bị tổn thương tinh thần vì Lạnh lẽo AI, dường như 'có đam mê' không được phép. Trước khi thảo luận về an toàn, hãy tin rằng AI có thể rất mạnh mẽ, rất hữu ích, nhưng lúc đó có vẻ như có một quy định cấm đam mê. Một ưu điểm của các nhà vật lý là 'kiêu ngạo', họ thường thực hiện những điều đầy tham vọng, thích nói về tầm nhìn to lớn."

Dario Amodei：「Tôi nghĩ rằng điều này là thật, nhiều điều không thể nói vào năm 2014. Điều này cũng giống như một vấn đề phổ biến trong cộng đồng học thuật, ngoại trừ một số lĩnh vực cụ thể, các tổ chức ngày càng ghét rủi ro hơn, và công nghiệp AI cũng thừa hưởng tư duy này, tôi nghĩ cho đến khoảng năm 2022 thì mới bắt đầu thay đổi.」

Chris Olah：「Còn có hai hình thức của 'thận trọng': một là coi trọng rủi ro, một là coi việc nghiêm túc và tin rằng một ý tưởng có thể thành công là kiêu ngạo. Chúng tôi vào thời điểm đó chủ yếu theo hình thức sau. Trên lịch sử, thảo luận về vật lý hạt nhân vào năm 1939 cũng tương tự: Fermi chống đối, còn Szilard hoặc Teller coi trọng rủi ro hơn.」

Dario Amodei：「Bài học sâu sắc nhất của tôi trong thập kỷ qua là: nhiều điều mà 'mọi người đều biết' thực tế là hiệu ứng bầy đàn dựng lên thành một sự đồng thuận. Sau khi bạn thấy đồng thuận đảo chiều đột ngột một vài lần, bạn sẽ nói: Không, chúng ta chỉ tin vào cái này đấy. Dù có thể không chắc chắn, nhưng bỏ qua nhiễu để đặt cược. Ngay cả khi bạn đúng chỉ 50%, bạn vẫn đóng góp nhiều hơn người khác không đóng góp gì.」

Thái Độ Của Công Chúng Đối Với Trí Tuệ Nhân Tạo

Jared Kaplan：「Ngày nay, trên một số vấn đề về an ninh cũng tương tự: đồng thuận bên ngoài cho rằng nhiều vấn đề an ninh không tự nhiên mọc ra từ công nghệ, nhưng chúng tôi tại Anthropic khi nghiên cứu đã thấy rằng thực sự chúng tự nhiên mọc ra.」

Daniela Amodei：「Nhưng trong 18 tháng qua, điều này đã thay đổi, và tâm trạng của thế giới đối với trí tuệ nhân tạo cũng đã thay đổi rõ rệt, khi chúng tôi tiến hành nghiên cứu người dùng, chúng tôi thấy người dùng thông thường lo lắng về tác động tổng thể của trí tuệ nhân tạo đối với thế giới.」

Đôi khi là về công việc, định kiến, tính độc hại, đôi khi là về 'liệu nó có đảo lộn thế giới, thay đổi cách con người hợp tác' hay không, thực sự điều đó tôi không hoàn toàn dự đoán được.」

Sam McCandlish：「Không biết sao, vòng nghiên cứu học máy thường bi quan hơn so với công chúng về việc 'AI trở nên mạnh mẽ'.」

Jared Kaplan：「Vào năm 2023, khi tôi và Dario đến Nhà Trắng, trong cuộc họp, Harris, Raimondo cơ bản chỉ đề cập rằng: chúng tôi đang theo dõi các bạn, AI là một vấn đề lớn, chúng tôi đang theo dõi một cách nghiêm túc, nhưng vào năm 2018 bạn không thể nghĩ rằng 'Tổng thống sẽ gọi bạn đến Nhà Trắng để nói rằng họ đang quan tâm đến mô hình ngôn ngữ'.」

Tom Brown：「Thú vị là, nhiều người trong chúng ta đã tham gia trước khi điều này trở nên chắc chắn, giống như Fermi với bom nguyên tử, có một số bằng chứng cho thấy bom nguyên tử có thể được tạo ra, nhưng cũng có nhiều bằng chứng cho thấy nó không thể, nhưng ông đã quyết định thử. Bởi vì nếu đúng, tác động sẽ rất lớn, vì vậy đáng giá để thử.」

Năm 2015-2017 đã có một số bằng chứng và ngày càng tăng chứng minh rằng trí tuệ nhân tạo có thể là một vấn đề lớn, tôi đã trò chuyện với người hướng dẫn của mình vào năm 2016: Tôi đã khởi nghiệp trước đó, muốn làm về an toàn trí tuệ nhân tạo, nhưng kiến thức toán học không đủ, không biết phải làm sao. Khi ấy có người nói bạn phải thành thạo lý thuyết quyết định; có người nói sẽ không xảy ra sự kiện trí tuệ nhân tạo điên rồ, và thực sự, có rất ít người ủng hộ.

Jack Clark：「Năm 2014 khi tôi làm báo cáo xu hướng ImageNet đã bị coi là điên rồ. Vào năm 2015 khi tôi muốn viết về NVIDIA chỉ vì các tài liệu nghiên cứu đề cập đến GPU, cũng bị coi là điên; vào năm 2016 rời khỏi báo chí sang trí tuệ nhân tạo, vẫn nhận được email nói 'Bạn đã phạm lỗi lớn nhất trong cuộc đời'. Khi ấy, ở từ nhiều góc độ, đánh cược nghiêm túc vào 'quy mô hóa sẽ xảy ra' thật sự giống như điên.」

Jared Kaplan：「Bạn đã quyết định như thế nào? Có phân vân không?」

Jack Clark：「Tôi đã đặt một cược ngược lại: đề nghị làm phóng viên trí tuệ nhân tạo toàn thời gian và tăng lương gấp đôi, tôi biết họ sẽ không đồng ý. Sau đó, tôi ngủ một giấc rồi khi thức dậy đã từ chức. Bởi vì tôi hàng ngày đọc các tài liệu, tôi luôn cảm thấy có một sự kiện lớn điên rồ đang diễn ra, tại một thời điểm nào đó bạn nên đánh cược cao niềm tin.」

Tom Brown：「Tôi không quyết đoán như vậy, tôi lưỡng lự suy nghĩ sáu tháng.」

Daniela Amodei：「Và vào thời điểm đó, việc 'kỹ sư cũng có thể đóng góp đáng kể cho trí tuệ nhân tạo' không phải là xu hướng chính. Lúc ấy là 'chỉ có nhà nghiên cứu mới có thể làm trí tuệ nhân tạo', vì vậy sự phân vân của bạn không lạ lẫm.」

Tom Brown：「Sau đó, OpenAI nói 'bạn có thể giúp đỡ trí tuệ nhân tạo qua kỹ thuật', thì tôi mới tham gia.Daniela, khi bạn còn ở OpenAI và làm quản lý của tôi, lúc ấy bạn đã tham gia vì lý do gì?」

Daniela Amodei：「Tôi đã làm việc tại Stripe năm năm rưỡi, Greg trước đây là sếp của tôi. Tôi đã giới thiệu Greg và Dario cho nhau. Lúc ấy anh ấy đang thành lập OpenAI, tôi nói với anh ấy: 'Người thông minh nhất mà tôi từng biết là Dario. Nếu bạn có thể khiến anh ấy tham gia vào đội, thì đó quả thực là may mắn của bạn.' Sau đó, Dario đã tham gia vào OpenAI.」

Có lẽ giống như bạn, tôi cũng đang nghĩ về những gì tôi muốn làm sau khi rời khỏi Stripe. Lý do tôi gia nhập Stripe là vì trước đây tôi đã làm việc trong lĩnh vực phi lợi nhuận và phát triển quốc tế, tôi cảm thấy mình cần nhiều kỹ năng hơn, và ban đầu tôi thậm chí nghĩ rằng mình sẽ quay trở lại lĩnh vực đó.

Trước khi gia nhập Stripe, tôi cảm thấy mình chưa đủ năng lực để giúp đỡ những người khó khăn hơn mình. Vì vậy, tôi đã quan tâm đến các công ty công nghệ khác, hy vọng tìm ra một cách mới để có tác động lớn hơn, và OpenAI lúc đó khiến tôi cảm thấy đây là một lựa chọn tốt. Đó là một tổ chức phi lợi nhuận, hướng tới một mục tiêu rất quan trọng và có ý nghĩa lớn.

Tôi luôn tin vào tiềm năng của trí tuệ nhân tạo, do tôi có một số kiến thức về Dario, và họ thực sự cần có người giúp quản lý, vì vậy tôi nghĩ công việc này rất phù hợp với lý lịch của mình. Lúc đó, tôi nghĩ trong lòng: "Đây là một tổ chức phi lợi nhuận, nơi có một nhóm người rất xuất sắc, đầy ước mơ tốt đẹp, nhưng cách họ hoạt động dường như còn hơi lộn xộn." Và chính thách thức này khiến tôi cảm thấy hào hứng, vì tôi có thể tham gia vào đó.

Lúc đó, tôi cảm thấy mình như một cầu thủ đa năng, không chỉ chịu trách nhiệm quản lý các thành viên trong nhóm, mà còn phải dẫn dắt một số nhóm kỹ thuật, cũng như mở rộng quản lý tổ chức, tôi chịu trách nhiệm cho công việc mở rộng tổ chức, từng làm việc trong nhóm ngôn ngữ, và sau này còn đảm nhận một số công việc khác. Tôi cũng tham gia vào một số vấn đề chính sách, cộng tác với Chris. Tôi nghĩ rằng có rất nhiều tài năng xuất sắc trong công ty, điều này khiến tôi cảm thấy đặc biệt muốn tham gia, giúp công ty trở nên hiệu quả hơn, gọn gàng hơn.

Jack Clark: "Tôi nhớ sau khi hoàn thành GPT-3, bạn nói 'Mọi người đã nghe về sự tin cậy và an toàn chưa?'"

Daniela Amodei: "Trước đây tôi đã từng dẫn dắt nhóm tin cậy và an toàn ở Stripe. Với công nghệ như vậy, các bạn có thể cân nhắc vấn đề về sự tin cậy và an toàn. Điều này thực sự là một cầu nối giữa Nghiên cứu An toàn Trí tuệ Nhân tạo (AI Safety Research) và công việc hằng ngày thực tế hơn, tức là làm thế nào để mô hình thực sự trở nên an toàn."

Đưa ra ý kiến "Công nghệ này sẽ tạo ra tác động lớn trong tương lai" là rất quan trọng. Đồng thời, chúng ta cũng cần tiến hành một số công việc cụ thể hàng ngày, để chuẩn bị cho các tình huống có nguy cơ cao hơn trong tương lai.

Chính sách mở rộng trách nhiệm: Đảm bảo phát triển an toàn của Trí tuệ Nhân tạo

Jack Clark: “Hãy thảo luận về Chiến lược Mở rộng Đáng tin cậy (RSP, Responsible Scaling Policy), làm thế nào nó được đề xuất, tại sao chúng tôi nghĩ đến nó, và chúng tôi đang áp dụng nó như thế nào hiện nay, đặc biệt khi xem xét công việc chúng tôi đang thực hiện trong việc xây dựng niềm tin và an ninh cho mô hình. Vậy, ai đã đề xuất RSP (Chiến lược Mở rộng Đáng tin cậy) này lúc đầu?”

Dario Amodei: “Ban đầu, ý tưởng đó được tôi và Paul Christiano đề xuất, vào cuối năm 2022. Ý tưởng ban đầu là: liệu chúng ta có nên tạm thời hạn chế việc mở rộng mô hình đến một quy mô cụ thể trước khi chúng ta tìm ra cách giải quyết một số vấn đề an ninh không?”

Nhưng sau này, chúng tôi cảm thấy rằng việc chỉ đơn giản hạn chế mở rộng ở một điểm nào đó, sau đó mở ra lại có vẻ lạ lẫm. Vì vậy, chúng tôi quyết định thiết lập một loạt các ngưỡng, mỗi khi mô hình đạt đến một ngưỡng, chúng tôi cần tiến hành một loạt các kiểm tra để đánh giá xem mô hình có đủ khả năng an ninh tương ứng hay không.

Khi đạt mỗi ngưỡng, chúng tôi đều cần thực hiện các biện pháp an ninh và bảo vệ nghiêm ngặt hơn. Tuy nhiên, ban đầu chúng tôi có một ý tưởng: Nếu việc này được thực hiện bởi bên thứ ba, có lẽ sẽ tốt hơn. Nghĩa là, chiến lược này không nên được một công ty cụ thể chịu trách nhiệm, nếu không có thể làm cho các công ty khác không muốn áp dụng chiến lược này. Vì vậy, Paul đã tự thiết kế chiến lược này. Tất nhiên, theo thời gian, nhiều chi tiết trong đó cũng đã thay đổi. Còn đội của chúng tôi vẫn đang nghiên cứu làm thế nào để chiến lược này hoạt động tốt hơn.

Khi Paul hoàn thiện ý tưởng này, ông gần như đã công bố ý tưởng này trong khi chúng tôi cũng đã phát hành phiên bản của riêng chúng tôi trong một hoặc hai tháng sau đó. Trên thực tế, nhiều thành viên trong đội của chúng tôi đã tham gia sâu vào quá trình này. Tôi nhớ rằng ít nhất tôi đã viết một dự thảo ban đầu, nhưng toàn bộ tài liệu đã trải qua nhiều lần sửa đổi.”

Tom Brown: “RSP đối với Anthropic giống như ‘Hiến pháp’ của chúng tôi. Đó là một tài liệu cốt lõi có sức mạnh hướng dẫn, vì vậy chúng tôi sẵn lòng bỏ ra nhiều thời gian và nỗ lực để hoàn thiện nó, đảm bảo tính chính xác và hoàn chỉnh của nó.”

Daniela Amodei: “Tôi nghĩ rằng, quá trình phát triển RSP tại Anthropic thực sự rất thú vị. Nó đã trải qua nhiều giai đoạn và cần nhiều kỹ năng khác nhau để thúc đẩy việc thực thi của nó. Ví dụ, có một số ý tưởng lớn, phần lớn do Dario, Paul, Sam và Jared chịu trách nhiệm, họ đang đề cao việc suy nghĩ: ‘Nguyên tắc cốt lõi của chúng tôi là gì? Chúng tôi muốn truyền đạt thông điệp gì? Làm thế nào để chúng tôi xác định rằng hướng đi của mình là đúng?’”

Ngoài ra, còn có các công việc thực tế ở mức độ điều hành, chẳng hạn trong quá trình phát triển liên tục, chúng tôi sẽ đánh giá và điều chỉnh một số chi tiết. Ví dụ, chúng tôi ban đầu dự định sẽ đạt được một số mục tiêu ở một cấp độ an toàn nào đó, nhưng nếu không đạt được, chúng tôi sẽ đánh giá lại và đảm bảo rằng chúng tôi có thể chịu trách nhiệm với kết quả công việc của mình.

Ngoài ra, còn có nhiều điều chỉnh liên quan đến cơ cấu tổ chức. Ví dụ, chúng tôi quyết định tái thiết kế cấu trúc tổ chức của RSP để phân chia trách nhiệm một cách rõ ràng hơn. Tôi thích so sánh tầm quan trọng của tài liệu này với Hiến pháp. Giống như Mỹ xây dựng hệ thống tòa án, tòa án tối cao, tổng thống, hai thượng viện để đảm bảo việc thực thi Hiến pháp, chúng tôi ở RSP của Anthropic cũng đang trải qua một quá trình tương tự.

Sam McCandlish: 「Tôi nghĩ, điều này thực ra phản ánh quan điểm cốt lõi của chúng tôi về vấn đề an ninh: Vấn đề về an ninh có thể giải quyết được. Đây là một nhiệm vụ rất phức tạp và đòi hỏi nhiều thời gian và năng lượng.

Giống như lĩnh vực an toàn xe hơi, các cơ quan và tổ chức liên quan đã được xây dựng qua nhiều năm phát triển. Nhưng vấn đề chúng ta đang đối mặt bây giờ là: Liệu chúng ta có đủ thời gian để hoàn thành công việc này không? Do đó, chúng ta cần phải nhanh chóng xác định các cơ quan chính yếu cần thiết cho an ninh trí tuệ nhân tạo và ưu tiên xây dựng chúng tại đây, đồng thời đảm bảo rằng những cơ quan này có thể được sử dụng và mở rộng sang nơi khác.

Dario Amodei: 「Điều này cũng giúp tăng cường sự đồng thuận và hợp tác bên trong tổ chức, vì nếu bất kỳ phần nào của tổ chức đó không tuân thủ giá trị an ninh của chúng tôi, RSP sẽ phơi bày vấn đề theo một cách nào đó, phải không? RSP sẽ ngăn họ tiếp tục triển khai các kế hoạch không tuân thủ tiêu chuẩn an ninh. Do đó, nó trở thành một công cụ liên tục nhắc nhở mọi người, đảm bảo an ninh trở thành yêu cầu cơ bản trong quá trình phát triển sản phẩm và lập kế hoạch. Chúng tôi không chỉ nói năng suất mà chúng tôi thực sự tích hợp an ninh vào mọi khía cạnh. Nếu ai đó tham gia vào đội ngũ sau này không thể đồng thuận với những nguyên tắc này, họ sẽ phát hiện ra rằng họ không thể hoà nhập. Hoặc phải thích nghi với hướng đó, hoặc sẽ gặp khó khăn khi tiếp tục.」

Jack Clark: 「Theo thời gian, RSP trở nên ngày càng quan trọng. Chúng tôi đã bỏ vào nó hàng ngàn giờ công, và khi tôi giải thích về RSP với các thượng nghị sĩ, tôi nói: 「Chúng tôi đã thiết lập một số biện pháp để đảm bảo công nghệ của chúng tôi không dễ bị lạm dụng, đồng thời có thể đảm bảo an toàn.」 Phản ứng của họ thường là: 「Điều đó nghe có vẻ bình thường. Có phải không mỗi công ty nào cũng làm như vậy không?」 Điều này khiến tôi cảm thấy mỉm cười nhưng cũng đau lòng, thực ra không phải mỗi công ty đều làm như vậy.」

Daniela Amodei：「Ngoài ra, tôi nghĩ rằng ngoài việc đẩy mạnh sự nhất quán về giá trị của nhóm, RSP cũng làm tăng cường tính minh bạch của công ty. Bởi vì nó mô tả rõ ràng mục tiêu của chúng tôi là gì, mọi người trong công ty đều hiểu được, đồng thời người bên ngoài cũng có thể biết rõ rằng mục tiêu và hướng đi của chúng tôi về an ninh là gì. Mặc dù nó vẫn chưa hoàn hảo, nhưng chúng tôi luôn tiếp tục tối ưu hóa và cải thiện nó.」

Tôi nghĩ việc chỉ rõ rằng 「vấn đề cốt lõi mà chúng tôi quan tâm là gì」, chúng ta không thể đơn giản sử dụng từ 「an ninh」 để chi phối tiến triển công việc, ví dụ như 「vì vấn đề an ninh, chúng ta không thể làm điều gì đó」 hoặc 「vì vấn đề an ninh, chúng ta phải làm điều gì đó.」 Mục tiêu thực sự của chúng ta là để mọi người hiểu rõ rằng an ninh mà chúng ta đề cập là gì.

Dario Amodei：「Trong tầm nhìn dài hạn, những cuộc 「diễn tập an ninh」 thường là những gì gây hại thực sự đối với an ninh. Tôi đã từng nói: 「Nếu có một tòa nhà, mỗi tuần đều có cảnh báo cháy, thì thực tế đó là một tòa nhà rất không an toàn.」 Bởi vì khi có cháy thực sự xẩy ra, có thể không ai quan tâm, chúng ta phải rất chú ý đến sự chính xác và hiệu chỉnh các cảnh báo.」

Chris Olah：「Đổi góc nhìn, tôi nghĩ rằng RSP đã tạo ra cơ chế động viên lành mạnh ở nhiều mức độ. Ví dụ ở trong công ty, RSP đã đồng bộ cơ chế động viên của mỗi nhóm với mục tiêu an ninh, điều này có nghĩa là nếu chúng ta không tiến triển đủ về an ninh, công việc liên quan sẽ bị đình chỉ.」

Trong khi bên ngoài, RSP cũng hiệu quả hơn so với các phương pháp khác trong việc tạo ra cơ chế động viên lành mạnh. Ví dụ, nếu một ngày nào đó chúng ta phải thực hiện một số hành động quan trọng, như công nhận 「mô hình của chúng tôi đã phát triển đến một giai đoạn nào đó, nhưng chúng ta vẫn chưa thể đảm bảo tính an toàn của nó」, thì RSP cung cấp một khung việc rõ ràng và bằng chứng để hỗ trợ quyết định này. Khung việc này đã tồn tại từ trước và dễ hiểu. Khi nhớ lại khi chúng tôi thảo luận về phiên bản sớm của RSP, tôi không hoàn toàn nhận ra tiềm năng của nó, nhưng bây giờ tôi tin rằng nó thực sự hiệu quả hơn những phương pháp khác mà tôi có thể tưởng tượng.」

Jared Kaplan：「Tôi đồng ý với những quan điểm này, nhưng tôi nghĩ rằng có thể đang đánh giá thấp những thách thức mà chúng ta đối mặt khi xác định chính sách đúng, đánh giá tiêu chuẩn và định rõ ranh giới. Chúng tôi đã trải qua nhiều vòng lặp trong các lĩnh vực này và vẫn đang tiếp tục tối ưu hóa. Một vấn đề khó khăn là, đối với một số công nghệ mới nổi, đôi khi rất khó xác định chính xác xem nó có nguy hiểm hay an toàn. Rất nhiều lần, chúng tôi đối mặt với một vùng đất mờ lớn. Những thách thức này khiến tôi thấy rất hứng thú từ khi ban đầu phát triển RSP, và đến giờ vẫn vậy. Nhưng đồng thời, tôi cũng nhận ra, việc thực hiện chiến lược này một cách rõ ràng và để nó thực sự có hiệu lực, còn phức tạp và thách thức hơn so với những gì tôi tưởng tượng ban đầu.」

Sam McCandlish：「Vùng mờ là không thể dự đoán hoàn toàn vì chúng hiện diện ở mọi nơi. Chỉ khi bắt đầu triển khai thực sự, bạn mới có thể phát hiện ra vấn đề. Vì vậy, mục tiêu của chúng tôi là triển khai tất cả nội dung càng sớm càng tốt để chúng tôi có thể phát hiện sớm những vấn đề tiềm ẩn.」

Dario Amodei：「Bạn phải thực hiện ba đến bốn lần lặp để thực sự đạt được sự hoàn hảo, việc lặp lại là một công cụ rất mạnh mẽ, bạn hầu như không thể làm đúng ngay từ lần đầu, vì vậy nếu rủi ro đang ngày càng tăng, bạn cần hoàn thành những vòng lặp này càng sớm càng tốt, thay vì chờ đến phút chót.」

Jack Clark：「Đồng thời, bạn cũng cần thiết lập hệ thống và quy trình nội bộ. Mặc dù các chi tiết cụ thể có thể thay đổi theo thời gian, nhưng việc phát triển khả năng thực thi của đội ngũ mới là quan trọng nhất.」

Tom Brown：「Tôi chịu trách nhiệm về quản lý tài nguyên tính toán của Anthropic, đối với tôi, chúng tôi cần giao tiếp với các bên liên quan bên ngoài, các cá nhân bên ngoài khác nhau có quan điểm khác nhau về tốc độ phát triển công nghệ. Về mặt ban đầu, tôi cũng nghĩ rằng công nghệ sẽ không phát triển đến mức đó nhanh chóng, nhưng sau đó quan điểm của tôi đã thay đổi, vì vậy tôi rất hiểu điều này. Tôi nghĩ RSP đ對đối với tôi cũng rất hữu ích, đặc biệt là khi tôi giao tiếp với những người nghĩ rằng phát triển công nghệ sẽ chậm lại. Chúng tôi có thể nói với họ: 「Trước khi công nghệ phát triển đến mức rất cấp thiết, chúng ta không cần áp dụng các biện pháp an toàn cực kỳ.」 Nếu họ nói: 「Tôi cho rằng trong một khoảng thời gian dài, mọi thứ sẽ không trở nên cấp thiết.」 Tôi có thể đáp lại rằng: 「Được, vậy tạm thời chúng ta không cần áp dụng các biện pháp an toàn cực kỳ.」 Điều này giúp việc giao tiếp với bên ngoài trở nên mượt mà hơn.」

Jack Clark：「Vậy, RSP đã ảnh hưởng đến mọi người như thế nào trong các lĩnh vực khác nhau?」

Sam McCandlish：「Mọi thứ đều xoay quanh việc đánh giá, mỗi nhóm đều đang tiến hành đánh giá. Ví dụ, nhóm đào tạo của bạn luôn đang làm công việc đánh giá, chúng tôi cố gắng xác định xem mô hình này đã mạnh đến độ nào, có thể mang lại nguy hiểm không.」

Daniela Amodei：「Thực tế, điều này có nghĩa là chúng tôi cần đo lường hiệu suất mô hình theo tiêu chuẩn RSP, bao gồm việc kiểm tra xem có dấu hiệu nào có thể gây lo lắng cho chúng tôi hay không.」

Sam McCandlish：「Đánh giá khả năng thấp nhất của mô hình tương đối dễ dàng, nhưng đánh giá khả năng cao nhất của mô hình thì rất khó khăn. Vì vậy, chúng tôi đã dành rất nhiều nỗ lực nghiên cứu, cố gắng trả lời câu hỏi như: 「Liệu mô hình này có thể thực hiện các nhiệm vụ nguy hiểm hay không? Liệu có các phương pháp chúng ta chưa xem xét được, như sơ đồ tư duy, sự kiện tốt nhất hay việc sử dụng các công cụ nào đó, có thể khiến mô hình có thể thực hiện những hành vi cực kỳ nguy hiểm không?」」

Jack Clark:「Trong quá trình đề xuất chính sách, các công cụ đánh giá này rất hữu ích. Bởi vì "an toàn" là một khái niệm rất trừu tượng, khi tôi nói: "Chúng tôi có một công cụ đánh giá, nó quyết định xem chúng tôi có thể triển khai mô hình này hay không." Sau đó, chúng tôi có thể hợp tác với người đề xuất chính sách, chuyên gia an ninh quốc gia và chuyên gia lĩnh vực CBRN (hoá học, sinh học, phóng xạ và hạt nhân), cùng nhau xây dựng tiêu chuẩn đánh giá chính xác. Nếu thiếu những công cụ cụ thể này, sự hợp tác này có thể không bao giờ xảy ra. Nhưng khi đã có các tiêu chuẩn rõ ràng, mọi người sẽ sẵn lòng tham gia, giúp chúng tôi đảm bảo tính chính xác. Vì vậy, trong lĩnh vực này, vai trò của RSP rất đáng chú ý.」

Daniela Amodei:「RSP cũng rất quan trọng đối với tôi, và thường xuyên ảnh hưởng đến công việc của tôi. Tôi cảm thấy thú vị là cách tôi suy nghĩ về RSP hơi đặc biệt, hầu hết là từ "thái độ" của nó, nghĩa là cách nó diễn đạt. Gần đây, chúng tôi đã điều chỉnh thái độ của RSP một cách đáng kể, vì thái độ trước đây quá kỹ thuật cảnh báo, thậm chí tạo cảm giác đối lập. Tôi đã dành nhiều thời gian suy nghĩ về cách xây dựng một hệ thống mà mọi người sẵn lòng tham gia.」

Nếu RSP là một tài liệu mà mọi người trong công ty đều có thể dễ dàng hiểu, thì sẽ tốt hơn nhiều. Giống như hệ thống OKR hiện tại của chúng tôi. Ví dụ, mục tiêu chính của RSP là gì? Làm thế nào chúng ta biết khi nào đạt được mục tiêu? Cấp độ an ninh AI hiện tại (ASL) là bao nhiêu? Là ASL-2 hay ASL-3? Nếu mọi người đều biết điều cần tập trung, việc phát hiện vấn đề tiềm ẩn sẽ dễ dàng hơn. Ngược lại, nếu RSP quá kỹ thuật, chỉ có một số ít người có thể hiểu, thì hiệu quả thực tế của nó sẽ bị giảm đáng kể.

Rất vui khi thấy RSP đang phát triển theo hướng dễ hiểu hơn. Hiện tại, tôi nghĩ rằng hầu hết mọi người trong công ty, có thể là tất cả mọi người, bất kể vị trí công việc của họ là gì, đều có thể đọc tài liệu này và cảm thấy: "Thực sự hợp lý. Tôi muốn chúng ta phát triển AI dưới sự hướng dẫn của những nguyên tắc này, tôi cũng hiểu tại sao cần quan tâm đến những vấn đề này. Nếu gặp vấn đề trong công việc, tôi cũng hiểu đại khái nên chú ý vấn đề gì." Chúng tôi muốn RSP trở nên đơn giản đến mức mà người làm việc trong nhà máy có thể dễ dàng quyết định: "Dây an toàn nên kết nối ở đây, nhưng hiện tại chưa kết nối vào." Từ đó dễ dàng phát hiện vấn đề kịp thời.

Quan trọng nhất là xây dựng một cơ chế phản hồi lành mạnh, giúp việc giao tiếp giữa cấp lãnh đạo, hội đồng quản trị, các bộ phận khác trong công ty và nhóm thực sự tham gia vào phát triển rõ ràng mượt mà. Tôi tin rằng, phần lớn vấn đề thường phát sinh là do giao tiếp kém hoặc thông tin truyền đạt bị méo mó. Nếu vấn đề chỉ xuất phát từ những lí do đó, quả thật sẽ rất đáng tiếc, phải không? Cuối cùng, điều chúng ta cần là thực hiện những nguyên lý này một cách cụ thể và đảm bảo chúng đơn giản dễ hiểu cho mọi người.

Câu Chuyện Sáng Lập của Anthropic

Sam McCandlish:「Thực ra, không ai trong chúng tôi ban đầu đã có ý định thành lập một công ty. Chúng tôi chỉ cảm thấy đó là trách nhiệm của chúng tôi, chúng ta phải hành động vì đó là cách duy nhất để đảm bảo sự phát triển của Trí tuệ Nhân tạo diễn ra theo hướng đúng, đó cũng là lý do chúng tôi đã đưa ra cam kết đó.」

Dario Amodei:「Ý tưởng ban đầu của tôi rất đơn giản, tôi chỉ muốn phát minh và khám phá cái mới một cách có ích. Ý tưởng đó đã dẫn dắt tôi vào lĩnh vực Trí tuệ Nhân tạo, và nghiên cứu về Trí tuệ Nhân tạo đòi hỏi sự hỗ trợ kỹ thuật lớn, sau cùng cũng đòi hỏi sự hỗ trợ tài chính lớn.」

Tuy nhiên, tôi nhận ra rằng nếu không có một mục tiêu rõ ràng và kế hoạch để thành lập công ty và quản lý môi trường, nhiều việc sẽ được hoàn thành, nhưng sẽ tái diễn các lỗi mà lĩnh vực công nghệ đã làm cho tôi cảm thấy xa lạ. Những lỗi này thường bắt nguồn từ cùng một người, cùng một thái độ và cùng một mô hình tư duy. Nên tại một thời điểm nào đó, tôi nhận ra chúng ta phải tiếp cận vấn đề theo một cách hoàn toàn mới, điều này gần như là không thể tránh khỏi.」

Jared Kaplan:「Nhớ lại thời sinh viên chúng ta, anh đã từng có một kế hoạch hoàn chỉnh, cố gắng khám phá cách thức thúc đẩy lợi ích cộng đồng thông qua nghiên cứu khoa học. Tôi cảm thấy rằng điều đó rất giống với tư duy hiện tại của chúng ta. Tôi nhớ anh đã có một dự án mang tên “Dự án Vannevar” nhằm mục tiêu thực hiện điều đó. Khi ấy, tôi là một giáo sư, tôi đã quan sát tình hình lúc bấy giờ và tin rằng ảnh hưởng của Trí tuệ Nhân tạo đang tăng cấp với tốc độ đáng kinh ngạc.」

Tuy nhiên, do nhu cầu tài chính cao trong nghiên cứu về Trí tuệ Nhân tạo, cộng với vai trò là một giáo sư vật lý, tôi nhận ra rằng mình không thể chỉ dựa vào nghiên cứu học thuật để thúc đẩy những tiến triển đó. Tôi hy vọng có thể xây dựng một tổ chức cùng những người đáng tin cậy, đảm bảo sự phát triển của Trí tuệ Nhân tạo diễn ra theo hướng đúng. Nhưng thật lòng, tôi chưa bao giờ khuyên ai nên lập công ty, và cũng chưa từng ước mơ như vậy. Đối với tôi, đó chỉ là một phương tiện để đạt được mục tiêu. Theo tôi, thường thì, chìa khóa thành công nằm ở việc bạn thực sự quan tâm đến việc thực hiện một mục tiêu có ý nghĩa đối với thế giới, sau đó tìm ra phương tiện tốt nhất để đạt được mục tiêu đó.

Làm Thế Nào để Xây Dựng Văn Hóa Tin Cậy

Daniela Amodei:「Tôi thường suy nghĩ về ưu thế chiến lược của chúng tôi như là một nhóm, trong đó một yếu tố có vẻ không phải lúc nào cũng được lưu ý nhưng rất quan trọng là sự tin cậy cao giữa chúng tôi. Việc làm cho một nhóm lớn người có cùng một sứ mệnh là rất khó khăn, nhưng tại Anthropic, chúng tôi đã thành công truyền tải sứ mệnh này cho ngày càng nhiều người. Trong nhóm này, bao gồm cả lãnh đạo và tất cả các thành viên, mọi người đều tụ họp với nhau vì sứ mệnh chung của mình. Sứ mệnh của chúng tôi không chỉ rõ và trong sáng, điều này không phải là điều hiếm gặp trong ngành công nghệ.」

Tôi cảm thấy rằng mục tiêu chúng tôi đang cố gắng thực hiện mang một ý nghĩa thuần túy, không phải ai trong số chúng tôi đều bắt đầu vì muốn thành lập công ty. Chúng tôi chỉ cảm thấy như điều đó là bắt buộc phải làm. Chúng tôi không thể tiếp tục đẩy mạnh công việc của mình ở nơi cũ, chúng tôi phải tự mình hoàn thành điều này.

Jack Clark: 「Vào thời điểm đó, với sự xuất hiện của GPT-3, cũng như các dự án mà tất cả chúng tôi đã tiếp xúc hoặc tham gia, như các quy luật mở rộng (scaling laws) và các thứ khác, chúng tôi đã rõ ràng nhìn thấy xu hướng phát triển của trí tuệ nhân tạo vào năm 2020. Chúng tôi nhận ra rằng, nếu không hành động ngay bây giờ, có thể chúng ta sẽ sớm đạt đến một ngưỡng không thể đảo ngược. Chúng ta phải hành động để có thể ảnh hưởng đến môi trường này.」

Tom Brown: 「Tôi muốn kéo dài quan điểm của Daniela, tôi thực sự tin rằng trong nhóm có sự tin tưởng cao. Mọi người trong nhóm đều rõ ràng, chúng tôi tham gia nhóm vì chúng tôi muốn đóng góp cho thế giới. Chúng tôi cũng cam kết đóng góp 80% thu nhập cho các dự án thúc đẩy phát triển xã hội, điều này là một điều mà tất cả đều ủng hộ mà không lưỡng lự: 「Vâng, chúng ta sẽ làm điều đó.」 Sự tin tưởng này rất đặc biệt và hiếm có.」

Daniela Amodei: 「Tôi cảm thấy Anthropic là một công ty mà không có màu sắc chính trị nổi bật. Tất nhiên, quan điểm của chúng tôi có thể khác biệt so với người thông thường, và tôi luôn nhắc nhở bản thân điều này. Tôi cảm thấy rằng quy trình tuyển dụng của chúng tôi và các đặc điểm của các thành viên nhóm đã tạo nên một văn hóa ở đây gần như chống lại "chính trị văn phòng" theo cách tự nhiên.」

Dario Amodei: 「Ngoài ra, sự đoàn kết của nhóm, sự đoàn kết của nhóm là vô cùng quan trọng. Dù là nhóm sản phẩm, nhóm nghiên cứu, nhóm tin tưởng và an ninh, nhóm tiếp thị hay nhóm chính sách, tất cả đều đang cống hiến cho cùng một mục tiêu của công ty. Khi các bộ phận khác nhau trong công ty mỗi người đều theo đuổi mục tiêu hoàn toàn khác biệt, thì thường dẫn đến hỗn loạn. Nếu họ cho rằng bộ phận khác đang phá hoại công việc của mình, thì đó là một hiện tượng rất không bình thường.」

Tôi nghĩ rằng một trong những thành tựu quan trọng nhất của chúng tôi là việc giữ vững tính nhất quán của công ty thành công. Cơ chế như RSP đã đóng một vai trò quan trọng trong việc này. Cơ chế này đảm bảo rằng bên trong công ty không phải là một số bộ phận đang tạo ra vấn đề trong khi các bộ phận khác đang cố gắng khắc phục vấn đề, mà là tất cả bộ phận đều đang thực hiện nhiệm vụ của mình, đồng thời hợp tác dưới một khung lý thuyết biến đổi thống nhất.

Chris Olah：「Ban đầu, tôi đã tham gia OpenAI vì đó là một tổ chức phi lợi nhuận mà tôi có thể tập trung vào nghiên cứu về an ninh AI. Nhưng theo thời gian, tôi dần nhận ra mô hình này không hoàn toàn phù hợp với tôi, điều này đã đẩy tôi phải đưa ra một số quyết định khó khăn. Trong quá trình này, tôi rất tin tưởng vào sự nhận định của Dario và Daniela, nhưng tôi không muốn rời đi. Bởi vì tôi nghĩ việc tạo thêm các phòng thí nghiệm AI không chắc chắn là tốt cho thế giới, điều này khiến tôi cảm thấy rất do dự khi muốn ra đi.」

Khi cuối cùng chúng tôi quyết định rời đi, tôi vẫn có sự dè dặt về việc thành lập một công ty. Tôi trước đây đã đề xuất rằng chúng ta nên thành lập một tổ chức phi lợi nhuận, tập trung vào nghiên cứu về an ninh. Nhưng cuối cùng, thái độ thực tế và sự chấp nhận về các hạn chế của hiện thực đã khiến chúng tôi nhận ra rằng việc thành lập Anthropic mới là cách tốt nhất để đạt được mục tiêu của chúng tôi.

Dario Amodei：「Một bài học quan trọng mà chúng tôi học từ sớm là: Hãy hứa ít đi, thực hiện nhiều hơn. Hãy duy trì thực tế, đối mặt trực tiếp với sự cân nhắc, bởi niềm tin và danh tiếng quan trọng hơn bất kỳ chính sách cụ thể nào.」

Daniela Amodei：「Một điểm độc đáo của Anthropic chính là sự tin tưởng và đồng lòng của đội ngũ. Ví dụ, khi tôi thấy Mike Krieger kiên quyết không phát hành một số sản phẩm vì lý do an ninh, và đồng thời thấy Vinay đang thảo luận về cách cân nhắc giữa yêu cầu kinh doanh để thúc đẩy tiến độ dự án, tôi cảm thấy rất đặc biệt. Ngoài ra, các kỹ sư của đội an ninh công nghệ, đội suy luận cũng đang thảo luận về cách đảm bảo sản phẩm vừa an toàn vừa thực tế. Mục tiêu thống nhất này và thái độ thực tế là một trong những yếu tố hấp dẫn nhất của môi trường làm việc tại Anthropic.」

Dario Amodei：「Một văn hóa tổ chức lành mạnh nằm ở việc mỗi người đều có thể hiểu và chấp nhận sự cân nhắc chung phải đối mặt. Thế giới chúng ta sống không hoàn hảo, mỗi quyết định đều cần tìm ra sự cân bằng giữa các lợi ích khác nhau, và sự cân bằng này thường không thể làm hài lòng hoàn toàn. Tuy nhiên, miễn là toàn bộ đội ngũ có thể đồng lòng hướng tới mục tiêu chung, đồng thời đối mặt với những sự cân nhắc đó, và từ các vị trí của mình cống hiến cho mục tiêu toàn cầu, đó mới chính là một hệ sinh thái lành mạnh.」

Sam McCandlish：「Một cách nói khác, đây là một trận đấu lên cao». Vâng, thật đúng, điều này thực sự là một "trận đấu lên cao”. Mặc dù đây không phải là một lựa chọn hoàn toàn không rủi ro, có thể xảy ra lỗi, nhưng chúng tôi tất cả đồng tâm xem xét: "Đó chính là lựa chọn mà chúng tôi đã chọn.”」

Đỉnh Cao Đua Trí Tuệ Nhân Tạo

Jack Clark:「Nhưng thị trường vốn vô cùng thiết thực, vì vậy, mỗi khi Anthropic thành công hơn, người khác sẽ càng được khích lệ mạnh mẽ hơn để mô phỏng những phương pháp đã giúp chúng tôi thành công. Hơn nữa, khi thành công của chúng tôi chặt chẽ liên quan đến công việc thực tế của chúng tôi trong lĩnh vực an ninh, sự thành công này sẽ tạo nên một loại "lực hấp dẫn" trong ngành, thúc đẩy các công ty khác tham gia vào cuộc đua này. Giống như khi chúng tôi phát triển ra dây an toàn, các công ty khác cũng có thể mô phỏng, đây là một hệ sinh thái lành mạnh.」

Dario Amodei:「Tuy nhiên, nếu bạn nói rằng: 'Chúng tôi sẽ không phát triển công nghệ này và bạn cũng không thể làm tốt hơn ai khác.' Cách tiếp cận này sẽ không thành công, vì bạn chưa chứng minh được con đường từ tình hình hiện tại đến tương lai là khả thi. Thế giới cần là, cả ngành lẫn một số công ty cụ thể cần phải tìm ra cách để xã hội có thể chuyển từ 'công nghệ không tồn tại' sang 'công nghệ tồn tại trong hình thức mạnh mẽ và được xã hội quản lý hiệu quả'. Tôi cho rằng, cách duy nhất có thể thực hiện mục tiêu này, là ở mức công ty cá nhân, thậm chí cuối cùng là ở mức cả ngành, đối mặt trực tiếp với những sự cân nhắc này.」

Bạn cần tìm ra cách vừa giữ được sức cạnh tranh, thậm chí dẫn đầu ngành trong một số lĩnh vực, đồng thời đảm bảo an toàn cho công nghệ. Nếu bạn có thể thực hiện điều này, thì sức hấp dẫn của bạn đối với ngành sẽ rất mạnh mẽ. Từ môi trường quy định, đến những tài năng xuất sắc mong muốn tham gia vào các công ty khác, và thậm chí quan điểm của khách hàng, tất cả những yếu tố này sẽ thúc đẩy ngành phát triển theo cùng một hướng. Nếu bạn có thể chứng minh, mà không cần phải hy sinh sức cạnh tranh, cũng có thể đạt được an toàn, tức là tìm ra những giải pháp đôi bên thắng lợi, thì các công ty khác sẽ được khích lệ, mô phỏng phương pháp này.」

Jared Kaplan:「Tôi nghĩ rằng, đó chính là lý do vì sao các cơ chế như RSP rất quan trọng. Chúng tôi có thể thấy rõ hướng phát triển công nghệ, và nhận ra sự cần thiết phải duy trì sự đề phòng cao độ đối với một số vấn đề, nhưng đồng thời chúng tôi cũng phải tránh gửi đi cảnh báo "sói đến rồi" sai lầm, không thể đơn giản nói rằng: 'Sáng tạo nên dừng lại ở đây.' Chúng tôi cần tìm ra một cách để công nghệ AI có thể mang lại trải nghiệm hữu ích, sáng tạo và vui vẻ cho khách hàng, đồng thời rõ ràng nhận thức những ràng buộc chúng ta phải tuân thủ, những ràng buộc này vừa đảm bảo an toàn hệ thống, vừa khiến các công ty khác tin rằng họ cũng có thể thành công trong một môi trường an toàn và cạnh tranh với chúng tôi.」

Dario Amodei:「Một vài tháng sau, khi chúng tôi giới thiệu RSP, ba công ty AI nổi tiếng nhất cũng liên tiếp giới thiệu các cơ chế tương tự. Nghiên cứu về tính minh bạch là một lĩnh vực khác mà chúng tôi đã đạt được bước tiến. Ngoài ra, chúng tôi cũng hợp tác với tổ chức nghiên cứu về an toàn AI, sự chú ý toàn diện đối với an toàn này đang có tác động sâu rộng.」

Jack Clark：「Vâng, đội Red Team Frontier gần như ngay lập tức đã bị các công ty khác bắt chước. Điều này là điều tốt, chúng tôi hy vọng tất cả các phòng thí nghiệm đều có thể kiểm tra những lỗ hổng bảo mật tiềm ẩn đó.」

Daniela Amodei：「Jack trước đó cũng đã đề cập, khách hàng cũng rất quan tâm đến vấn đề bảo mật. Khách hàng không muốn mô hình tạo ra thông tin giả mạo, cũng không muốn mô hình dễ bị bỏ qua các hạn chế bảo mật. Họ muốn mô hình là hữu ích và vô hại, chúng tôi thường nghe thấy họ nói trong giao tiếp với khách hàng:「Chúng tôi chọn Claude vì chúng tôi biết nó an toàn hơn.」Tôi nghĩ rằng, tác động đến thị trường của điều này là to lớn. Chúng tôi có thể cung cấp mô hình đáng tin cậy và đáng tin cậy, điều này cũng tạo áp lực thị trường đáng kể cho đối thủ.」

Chris Olah：「Có lẽ có thể mở rộng quan điểm của Dario vừa nãy. Có một quan điểm rằng, hành vi đạo đức nhất là「thất bại cao cả」. Nghĩa là, bạn nên hy sinh mục tiêu khác vì bảo mật, thậm chí hành động một cách không thực tế để thể hiện sự trong sáng của mình đối với sự nghiệp. Nhưng theo tôi, cách đó thực tế chính là tự hủy bản thân.」

Đầu tiên, cách tiếp cận đó sẽ dẫn đến quyền quyết định rơi vào tay những người không chú trọng đến bảo mật, không ưu tiên việc xem xét bảo mật. Trong khi đó, nếu bạn cố gắng tìm cách để đề cao cơ chế khích lệ, đưa các quyết định khó khăn vào nơi mà có sự hỗ trợ mạnh mẽ nhất cho quyết định đúng, và dựa trên bằng chứng mạnh nhất, bạn có thể kích hoạt cái mà Dario mô tả là 「cuộc đua hướng lên」. Trong cuộc đua này, không phải những người không quan tâm đến bảo mật bị tách biệt, mà ngược lại, họ bị buộc phải theo bước của bạn, tham gia vào cuộc đua này.

Tầm nhìn về Tương lai Trí tuệ Nhân tạo

Jack Clark:「Vậy, điều gì khiến các bạn cảm thấy hào hứng với những gì chúng ta sẽ làm tiếp theo?」

Chris Olah：「Tôi nghĩ có rất nhiều lý do khiến người ta hào hứng với khả năng giải thích. Một lý do rõ ràng là vì lợi ích của bảo mật, nhưng còn một lý do khác, tôi nghĩ ở mức độ cảm xúc, điều này cũng khiến tôi cảm thấy hào hứng hoặc có ý nghĩa to lớn, đó là tôi cảm thấy mạng nơ-ron rất tuyệt vời, và bên trong nó có rất nhiều vẻ đẹp chúng ta vẫn chưa thấy. Chúng ta luôn xem xét mạng nơ-ron như một hộp đen, chúng ta không quan tâm đặc biệt đến cấu trúc bên trong nó, nhưng khi bạn bắt đầu nghiên cứu sâu hơn về chúng, bạn sẽ phát hiện ra bên trong chúng chứa nhiều cấu trúc đáng kinh ngạc.」

Điều này hơi giống như cách mọi người nhìn nhận về sinh học, một số người có thể nghĩ, 「Tiến hóa rất nhàm chán, nó chỉ là một quy trình đơn giản, hoạt động trong một khoảng thời gian dài, sau đó tạo ra động vật.」 Nhưng thực tế, mỗi sinh vật mà tiến hóa tạo ra đều chứa đựng sự phức tạp và cấu trúc đáng kinh ngạc. Và theo tôi, tiến hóa là một quá trình tối ưu hóa, giống như việc huấn luyện một mạng nơ-ron. Bên trong mạng nơ-ron cũng có những cấu trúc hoàn toàn giống như 「sinh học nhân tạo」. Nếu bạn muốn tiến sâu vào nghiên cứu chúng, bạn sẽ phát hiện ra nhiều điều đáng kinh ngạc trong đó.

Tôi cảm thấy chúng ta chỉ mới bắt đầu từ từ vén bức màn. Nó thật không thể tin được, bên trong có quá nhiều điều đang chờ đợi chúng ta khám phá. Chúng ta chỉ mới mở cánh cửa của nó, tôi cảm thấy những khám phá tiếp theo sẽ rất hấp dẫn và kỳ diệu. Đôi khi, tôi có thể tưởng tượng, sau mười năm bước vào một cửa hàng sách, mua một cuốn sách giáo trình về tính minh bạch của mạng nơ-ron, hoặc một cuốn sách thực sự nói về "sinh học" của mạng nơ-ron, sách đó sẽ chứa đựng nhiều nội dung đáng kinh ngạc. Tôi tin rằng, trong vòng mười năm tới, thậm chí là một vài năm tới, chúng ta sẽ bắt đầu khám phá những điều này một cách đích thực, điều đó sẽ là một hành trình điên rồ và đầy kinh ngạc.

Jack Clark: "Một vài năm trước, nếu ai đó nói: 'Chính phủ sẽ thành lập một cơ quan mới để kiểm tra và đánh giá các hệ thống AI, và những cơ quan này sẽ rất chuyên nghiệp và có tác dụng.' Bạn có lẽ sẽ không tin điều đó là thật. Nhưng điều đó đã xảy ra. Có thể nói, chính phủ đã thiết lập 'đại sứ quán' mới để ứng phó với loại công nghệ mới này, tôi rất háo hức xem điều đó sẽ dẫn tới đâu. Tôi nghĩ rằng, điều này thực sự có nghĩa là quốc gia có khả năng đối phó với sự chuyển đổi xã hội như vậy, không chỉ phụ thuộc vào doanh nghiệp, tôi rất vui vì có thể tham gia vào đó."

Daniela Amodei: "Tôi đã cảm thấy hứng thú với điều này, nhưng tôi cảm thấy, chỉ là tưởng tượng về những gì trí tuệ nhân tạo sẽ làm cho loài người trong tương lai, đã đủ khiến tôi phải háo hức. Ngay cả bây giờ, những dấu hiệu rằng Claude có thể giúp phát triển vắc xin, nghiên cứu về ung thư và sinh học đã khiến chúng ta cảm thấy đáng kinh ngạc. Thấy những gì nó có thể làm ngay bây giờ đã rất đáng kinh ngạc, và khi tôi nhìn xa về tương lai ba đến năm năm nữa, tưởng tượng Claude có thể thực sự giải quyết nhiều vấn đề cơ bản mà con người đối diện, đặc biệt là trong lĩnh vực sức khỏe, làm tôi rất hồi hộp. Hồi tưởng về những ngày tôi từng làm việc phát triển quốc tế, nếu lúc ấy Claude có thể giúp hoàn thành công việc mà lúc ấy hiệu suất thấp của tôi, đó sẽ là điều tuyệt vời ra sao."

Tom Brown: "Tôi nghĩ, từ góc nhìn cá nhân, tôi rất thích sử dụng Claude trong công việc. Vì vậy, gần đây tôi thường xuyên trò chuyện với Claude ở nhà, điều lớn nhất gần đây là về mã nguồn. Sáu tháng trước, tôi chưa từng sử dụng Claude để xử lý bất kỳ công việc lập trình nào, và vào thời điểm đó, đội ngũ của chúng tôi cũng hiếm khi dùng Claude để viết mã, nhưng bây giờ tình hình đã thay đổi đáng kể. Ví dụ, tuần trước tôi đã tham gia một sự kiện được tổ chức bởi Y Combinator để phát biểu. Ban đầu, tôi đã hỏi mọi người: 'Hiện tại có bao nhiêu người đang sử dụng Claude để lập trình không?' Kết quả là gần 95% mọi người đều giơ tay lên. Gần như toàn bộ khán phòng đều giơ tay lên, điều này hoàn toàn khác biệt so với tình hình bốn tháng trước."

Dario Amodei：「Khi tôi suy nghĩ về những điều khiến tôi phấn khích, tôi nghĩ đến một số nơi mà tôi đã đề cập trước đó dường như đã có sự đồng thuận, nhưng thực tế điểm này sắp bị phá vỡ, một trong số đó là tính khả giải thích. Tôi cho rằng, tính khả giải thích không chỉ là chìa khóa hướng dẫn và đảm bảo an toàn cho hệ thống AI, mà còn chứa đựng cái nhìn sâu sắc về vấn đề tối ưu thông minh và cách hoạt động của não người, tôi đã nói rằng Chris Olah có thể sẽ đạt giải Nobel Y học trong tương lai.」

Vì tôi trước đây là một nhà thần kinh học, và nhiều căn bệnh tâm thần mà chúng ta vẫn chưa giải quyết được, như rối loạn tâm thần hoặc rối loạn tâm trạng, tôi nghi ngờ chúng liên quan đến một vấn đề hệ thống ở mức độ cao hơn. Tuy nhiên, do sự phức tạp và tính khó nắm bắt trực tiếp của bộ não người, những vấn đề này rất khó hiểu đầy đủ. Và mặc dù các mạng thần kinh không phải là một so sánh hoàn hảo, chúng không phải là khó giải mã và tương tác như bộ não con người. Theo thời gian, các mạng thần kinh sẽ trở thành một công cụ so sánh tốt hơn.

Một lĩnh vực liên quan khác là ứng dụng của AI trong sinh học. Sinh học là một vấn đề cực kỳ phức tạp, vì nhiều lý do mà mọi người vẫn đang nghi ngờ đối với nó, nhưng tôi cho rằng sự đồng thuận của sự nghi ngờ này bắt đầu sụp đổ. Chúng ta đã thấy giải Nobel Hóa học trao cho AlphaFold, một thành tựu tuyệt vời, chúng ta nên cố gắng phát triển các công cụ có thể giúp chúng ta tạo ra hàng trăm 'AlphaFold'.

Điểm cuối cùng là sử dụng AI để tăng cường dân chủ. Chúng ta lo lắng nếu AI được phát triển sai cách, nó có thể trở thành công cụ của chế độ độc tài. Vậy, làm thế nào để biến AI trở thành một công cụ thúc đẩy tự do và tự quyết? Tôi cho rằng, việc phát triển trong lĩnh vực này có thể sớm hơn hai lĩnh vực trước, nhưng sự quan trọng của nó không kém phần so với hai lĩnh vực trước đó.」

Jared Kaplan：「Tôi nghĩ có ít nhất hai điểm có thể phản ánh quan điểm trước đó của bạn. Một điểm là, tôi nghĩ nhiều người tham gia Anthropic vì họ rất tò mò về khoa học AI. Cùng với sự tiến bộ của công nghệ AI, họ dần nhận ra rằng chúng ta cần không chỉ thúc đẩy phát triển công nghệ, mà còn cần hiểu sâu hơn về nó, và đảm bảo an toàn. Tôi nghĩ có thể làm việc cùng với người khác ngày càng có cùng tầm nhìn về phát triển và trách nhiệm của AI là một điều rất phấn khích, và tôi nghĩ rằng nhiều tiến bộ công nghệ đã xảy ra trong năm qua thực sự thúc đẩy quá trình hình thành sự đồng thuận này.」

Một khía cạnh khác là, quay trở lại vấn đề thực tế, tôi nghĩ chúng ta đã làm rất nhiều công việc về an toàn AI. Nhưng cùng với một số phát triển gần đây, chúng ta bắt đầu nhận thức một số nguy cơ mà những hệ thống cực kỳ phức tạp có thể mang lại. Điều này giúp chúng ta có thể nghiên cứu trực tiếp và điều tra những rủi ro này thông qua nghiên cứu về tính khả giải thích và các cơ chế an toàn khác.

Qua cách này, chúng tôi có thể hiểu rõ hơn về các rủi ro mà hệ thống trí tuệ nhân tạo cấp cao có thể mang lại, điều này sẽ giúp chúng tôi tiến xa hơn trong sứ mệnh của chúng tôi một cách khoa học và dựa trên bằng chứng hơn. Vì vậy, tôi rất hào hứng với sáu tháng tiếp theo, chúng tôi sẽ sử dụng sự hiểu biết về vấn đề tiềm năng của hệ thống cấp cao để tiến hành nghiên cứu sâu hơn và tìm ra cách tránh những bẫy này.

Liên kết đến Video Gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia