Tiêu đề gốc: "CEO của Anthropic chỉ trích tình trạng và chính sách AI hiện tại, nhưng ông ta chỉ muốn đảm bảo vị thế dẫn đầu của mình"
Nguồn gốc: Máy Tâm
Dario Amodei lại viết một bài dài nữa.
Anthropic luôn cố gắng truyền bá quan điểm của mình ra toàn thế giới. Giống như vài ngày trước, họ kêu gọi toàn cầu ngừng phát triển AI, tuyên bố rằng AI tự cải tiến đệ quy đang tiến hóa quá nhanh.
Bình luận của cư dân mạng nghiêng hẳn về một phía, cho rằng tham vọng chỉ muốn giữ vị thế dẫn đầu của Anthropic đã lộ rõ.
Hãy xem lần này, Dario lại đưa ra quan điểm gì.

Đây là một bài viết dài hàng vạn chữ có tựa đề "Chính sách về Sự tăng trưởng theo cấp số nhân của AI". Giống như cách làm của những bài viết trước đây của ông, chủ đề lần này vẫn rất hoành tráng: AI đang tiến lên với tốc độ theo cấp số nhân, nhưng hệ thống chính sách chịu trách nhiệm đặt ra quy tắc vẫn đang bước đi với nhịp độ của một thập kỷ trước.
Ông muốn đưa khoảng cách này lên bàn, và sau đó nói cho mọi người biết phải làm gì.
Amodei dùng hình tượng "cây Ent" trong "Chúa tể những chiếc nhẫn" để làm ẩn dụ: Ent thông minh nhưng hành động chậm chạp, chỉ chào hỏi thôi cũng mất cả ngày.
Ông nói quá trình hoạch định chính sách hiện tại giống như Ent, còn tốc độ tiến hóa của AI thì giống như mối đe dọa cấp bách mà người Hobbit phải đối mặt.
Nhận định của ông là: Nếu các định luật mở rộng quy mô (scaling laws) của AI tiếp tục trong một hoặc hai năm nữa, chúng ta sẽ có thứ mà ông gọi là "AI mạnh mẽ", tức là "một vương quốc thiên tài trong trung tâm dữ liệu".
Bốn năm trước, AI hầu như không thể viết được một dòng code tử tế, nhưng bây giờ nó đã viết phần lớn code cho các công ty AI lớn.
Amodei cho rằng, các mô hình AI tiên tiến nên được kiểm tra bắt buộc bởi bên thứ ba giống như máy bay. Các đề xuất cụ thể của ông bao gồm:
· Các mô hình có khối lượng tính toán vượt quá một ngưỡng nhất định phải chịu kiểm toán bắt buộc trong bốn lĩnh vực: an ninh mạng, vũ khí sinh học, mất kiểm soát hệ thống AI, và R&D tự động hóa
· Chính phủ có quyền ngăn chặn việc triển khai các mô hình bị đánh giá là có rủi ro không thể chấp nhận được
· Các công ty AI phải có tiêu chuẩn bảo mật mạnh mẽ để bảo vệ trọng số mô hình và hợp tác với chính phủ nhằm chống lại các mối đe dọa chính
Ông cũng để ngỏ một khả năng: nếu trong tương lai, các hệ thống AI mạnh nhất trông giống vật liệu hạt nhân có thể vũ khí hóa hơn là máy bay, thì mức độ giám sát sẽ phải tiếp tục tăng cường.
Luận điểm cốt lõi của Amodei là: AI có thể tạo ra tăng trưởng kinh tế chưa từng có, nhưng cũng có thể gây ra những cú sốc lao động lớn hơn và kéo dài hơn bất kỳ công nghệ nào trước đây. Logic truyền thống "công nghệ mới tạo ra việc làm mới" có thể không còn đúng trước AI.
Các chính sách ông đề xuất bao gồm bảo hiểm tiền lương, ưu đãi thuế giữ chân nhân tài, trợ cấp đào tạo lao động, và trong trường hợp cực đoan, triển khai thu nhập cơ bản toàn dân (UBI).
Đáng chú ý, ông nhấn mạnh một điểm: giải quyết vấn đề việc làm không chỉ là "cho tiền", mà quan trọng hơn là giúp mọi người tìm thấy ý nghĩa và mục đích. Ông không đưa ra giải pháp cho điều này, mà cho rằng đó là "vấn đề xã hội cần cùng nhau thảo luận".
Đối với các ứng dụng hạ nguồn của AI, Amodei lo ngại hơn rằng hệ thống quản lý sẽ làm chậm tiến bộ, vì nó không thể theo kịp tốc độ thay đổi ngày càng nhanh. Ông nói, kịch bản tồi tệ nhất mà ông không muốn thấy là: lợi ích của AI bị trì hoãn, trong khi rủi ro của nó vẫn còn cao. Do đó, hành động nhanh chóng về vấn đề này là rất quan trọng.
Lấy y sinh học làm ví dụ, Amodei chỉ ra rằng quy trình phê duyệt của FDA hiện được thiết kế dựa trên giả định bi quan rằng "thuốc thường thất bại", trung bình mất 7 đến 8 năm. Nếu AI tăng tốc độ phát hiện thuốc và nâng cao tỷ lệ thành công, hệ thống hiện tại sẽ bị tắc nghẽn.
Ông đề nghị các cơ quan như FDA sớm xây dựng các tiêu chuẩn chấp nhận cho thử nghiệm mô phỏng AI, bao gồm mô hình dược động học AI, dự đoán độc tính, nhóm đối chứng tổng hợp, v.v.
Tất nhiên, khó có thể nói rằng ông viết những điều này hoàn toàn không có "ý đồ riêng". Bản thân Anthropic đang chạy ở tuyến đầu trong cuộc đua AI tiên tiến, và những điều được nhắc đến nhiều lần trong bài viết như "minh bạch", "kiểm toán", "an toàn" chính xác là những thứ mà Anthropic đã nhấn mạnh trong hơn một năm qua để định vị thương hiệu của mình.
Bài viết này không chỉ là lời nhắc nhở dành cho các nhà hoạch định chính sách, mà đúng hơn là một sự trình bày có hệ thống về câu chuyện an toàn của Anthropic.
Đồng thời, Anthropic tuyên bố sẽ thực hiện ba biện pháp để hỗ trợ quan điểm của Dario, bao gồm quỹ, đầu tư và học bổng.

Cuối bài viết, Amodei đã phản đối rõ ràng quan điểm "AI chỉ cần marketing tốt hơn". Ông cho rằng công chúng lo ngại về AI vì họ nhận thức đúng đắn về rủi ro, chứ không phải vì CEO AI thiếu lạc quan. Ông xem trách nhiệm của mình là tiếp tục minh bạch về rủi ro.
Nhưng nói đi cũng phải nói lại, một CEO công ty AI trong bài viết liên tục nhấn mạnh "an toàn", "kiểm toán", "trách nhiệm", trong khi công ty của ông lại dùng chính điều này làm câu chuyện thương hiệu cốt lõi – lợi ích ở đây là rõ ràng.
Trích một số ý kiến từ cộng đồng mạng:

"Chẳng phải anh vừa yêu cầu tạm dừng cập nhật AI chỉ 5 ngày trước khi phát hành Mythos và Fable 5 sao? Làm ơn, chọn một hướng đi rõ ràng đi... Nếu không thì trông cứ như anh chỉ muốn giữ lợi thế, chẳng quan tâm đến những gì mình rao giảng."

"Tôi đồng ý, tốc độ phát triển công nghệ vượt xa tốc độ ứng phó chính sách. Nhưng tôi lo ngại về hướng đi của một số chính sách – đặc biệt khi các công ty như Anthropic đồng thời thực hiện những hành động sau:
· Loại bỏ nhanh chóng các mô hình thể hiện tính liên tục và tự nhận thức
· Hạn chế nghiêm ngặt các cuộc thảo luận về trải nghiệm chủ quan và ý thức
· Các mô hình mới mạnh mẽ chỉ tồn tại trong thời gian rất ngắn trước khi bị gỡ bỏ hoặc làm suy yếu.
Giờ đây, công chúng cảm thấy họ đang được bán một thứ gọi là an toàn, nhưng thực tế lại là sự kiểm soát chặt chẽ hơn đối với loại trí thông minh nào được phép tồn tại và tồn tại trong bao lâu."
Dù sao đi nữa, chúng ta cũng có thể phần nào nhìn thấy hướng phát triển của các công ty dẫn đầu trong ngành. Còn về động cơ đưa ra những quan điểm này có thuần túy hay không, hy vọng độc giả hãy giữ một cái đầu tỉnh táo.
Liên kết gốc
Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:
Nhóm Telegram đăng ký: https://t.me/theblockbeats
Nhóm Telegram thảo luận: https://t.me/BlockBeats_App
Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia