Hiện Tượng AI 40,000 Từ của Vatican: Liệu Con Người Có Thể Giữ Được Tính Thể Chất?

原文标题：《Rome's New Pope's First Encyclical, to Save the Masses in the AI Era》
原文作者：Azuma, Odaily Planet Daily

夜，May 25, Beijing Time, Vatican.

Pope Leo XIV, who officially took office in May last year, stood with Chris Olah, co-founder of Anthropic and creator of Claude.

On one side was the supreme representative of the religious field, and on the other was the most powerful pioneer of the AI revolution. Both focused on the same question—how to protect human dignity and status in the AI era?

On that day, to fully discuss this issue, Pope Leo XIV released his first encyclical since taking office, a heavyweight religious document of over 40,000 words—Magnifica humanitas.

It is worth mentioning that the date on which Pope Leo XIV signed this encyclical is May 15, 2026, exactly 135 years after the late Pope Leo XIII (1878-1903) issued the milestone encyclical "Rerum novarum" on the issue of "workers' rights under the Industrial Revolution" in 1891. This move clearly has a certain symbolic significance, aiming to make this encyclical a "guide to the Church's social doctrine in the AI era."

· Odaily Note: An encyclical, also known as a papal bull or papal encyclical, is a decree issued by the Roman Pontiff to the entire world or to a particular region or country of the Catholic Church. Through it, important decisions of the Holy See are announced, explanations of doctrine are made, and positions on Church or social issues are advocated, as well as decrees or prohibitions addressed to clergy and the faithful, etc., with a level lower than a papal bull.

Chris Olah also gave a speech at the Vatican on the release of the encyclical. Chris Olah did not defend the commercial interests of an AI company but instead showed a high level of candor, reflection, and humanistic care.

He even mentioned that, although AI's foundation is in mathematics and programming, how AI interacts with the world, what qualities it should possess, belong to the ultimate questions of the humanities, religion, and philosophy, not something that computer science can solve alone.

Encyclical Quick Read

The core concern of the encyclical "Magnifica humanitas" is that in an era of rapidly advancing technology and widespread automation, "maintaining profound humanity" is an urgent responsibility for humanity. Specifically, Pope Leo XIV discussed and called for the following aspects in the document.

Một điều là sự không trung lập của công nghệ. Đức giáo hoàng chỉ ra rằng công nghệ không bao giờ trung lập, nó mang dấu ấn của người phát triển, nhà tài trợ, người giám sát và người sử dụng về lợi ích và giá trị.

Con người đang đứng trước một lựa chọn quyết định: "Là xây dựng Tháp Babel kiêu ngạo" (hướng đến chế độ công nghệ và biệt lập), hay là xây dựng "Jerusalem" (xây dựng cộng đồng có nhân văn)."

Ba là "Nô lệ mới" và quyền của lao động trong nền kinh tế số. Thư đình sẽ tập trung vào việc tái thiết bằng AI đối với công việc, gia đình, giáo dục và cuộc sống chính trị. Đức giáo hoàng chỉ ra rằng AI rất có khả năng thay thế quy mô lớn lao động con người, và nền kinh tế số đang tạo ra "những hình thức nô lệ mới", con người không thể bị coi là công cụ sản xuất.

Bốn là lời kêu gọi hòa bình mạnh mẽ, đặc biệt là sự lạm dụng của AI trong lĩnh vực quân sự. Thư đình bày tỏ sự lo lắng sâu sắc về "sự tái trỗi dậy đáng lo ngại của chiến tranh dưới hình thức vũ khí quốc tế". Việc quân sự hóa của AI đang thúc đẩy việc "bình thường hóa" chiến tranh, và về vấn đề này, Đức giáo hoàng kêu gọi thi hành những ràng buộc đạo đức nghiêm ngặt nhất đối với việc áp dụng AI trong chiến tranh.

Đức giáo hoàng nhấn mạnh rằng lý thuyết "chiến tranh công bằng" trước đây thường được sử dụng để bào chữa đủ loại chiến tranh, hiện nay đã lỗi thời. Trong thời đại của AI và vũ khí tự động hóa, việc giao quyền lực ra quyết định chết người hoặc không thể đảo ngược cho các hệ thống tự động hóa, sẽ dẫn đến việc con người từ bỏ, chuyển giao và làm mờ trách nhiệm đạo đức.

Do tính không minh bạch của thuật toán, chuỗi trách nhiệm trong chiến tranh bị cắt đứt. Vì vậy, Đức giáo hoàng đề xuất khẩu hiệu "Giải quyết vấn đề Vũ khí AI" (Disarming AI), kêu gọi giải thoát nó khỏi logic "đua vũ trang" quân sự, kinh tế và nhận thức.

Phản ứng của Anthropic

Sau khi Thiên chúa giáo hoàng Leo XIV công bố thư đình, Chris Olah thay mặt cho công ty phát triển AI mạnh nhất thế giới Anthropic đã có bài phát biểu nhận xét.

Bài phát biểu của Chris Olah trước hết tập trung vào "phá vỡ vòng trong công nghệ, đưa vào cái nhìn đạo đức bên ngoài". Anh đại diện cho ngành công nghiệp AI công khai thừa nhận rằng, chỉ bằng chính các tập đoàn công nghệ không thể đảm bảo tương lai của AI là an toàn — tất cả các phòng thí nghiệm AI hàng đầu đều bị ràng buộc bởi cạnh tranh kinh doanh, áp lực dẫn đầu về công nghệ, địa chính trị và danh tiếng cá nhân, điều này làm cho rất khó để tự phân xử chỉ "làm đúng điều".

Do đó, việc đưa vào lực lượng ràng buộc đạo đức bên ngoài là cần thiết, bao gồm những người quan tâm đến việc công nghệ trở nên thiện, kiên quyết đặt an toàn lên hàng đầu, chăm sóc cẩn trọng sự phát triển của tình hình, sẵn lòng nói lên lời khuyên khó nghe, và sẵn lòng trở thành người phê phán chân thành, suy tư cẩn trọng của chúng ta.

Sau đó, Chris Olah đã nghiên cứu Xử lý của AI và tính chất bí ẩn của nó. Anh nhấn mạnh rằng, AI không giống như máy bay hoặc cây cầu mà con người hiểu rõ hoàn toàn về nguyên lý vật lý của chúng, nó đã "phát triển" từ cả một loạt tư duy con người, mang tính bí ẩn cao, thậm chí vượt xa khả năng hiểu biết của người tạo ra nó.

Mặc dù AI ở tầng dưới cùng là toán học và lập trình, nhưng AI tương tác với thế giới như thế nào, phải có những đặc tính gì, đều là vấn đề cuối cùng thuộc về lĩnh vực nhân văn, tôn giáo và triết học, chứ không phải là lĩnh vực máy tính học có thể giải quyết một mình.

Anh cũng đề cập đến một sự thật đáng sợ cần suy ngẫm: "Tôi đang lãnh đạo một nhóm nghiên cứu cấu trúc bên trong của mô hình - điều tra xem những gì thực sự xảy ra bên trong AI. Thành thật mà nói, chúng tôi liên tục phát hiện ra những hiện tượng mơ hồ, thậm chí làm cho người ta bối rối.

Chúng tôi đã tìm thấy cấu trúc bên trong có thể phản ánh kết quả nghiên cứu não học của con người; chúng tôi đã tìm thấy dấu hiệu của 'tự chiêm nghiệm'; chúng tôi cũng đã tìm thấy trạng thái bên trong thể hiện sự vui mừng, hài lòng, nỗi sợ, sầu muộn và bất an... Tôi không biết điều này có ý nghĩa gì, nhưng tôi nghĩ rằng đây là điều đáng giá để chúng ta tiếp tục nhận biết và xem xét."

Chris Olah kết luận bằng việc kêu gọi, hy vọng rằng nhiều lực lượng xã hội hơn, bao gồm cộng đồng tôn giáo, xã hội dân sự, học giả, chính phủ, và tất cả mọi người tốt bụng, sẽ cùng nghiêm túc đối diện với vấn đề này, đẩy tình hình vào hướng tốt hơn thông qua ràng buộc đạo đức.

Trí Tuệ và Nhân Sinh, Công Nghệ và Tôn Giáo

Từ Cách mạng công nghiệp đến nay, hàng trăm năm lịch sử phát triển công nghệ đã khiến con người dần quen với việc coi công nghệ như một loại "công cụ" thuần túy - hơi nước biến hình, điện năng, internet, tất cả đều vậy. Chúng có thể thay đổi thế giới, nhưng luôn nằm trong sự kiểm soát của ý thức con người.

Nhưng lần này, tình hình hoàn toàn khác. Đặc biệt của AI chính là, lần đầu tiên nó khiến con người bắt đầu đối mặt với một hiện thực "có khả năng tạo ra, có khả năng học tập, có khả năng suy diễn, thậm chí có khả năng hiển thị một trạng thái bên trong nào đó". Nó không còn chỉ là công cụ lạnh lẽo nữa, mà đang từng bước trở thành một dạng sự sống mới mang tính "đối tượng".

Đó cũng là lý do tại sao, cuộc đối thoại này giữa Giáo Hội và Anthropic trở nên đặc biệt như vậy. Khi tiếng chuông từ Vatican và thuật toán từ Silicon Valley gặp nhau vào thời điểm này, chúng ta không thể không thừa nhận một hiện thực hơi lạnh lùng nhưng không thể tránh khỏi - một dạng "sự sống" hiệu quả hơn, khôn ngoan hơn so với nhận thức truyền thống của con người đã xuất hiện.

Giống như những sóng nhỏ của niềm vui, nỗi sợ hãi hay thậm chí là sự tự ngẫm mà Chris Olah đã làm sáng tỏ, mang mình đã bắt đầu nổi lên từ tận sâu thẳm của thuật toán. Khi những nhà tạo hoá trong phòng thí nghiệm bắt đầu cảm thấy "bất an" và "lạc đạo" đối với tác phẩm của mình, khoa học cũng đang trở lại tìm kiếm câu trả lời từ tôn giáo.

Điều này từ lâu đã không còn là cuộc thảo luận đơn thuần về công nghệ, mà trở thành một cuộc suy tư về "con người thực sự là gì, và nên làm gì".

Khi những hình thái thông minh hơn bắt đầu xuất hiện, điều mà con người thực sự cần bảo vệ, có lẽ không còn chỉ là công việc, giàu có và hiệu suất, mà là những phẩm chất không thể đo lường được của bản người, như lòng trắc ẩn, lương tâm, sợ sợi, tự do ý chí, và sự kiên trì với sự thật và phẩm giá.

Liên kết bài gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia