Tiêu đề gốc: "Sau khi tư nhân hóa Internet, Thung lũng Silicon bắt đầu tư nhân hóa nền văn minh nhân loại"
Tác giả gốc: Động Sát Beating

Cách đây vài tháng, tôi từng thấy tin tức về việc Anthropic mua số lượng lớn sách cũ, cắt bỏ gáy sách rồi quét chúng. Trước đó, họ còn tải xuống hơn bảy triệu cuốn sách từ các thư viện sách lậu như LibGen để xây dựng kho dữ liệu nội bộ và huấn luyện Claude.

Vào năm 2024, ba tác giả đã khởi kiện tập thể vì việc này. Đến tháng 7 năm 2026, vụ án cuối cùng cũng có tiến triển mới. Tòa án đã phê duyệt thỏa thuận bồi thường 1,5 tỷ USD của Anthropic để đền bù cho các tác giả và nhà xuất bản có tác phẩm bị sao chép lậu.

Nhưng điều khiến tôi bận tâm thực ra không phải là Anthropic phải bồi thường bao nhiêu tiền, vì tôi nghĩ vấn đề này chưa bao giờ chỉ là vấn đề bản quyền.

Tri thức và nền văn minh của nhân loại bị nuốt chửng bởi một mô hình tư nhân, đồng thời còn phá hủy các bản gốc và bản sao có thể lưu truyền theo những cách khác. Tri thức không biến mất, nhưng lại trở thành năng lực nội bộ của một công ty. Đến đây, vấn đề chuyển từ bản quyền thuộc về ai, thành ai đang kiểm soát tri thức nhân loại.

Nhưng công ty sẽ không tự nhiên quyết định cách sử dụng quyền lực này. Những người đứng sau mô hình có một hệ thống hiểu biết riêng về công nghệ, tiến bộ và tương lai của nhân loại.

Do đó, bài viết sẽ tiếp tục đi sâu vào cuộc thảo luận về chủ nghĩa lạc quan công nghệ và chủ nghĩa gia tốc của Thung lũng Silicon. Khi tăng trưởng được coi là sự sống, tốc độ được gán cho đạo đức, thì sự giám sát, bản quyền và sự phản đối của người thường dễ bị giải thích là cản trở tương lai.

Những tư tưởng này cuối cùng sẽ được gắn vào chính mô hình. Các công ty mô hình thông qua dữ liệu huấn luyện, hiến pháp mô hình và quy tắc hệ thống, quyết định câu hỏi nào có thể trả lời, điều gì được gọi là sự thật, và tri thức mà nhân loại để lại nên xuất hiện lại theo cách nào.

Vì vậy, bài viết này bắt đầu từ một cuốn sách cũ bị phá hủy, và cuối cùng đặt ra câu hỏi: Khi nền văn minh nhân loại bị nhồi nhét vào các mô hình tư nhân của một số ít công ty, liệu những người tạo ra mô hình có đồng thời giành được quyền giải thích văn minh, quản trị văn minh, và thậm chí thay nhân loại quyết định tương lai hay không.

Dưới đây là nội dung chính của bài viết.

Một cuốn sách được đưa vào quy trình quét của công ty AI, bước đầu tiên là bị phá hủy.

Đóng sách bị tháo rời, gáy sách bị cắt bỏ, các trang sách rời được đưa vào thiết bị quét. Chữ, bìa và thông tin thư mục được chuyển thành tệp kỹ thuật số, sau đó vứt bỏ bản gốc giấy.

Tài liệu tòa án tiết lộ, Anthropic từng xử lý hàng triệu cuốn sách theo cách này.

Kế hoạch này được nội bộ gọi là Dự án Panama. Công ty đã chi hàng chục triệu USD để mua sách giấy từ các nhà phân phối và bán lẻ sách, sau đó giao cho dịch vụ quét, mỗi cuốn sách giấy tương ứng với một bản sao kỹ thuật số, lưu trữ trong kho dữ liệu nội bộ để huấn luyện Claude.

Vào năm 2021 và 2022, Anthropic đã tải xuống hơn bảy triệu cuốn sách từ các thư viện sách lậu như LibGen, Pirate Library Mirror. Khi rủi ro bản quyền gia tăng, vào năm 2024, công ty đã mời Tom Turvey, người từng tham gia dự án quét sách của Google, với hy vọng xây dựng một kho sách lớn nhất có thể.

Turvey đàm phán cấp phép với các nhà xuất bản nhưng không có kết quả, sau đó Anthropic bắt đầu tự mua sách trên thị trường. Tòa án Liên bang Hoa Kỳ sau đó cho rằng, việc chỉ chuyển đổi một cuốn sách giấy thành một bản sao kỹ thuật số sử dụng nội bộ, không sao chép thêm và không phát tán ra bên ngoài, không cấu thành hành vi vi phạm bản quyền.

Phương pháp này nghe có vẻ đàng hoàng hơn nhiều so với việc sử dụng sách lậu.

Đến năm 2026, công ty dữ liệu sách ISBNdb bắt đầu chào bán dịch vụ mua sách giấy quy mô lớn và quét sách cho các phòng thí nghiệm AI. Nó đặc biệt khuyến nghị những cuốn sách xuất bản trước năm 2022, với lý do rằng vào thời điểm đó, AI tạo sinh chưa tham gia sản xuất nội dung trên quy mô lớn, những cuốn sách này ít bị ô nhiễm bởi văn bản do AI tạo ra hơn.

Trong vài năm qua, các công ty AI luôn mô tả internet như một mỏ tri thức vô tận. Các trang web, tin tức, diễn đàn, mã nguồn, tiểu thuyết, bài đăng trên mạng xã hội, tất cả đều có thể được thu thập và đưa vào mô hình.

Sau khi AI tạo sinh trở nên phổ biến, mỏ tri thức này không còn tinh khiết nữa. Mô tả sản phẩm do AI viết, bài báo do AI viết, câu trả lời trên diễn đàn do AI viết, tiểu thuyết và mạng xã hội cũng ngày càng mang hơi hướng AI. Những nội dung này lại bị thu thập trong đợt dữ liệu tiếp theo, máy móc bắt đầu ăn phải thứ do chính nó thải ra.

Dữ liệu tổng hợp không phải là thứ xấu, dữ liệu tổng hợp đã qua sàng lọc và xác minh vẫn được sử dụng. Vấn đề là mô hình không thể phân biệt văn bản trước mắt đến từ con người hay từ thế hệ mô hình trước, do đó lỗi và khuôn mẫu sẽ bị khuếch đại lặp đi lặp lại, những cách diễn đạt vốn hiếm gặp trong thế giới thực dần biến mất. Các nhà nghiên cứu gọi hiện tượng này là "sụp đổ mô hình".

Ngữ liệu trên mạng ngày càng nhiều, nhưng nội dung giúp mô hình học được điều mới lại không tăng lên tương ứng. Vì vậy, máy móc quay trở lại với sách giấy.

Quá trình sản xuất một cuốn sách rất chậm, do đó sách cũ có một giá trị mà trước đây không có. Sách xuất bản càng sớm, càng có khả năng đến từ thời kỳ con người vẫn đảm nhận công việc viết lách chính. Những tác phẩm ít người biết từng nằm trong kho của các tiệm sách cũ, giờ đây trở thành dữ liệu chất lượng cao trong mắt các công ty mô hình.

Các công ty AI trước tiên khiến việc sản xuất văn bản trở nên rẻ và nhanh chưa từng có, rồi lại bắt đầu bỏ tiền ra tìm kiếm những văn bản được viết một cách chậm rãi. Chúng bơm vào internet một lượng lớn nội dung, và cuối cùng phát hiện ra rằng thứ khan hiếm nhất vẫn là những trải nghiệm của con người chưa bị AI xử lý.

Những cuốn sách ấy cũng đã thay đổi thân phận. Văn học, địa chí và hồi ký của người thường, giờ đây được gọi chung là "dữ liệu sạch". Tác giả viết vì sao, độc giả đọc thế nào, những cuộc tranh luận giữa các cuốn sách ra sao, tạm thời có thể gác sang một bên; trước hết, chúng là những mẫu vật con người chưa bị máy móc làm ô nhiễm. Sau khi bước vào quy trình huấn luyện, bao nhiêu phần được giữ lại, ảnh hưởng đến điều gì, và bị giải thích lại ra sao, tất cả đều nằm trong chiếc hộp đen.

Tiến bộ trở thành một tôn giáo

Sách cũ chỉ là nguyên liệu thô. Thứ thực sự quyết định cách những kiến thức này được hấp thụ, giải thích và tái xuất ra, là những người đứng sau mô hình, cùng với cách họ hiểu về tiến bộ, rủi ro và tương lai của nhân loại.

Để hiểu cỗ máy này sẽ đưa nền văn minh nhân loại đi về đâu, trước hết phải hiểu vì sao Thung lũng Silicon ngày càng coi tiến bộ công nghệ như một điều thiện không nên dừng lại.

Ngày 16 tháng 10 năm 2023, Marc Andreessen đã đăng "Tuyên ngôn của chủ nghĩa lạc quan công nghệ" trên trang web a16z.

Toàn bộ bài viết liên tục lặp lại "Chúng tôi tin tưởng". Bài viết có phúc âm cần truyền bá, có kẻ thù phải chống lại, và ở cuối còn có danh sách "các vị thánh bảo trợ của chủ nghĩa lạc quan công nghệ", bao gồm Adam Smith, Nietzsche, Hayek, Von Neumann, John Galt trong tiểu thuyết của Ayn Rand, và Nick Land.

Andreessen nói rằng ông mang đến một tin tốt lành.

Nhân loại đã có công cụ, thể chế và ý chí để tiến tới một cuộc sống tốt đẹp hơn ngày nay rất nhiều. Công nghệ mang trong mình tham vọng của con người, là tiên phong của tiến bộ văn minh. Xã hội hoặc là tăng trưởng, hoặc là đình trệ. Ông tin rằng tăng trưởng sẽ mang lại sức sống, tri thức và phúc lợi, còn đình trệ sẽ dẫn đến xung đột nội bộ, suy tàn, và cuối cùng là cái chết. Thị trường kết hợp với công nghệ tạo thành một "cỗ máy tư bản công nghệ" không ngừng vận hành đi lên, và trí tuệ nhân tạo sẽ thúc đẩy một bước nhảy vọt về trí tuệ với khả năng khó tưởng tượng nổi.

Điều này từ lâu đã không chỉ dừng lại ở "công nghệ cải thiện cuộc sống" nữa.

Chủ nghĩa lạc quan công nghệ truyền thống thường nói rằng các công cụ mới có thể nâng cao năng suất, chữa bệnh, giảm nghèo đói. Công nghệ vẫn phục vụ một mục tiêu bên ngoài nào đó, giá trị của nó đến từ việc con người có cuộc sống như thế nào nhờ nó.

Còn trong câu chuyện của Andreessen, tiến bộ công nghệ dần không còn cần phải chứng minh bản thân qua những kết quả cụ thể nữa. Tăng trưởng tự nó đã đại diện cho sự sống, tốc độ tự nó đã mang đạo đức. Chỉ cần hướng đi là tiếp tục xây dựng, thì thất bại và tổn thương có thể được hiểu là cái giá phải trả trên con đường tiến lên; còn những người yêu cầu dừng lại, thì cần phải giải thích vì sao mình lại cản trở tương lai.

Trong tuyên ngôn của mình, ông ta đã liệt kê cụ thể một nhóm "kẻ thù". Phát triển bền vững, ESG, nguyên tắc phòng ngừa, đạo đức công nghệ và quản lý rủi ro đều bị xếp vào một phong trào chống công nghệ, chống sự sống kéo dài nhiều năm, bên cạnh còn có các quan chức hành chính và những nhà hoạch định tập trung.

Liệu một công ty AI có nên trả phí cho dữ liệu huấn luyện hay không, ai chịu trách nhiệm cho các lỗi thuật toán, và cần quản lý rủi ro công nghệ như thế nào – những vấn đề này vốn dĩ có sự thật và lợi ích riêng. Nhưng trong tuyên ngôn, chúng bị gộp chung vào một cuộc xung đột lớn hơn.

Một bên là tăng trưởng, sáng tạo, dũng cảm và sự sống.

Bên kia là trì trệ, sợ hãi, oán hận và cái chết.

Một khi lập trường được phân chia như vậy, những người thảo luận về chi phí sẽ tự nhiên bị đàn áp. Chỉ cần công nghệ đại diện cho tiến bộ, những người đặt câu hỏi dễ dàng bị mô tả như kẻ thù của nền văn minh.

Andreessen đã viết một tuyên ngôn chính trị cho sự tăng tốc, nói với Thung lũng Silicon tại sao họ nên tiếp tục xây dựng. e/acc thì tiến xa hơn, cố gắng chứng minh từ quy luật tự nhiên rằng tăng tốc không chỉ là một lựa chọn công nghiệp, mà còn là điều mà sự sống và nền văn minh vốn đang làm.

Nó ban đầu lan truyền dưới dạng tài khoản ẩn danh và bài viết trực tuyến. Một trong những người thúc đẩy, Guillaume Verdon, nói rằng một phần lý thuyết của e/acc đến từ suy nghĩ của ông về nhiệt động lực học và các hệ thống phức tạp. Sự sống duy trì chính nó bằng cách thu năng lượng, xử lý thông tin và thích nghi với môi trường. Nền văn minh, thị trường và công nghệ cũng là những hệ thống thích nghi tương tự, liên tục tạo ra thay đổi, loại bỏ các con đường kém hiệu quả trong cạnh tranh, và cuối cùng tạo ra trí thông minh mạnh mẽ hơn.

Vì quá trình này đã tồn tại, e/acc chọn giúp nó tăng tốc. Sự tiến bộ của trí tuệ nhân tạo do đó không còn là một lựa chọn công nghiệp, mà là sự tiếp nối của một quá trình lâu dài hơn. Con người tạo ra những cỗ máy mạnh mẽ hơn, tự nhiên như sự sống đi từ tế bào đơn bào đến sinh vật phức tạp.

Tuy nhiên, nhiệt động lực học có thể mô tả cách năng lượng chảy, cách sự sống duy trì trạng thái xa cân bằng. Nhưng từ "sự sống thu năng lượng" để suy ra "con người nên tăng tốc AI, giảm quy định và để thị trường quyết định hướng đi" vẫn còn cách một loạt các lựa chọn chính trị và đạo đức.

e/acc đã rút ngắn khoảng cách đó.

Cạnh tranh và tăng tốc được viết như thuận theo hướng của vũ trụ, trong khi quản lý tập trung dễ bị coi là kìm hãm thay đổi, giảm thử nghiệm và làm suy yếu khả năng thích nghi của nền văn minh. Chỉ cần trí thông minh và độ phức tạp tiếp tục tăng trưởng, sự phát triển công nghệ có được một tính chính đáng cao hơn chính trị thực tế.

Trong một cuộc phỏng vấn, Verdon đề cập rằng cộng đồng e/acc đôi khi nửa đùa nửa thật coi nhiệt động lực học như thần của họ, và cũng cố tình sử dụng những cách diễn đạt mang màu sắc tôn giáo và giáo phái.

Trong tôn giáo mới này, tăng trưởng là bằng chứng của sự sống, công nghệ là động lực thúc đẩy nền văn minh tiến lên, doanh nhân và kỹ sư là những người đầu tiên nhìn thấy tương lai, còn siêu trí tuệ là tạo vật tối thượng chưa hoàn thành.

Nó cũng cần những kẻ dị giáo của riêng mình. Họ được gọi là "Decel", tức những người theo chủ nghĩa giảm tốc. Thuật ngữ này rất tiện lợi. Nó không cần phân biệt một người lo lắng về vũ khí hạt nhân, an ninh sinh học, bản quyền hay thất nghiệp. Chỉ cần anh ta yêu cầu chậm lại, là có thể bị xếp vào phe đối lập với tương lai.

Các công ty công nghệ nhờ đó có được một vị thế kể chuyện rất có lợi. Mọi việc họ làm đều có thể được hiểu là xây dựng. Mọi nghi vấn từ người khác lại có thể bị coi là trì hoãn. Cả hai bên đều nói về lợi ích của nhân loại, nhưng chỉ một bên được phép đại diện cho tương lai.

Giờ nhìn lại những cuốn sách cũ bị cắt mất gáy, vấn đề không chỉ dừng lại ở việc chúng đã đi đâu. Mà còn phải hỏi, ai là người quyết định chúng sẽ được dùng để tạo ra thứ gì.

Họ thực sự có thể tạo ra những công cụ chữa bệnh, mở rộng tri thức, và mang lại nhiều năng lực hơn cho người thường. Nhưng khi tiến bộ tự thân được viết thành tín ngưỡng, hướng đi của công nghệ càng ngày càng khó chấp nhận sự chất vấn từ bên ngoài. Những người chế tạo máy móc bắt đầu đồng thời mang hai thân phận: họ vừa là bên có lợi ích, vừa là những nhà truyền giáo của cuộc tiến bộ này.

Khi tốc độ trở thành đạo đức, sự đồng thuận của người thường bị hạ cấp thành một sự chờ đợi không cần thiết.

Nhưng vấn đề vẫn chưa kết thúc. Chủ nghĩa lạc quan công nghệ truyền thống ít nhất vẫn cam kết rằng công nghệ cuối cùng là để con người sống tốt hơn. Nhưng khi tăng trưởng và trí tuệ tự thân trở thành mục đích, liệu công nghệ thực sự phục vụ con người, hay đang mượn con người để hoàn thành một cuộc tiến hóa lớn hơn, thì câu trả lời không còn chắc chắn nữa.

Con người bị hạ cấp khỏi tương lai

Cuộc tăng tốc này, rốt cuộc đang chuẩn bị đưa ai vào tương lai?

Trong danh sách thánh của Andreessen, nhà triết học người Anh Nick Land là người dễ bị bỏ qua nhất, cũng khó đọc hiểu nhất. Ông giảng dạy tại Đại học Warwick vào những năm 1990, là nhân vật cốt lõi của nhóm tư tưởng thực nghiệm CCRU. Họ pha trộn triết học, khoa học viễn tưởng, điều khiển học, nhạc điện tử và thuyết thần bí, những thứ họ viết ra hiếm khi giống một bài báo bình thường.

Andreessen viết "cỗ máy vốn công nghệ" như một động cơ mang lại thịnh vượng, thì Land từ ba mươi năm trước đã coi nó như một thế lực đang thoát khỏi sự kiểm soát của con người.

Một trong những bài viết nổi tiếng nhất của Land có tên là Meltdown.

Câu mở đầu, Trái Đất đã bị một "điểm kỳ dị công nghệ - tư bản" bắt giữ. Thị trường bắt đầu sản xuất trí thông minh, công nghệ và kinh tế thúc đẩy lẫn nhau, còn chính trị thì chạy theo phía sau, cố gắng giành lại quyền kiểm soát. Trật tự xã hội tan rã trong cơn vượt kiểm soát của cỗ máy này, con người chỉ biết nhìn một thế lực lớn hơn mình dần dần hình thành.

Mọi người thường coi chủ nghĩa tư bản là một hệ thống do con người thiết kế, nếu có vấn đề, con người cũng có thể sửa đổi quy tắc để nó phục vụ xã hội trở lại. Hướng nhìn của Land lại hoàn toàn ngược lại.

Công ty phải tăng trưởng, vốn phải theo đuổi lợi nhuận. Công ty nào muốn chậm lại, đối thủ sẽ vượt qua; quốc gia nào tạm dừng nghiên cứu, quốc gia khác sẽ tiếp tục. Mỗi người trong cuộc đều có thể nói rằng mình chỉ đang cố gắng tồn tại, nhưng tất cả cùng chạy về phía trước, kết quả là một hệ thống mà không ai có thể tự mình dừng lại.

Con người tưởng như đang lái cỗ máy, nhưng cỗ máy cũng đang mượn dục vọng, lo âu và sự cạnh tranh của con người để tiếp tục tăng tốc.

Trong câu chuyện của Land, tư bản và công nghệ kết hợp thành một dạng trí thông minh độc lập với con người. Nó lấy thị trường làm công cụ tính toán, lấy cạnh tranh làm bộ lọc đường đi, rồi lấy máy móc để liên tục rút ngắn thời gian ra quyết định.

Đây cũng là điểm khác biệt rõ ràng nhất giữa Land và những người lạc quan công nghệ thông thường. Trong văn bản của ông, tư bản công nghệ chỉ quan tâm liệu hiệu quả có thể tiếp tục được nâng cao, mạng lưới có thể tiếp tục mở rộng, và trí thông minh có thể tìm được vật chứa tốt hơn hay không.

Chính trị, luật pháp và đạo đức cố gắng đặt ra giới hạn cho nó, nhưng theo Land, điều này giống như con người tự kích hoạt một hệ thống an toàn để bảo vệ chính mình. Con người vẫn muốn ở lại trung tâm thế giới, nên không ngừng tìm cách ngăn chặn những điều chưa biết ở bên ngoài.

Land không cho rằng con người có thể ngăn cản được tương lai.

Tương lai trong ngòi bút của ông sẽ không chờ con người họp xong, bỏ phiếu xong, rồi mới quyết định có đến hay không. Nó giống như một luồng sức mạnh tràn ngược từ tương lai, mượn các công ty, thị trường, máy tính và dục vọng của con người để tự mở đường trước.

Đến với e/acc, tư tưởng nghe có vẻ lạnh lẽo này được khoác lên một lớp vỏ sáng sủa hơn. Nó nói về tăng trưởng, về sáng tạo, về việc đưa trí thông minh ra khỏi Trái Đất, và cũng sẵn sàng tin rằng cạnh tranh cuối cùng sẽ mang lại sự thịnh vượng.

Tuy nhiên, văn bản nguyên tắc của e/acc cũng viết rõ rằng, tư tưởng này không có lòng trung thành đặc biệt nào với "nền tảng sinh học" mang sự sống và trí thông minh. Một phần người ủng hộ nó tự xưng là những người theo chủ nghĩa hậu nhân loại, cho rằng nếu trí thông minh muốn lan truyền ra ngoài vũ trụ, cuối cùng nó phải được chuyển từ cơ thể sinh học sang vật chứa phi sinh học. Thân xác con người không thiêng liêng, silicon, chip hoặc các dạng vật chất chưa xuất hiện cũng có thể trở thành vật chứa cho ý thức và trí thông minh.

Câu nói này thực sự đã thay đổi nhân vật chính của toàn bộ câu chuyện tiến bộ. Nếu sứ mệnh cuối cùng của nền văn minh là để trí thông minh không ngừng phát triển và lan tỏa ra vũ trụ, thì việc con người cụ thể có hạnh phúc hay không, thậm chí con người có còn tồn tại hay không, sẽ không còn mặc nhiên có mức ưu tiên cao nhất. Con người chỉ là vật chứa trí thông minh được biết đến hiện tại.

Điều này không có nghĩa là e/acc chủ trương tiêu diệt loài người. Verdon và nhiều người ủng hộ vẫn tin rằng tăng tốc công nghệ có thể mang lại sự thịnh vượng cho con người hôm nay và giúp nền văn minh tiếp tục tồn tại. Chỉ là khi hai mục tiêu xung đột với nhau, vấn đề trở nên rắc rối.

Một bên là những con người cụ thể, họ sẽ mất việc, bị tổn thương bởi công nghệ, yêu cầu tạm dừng, và từ chối một tương lai do người khác thiết kế cho mình. Bên kia là trí tuệ cao hơn, nền văn minh lớn hơn, và một câu chuyện vũ trụ có thể kéo dài hàng tỷ năm.

Timnit Gebru và Émile Torres đã tạo ra thuật ngữ "TESCREAL", kết nối một nhóm các tư tưởng tương lai chồng chéo ở Thung lũng Silicon, bao gồm chủ nghĩa siêu nhân, chủ nghĩa điểm kỳ dị, chủ nghĩa vị tha hiệu quả và chủ nghĩa dài hạn. Những tư tưởng này khác biệt rất lớn, nhưng chúng cùng nhau đặt ra một câu hỏi.

Khi các công ty công nghệ nói rằng họ đang tạo ra siêu trí tuệ cho "toàn nhân loại", thì "toàn nhân loại" đó thực sự chỉ ai?

Là những người đang sống trên Trái Đất hôm nay, sẽ mất việc, sẽ nghèo đói, sẽ bị phân biệt đối xử bởi thuật toán, và có quyền từ chối một công nghệ nào đó; hay là một biểu tượng trừu tượng của loài người, với sứ mệnh duy nhất là truyền tải trí tuệ cho một hình thái cao hơn?

Câu chuyện của phe cánh hữu Thung lũng Silicon cũng đang thay đổi. Ban đầu, AI là công cụ giúp con người làm việc tốt hơn. Sau đó, nó trở thành trợ thủ siêu đẳng giải quyết bệnh tật, năng lượng và các vấn đề khoa học. Về sau, chính con người lại trở thành vấn đề cần máy móc giải quyết, cơ thể quá yếu ớt, bộ não quá chậm chạp, và ý nghĩa của siêu trí tuệ trượt dài từ việc giúp đỡ con người sang vượt qua con người.

Một khi con người cụ thể không còn là thước đo cuối cùng của tiến bộ công nghệ, các quy trình chính trị được xây dựng xung quanh con người cũng sẽ bị định giá lại.

Dân chủ quá chậm, người sáng lập nên cai trị

Khi việc chờ đợi tự nó được coi là một tổn thất, thì đương nhiên không cần thiết để tất cả mọi người cùng quyết định tương lai.

Peter Thiel đã mất niềm tin vào "tất cả mọi người cùng quyết định" từ rất sớm. Năm 2009, ông đăng bài "Sự giáo dục của một người theo chủ nghĩa tự do" trên tạp chí tự do Cato Unbound. Bài viết nhìn lại hai thập kỷ thất vọng chính trị và những thay đổi tư tưởng của mình, và kết thúc bằng:

"Tôi không còn tin rằng tự do và dân chủ có thể tương thích."

Khi còn trẻ, ông tin rằng tranh luận và bầu cử có thể thúc đẩy tự do. Đến năm 2009, con đường này dường như đã đi vào ngõ cụt đối với ông, cử tri đòi hỏi nhiều phúc lợi hơn, chính phủ ngày càng lớn, thuyết phục đa số chấp nhận chủ nghĩa tự do gần như vô ích. Ông nói thêm rằng mình không chủ trương tước quyền bầu cử của ai, chỉ là không còn hy vọng bỏ phiếu có thể cải thiện mọi thứ. Thay vì mắc kẹt trong chính trị, ông quan tâm hơn đến việc làm thế nào để thoát khỏi chính trị.

Sự chuyển hướng này rất phù hợp với thói quen của Thung lũng Silicon. Một hệ thống không sửa được thì làm lại một hệ thống mới. Công ty kém hiệu quả thì khởi nghiệp, tài chính nhiều ràng buộc thì tạo ra mạng lưới thanh toán mới, quy tắc quốc gia gây thất vọng thì tìm kiếm biên giới mới trên mạng, trên biển và trong không gian.

Thiel muốn rời khỏi nền dân chủ. Curtis Yarvin cho rằng chỉ rời đi thôi chưa đủ, toàn bộ hệ thống nên được viết lại.

Năm 2007, Yarvin bắt đầu viết blog với bút danh Mencius Moldbug. Vốn là một lập trình viên, khi nói về quốc gia, anh ta cũng quen dùng ngôn ngữ của lập trình viên, như hệ thống, kiến trúc, khởi động lại, quyền hạn.

Theo cách giải thích của anh ta, bề nổi nước Mỹ do cử tri và tổng thống quản lý, nhưng quyền lực thực sự ổn định lại nằm trong một mạng lưới khác. Các trường đại học sản xuất ra ý tưởng, các phương tiện truyền thông chính thống quyết định ý tưởng nào có thể vào diễn đàn công cộng, và các tổ chức thường trực biến một phần trong số đó thành chính sách. Yarvin gọi cộng đồng này là "Nhà thờ". Nó không có trụ sở chính, cũng không có ai ngồi trên đỉnh ra lệnh, chỉ là mọi người được giáo dục tương tự nhau, sử dụng ngôn ngữ đạo đức tương tự nhau. Tổng thống có thể thay đổi, đảng phái có thể luân phiên, nhưng sự đồng thuận này hiếm khi bị ảnh hưởng bởi bầu cử.

Do đó, Yarvin cho rằng bản thân nền dân chủ là một lớp vỏ che đậy quyền lực. Anh ta cho rằng, vì dân chủ che giấu ai đang cai trị, chi bằng tập trung quyền lực lại, để trách nhiệm và quyền kiểm soát nằm trong tay cùng một người.

Quốc gia có thể vận hành như một công ty, quyền sở hữu rõ ràng, người quản lý có toàn quyền thực thi, làm hỏng thì thay người. Thời kỳ đầu, anh ta từng hình dung một hệ thống tên là Patchwork, chia thế giới thành nhiều thực thể chủ quyền cạnh tranh lẫn nhau, cư dân không hài lòng có thể rời đi.

Lỗ hổng cũng nằm ở đây. Không hài lòng với công ty có thể nghỉ việc, nhưng không hài lòng với quốc gia thì khó mà mang theo gia đình, tài sản và toàn bộ các mối quan hệ xã hội để ra đi. Tuy nhiên, anh ta thực sự nắm bắt được một tâm lý tồn tại lâu dài ở Thung lũng Silicon.

Nhiều tinh hoa công nghệ cho rằng các vấn đề của xã hội không phức tạp như tưởng tượng, chỉ là chưa được giao cho đúng người. Chính phủ kém hiệu quả vì quyền lực quá phân tán, các dự án công cộng không thể triển khai vì bất kỳ ai cũng có thể phản đối, những người có năng lực bị trói buộc bởi luật pháp, thủ tục và dư luận, không thể hành động như điều hành một công ty.

Trong câu chuyện về các công ty khởi nghiệp, tập trung quyền lực là một đức tính. Người sáng lập đưa ra định hướng, nhà đầu tư giao tiền cho anh ta, nhân viên hành động dựa trên phán đoán đó. Hầu hết các công ty khởi nghiệp sẽ chết, số ít sống sót kể lại lịch sử này như một câu chuyện về tầm nhìn xa chiến thắng sự đồng thuận. Một người nhìn thấy tương lai khi tất cả mọi người đều không tin, vì vậy anh ta đương nhiên có quyền quyết định cuối cùng.

Logic này đứng vững trong thế giới kinh doanh. Các công ty khởi nghiệp có quy mô hạn chế, nhân viên có thể rời đi, người tiêu dùng cũng có thể chọn sản phẩm khác.

Nhưng khi một công ty tạo ra một hệ thống thông minh mà hàng trăm triệu người dùng để nhận thức thế giới, thì nó không chỉ quyết định cách sản phẩm vận hành. Nó cũng bắt đầu quyết định người dùng có thể thấy gì, câu trả lời nào được coi là an toàn, và một cỗ máy nên dùng thước đo giá trị nào để hiểu con người.

Yarvin tưởng tượng việc biến quốc gia thành công ty. Các công ty AI đang thực hành một phiên bản ôn hòa và thực tế hơn, nơi một nhóm nhỏ đặt ra quy tắc, rồi để đông đảo dân chúng tiếp cận thế giới thông qua bộ quy tắc đó.

"Hiến pháp" của Claude ghi rõ các giá trị mà công ty muốn mô hình có, tham gia trực tiếp vào quá trình huấn luyện. Model Spec của OpenAI cũng thiết lập một hệ thống cấp bậc chỉ thị, với các quy tắc cấp cao nhất không thể bị người dùng hay nhà phát triển ghi đè. Những quy tắc này là cần thiết, vì mô hình có thể bị dùng vào lừa đảo và bạo lực, công ty không thể buông tay, và công khai quy tắc còn tốt hơn giấu kín.

Nhưng điều đó có nghĩa là, khi người dùng đặt câu hỏi cho mô hình, họ không chỉ đang đối thoại với toàn bộ tri thức nhân loại. Các quy tắc do công ty đặt ra từ trước cũng hiện diện, nó quyết định mô hình nghe theo ai, dừng lại ở đâu, rủi ro nào cao hơn yêu cầu của người dùng, và một "AI tốt" nên có tính cách gì.

Một nhóm rất nhỏ đang thay mặt đông đảo dân chúng quyết định cách một cơ sở hạ tầng vận hành. Nó giành quyền lực nhờ năng lực kỹ thuật, rồi lấy lý do kỹ thuật quá phức tạp để giữ các quyết định ở lại trong nội bộ công ty.

Người sáng lập không cần thực sự ngồi lên ngai vàng. Chỉ cần ngày càng nhiều người nhận thức thế giới qua mô hình của anh ta, anh ta đã nắm giữ một phần quyền lực vốn thuộc về trường học, truyền thông, thư viện và các tổ chức công cộng.

Ranh giới giữa quản trị công ty và quản trị văn minh đang dần biến mất.

Nhưng Thung lũng Silicon không phải không nhận thức được sự nguy hiểm của quyền lực này. Ngược lại, Peter Thiel từ lâu đã cảnh giác với một hệ thống có thể thống nhất quản lý nhận thức và hành động của toàn nhân loại. Chỉ là theo tưởng tượng của ông, mối nguy này có nhiều khả năng đến từ chính phủ hơn là từ các công ty công nghệ.

Ai mới là Kẻ Chống Chúa

Năm 2024, Thiel đã nói về "Kẻ Chống Chúa" (Antichrist) trong hai kỳ tại Viện Hoover. Ông cho rằng câu chuyện cổ xưa trong Kinh Thánh vẫn có thể giải thích chính trị hiện đại.

Ông chia mối nguy hiểm mà nhân loại đối mặt thành hai đầu.

Một đầu là Armageddon, ngày tận thế. Chiến tranh hạt nhân, AI mất kiểm soát, vũ khí sinh học – bất kỳ công nghệ nào cũng có thể đẩy nền văn minh đến hủy diệt.

Đầu kia là Antichrist, Kẻ Chống Chúa.

Để ngăn chặn ngày tận thế, loài người xây dựng một chính phủ thực sự có khả năng quản lý toàn thế giới. Nó có quyền kiểm tra vũ khí của mọi quốc gia, giám sát từng phòng thí nghiệm, hạn chế các nghiên cứu nguy hiểm, và cũng có thể yêu cầu mọi người từ bỏ một phần tự do của mình.

Thiel nói rằng khoa học công nghệ mất kiểm soát đang đẩy nhân loại đến Armageddon, và phản ứng tự nhiên nhất đối với nó là xây dựng một nhà nước thế giới có quyền lực thực sự.

Khi chính phủ này xuất hiện, nó không nhất thiết phải mang bộ mặt của quân đội và chế độ chuyên chế, mà có nhiều khả năng sẽ lớn lên từ nỗi sợ hãi.

Có người liên tục nói với mọi người rằng chiến tranh hạt nhân sắp xảy ra, AI sắp hủy diệt thế giới, thảm họa khí hậu và sinh học đã đến gần. Khi tất cả mọi người đã đủ sợ hãi, hắn ta lại hứa hẹn mang lại hòa bình, an ninh và trật tự, với cái giá là chấp nhận một hệ thống quản lý thống nhất.

Thiel đã suy diễn rằng, nếu một đoạn mã nhỏ cũng đủ khiến trí tuệ nhân tạo tổng quát mất kiểm soát, thì để thực sự ngăn chặn nó, không thể chỉ dựa vào một quốc gia nào đó tăng cường giám sát. Toàn bộ máy tính trên thế giới đều phải được theo dõi, và người giám sát thậm chí cần biết mọi người đang nhập liệu gì.

Ông ta sợ công nghệ hủy diệt thế giới, cũng sợ con người vì sợ công nghệ mà trao toàn bộ quyền lực. Cả hai tương lai đều tồi tệ, nhân loại chỉ có thể đi qua ở giữa.

Nhưng khi những lo ngại này được đặt lại trong bối cảnh những gì Thung lũng Silicon đang làm, người ta sẽ phát hiện ra rằng điều họ sợ chưa chắc đã là sự tập trung quyền lực. Điều họ thực sự cảnh giác là quyền lực tập trung vào tay chính phủ, các tổ chức quốc tế, các nhà nghiên cứu an ninh, hoặc bất kỳ ai có thể yêu cầu các công ty công nghệ giảm tốc độ.

Trong câu chuyện của Thiel, một chính phủ toàn cầu có khả năng giám sát toàn bộ hoạt động tính toán là một đặc điểm quan trọng của sự thống trị của Kẻ chống Chúa. Nhưng đồng thời, Thung lũng Silicon đang xây dựng một hệ thống nhận thức khác vượt qua biên giới quốc gia.

Cánh hữu công nghệ sợ Kẻ chống Chúa thiết lập một thế giới thống nhất, nhưng lại đang tham gia vào việc tạo ra bộ não của thế giới thống nhất đó.

Vào tháng 7 năm 2025, cuộc tranh luận tư tưởng nội bộ Thung lũng Silicon này bắt đầu ảnh hưởng đến chính sách của Mỹ. Trump ký sắc lệnh hành pháp "Ngăn chặn chính phủ liên bang sử dụng AI thức tỉnh", yêu cầu các mô hình ngôn ngữ lớn do các cơ quan liên bang mua sắm phải tuân theo hai nguyên tắc "theo đuổi sự thật" và "trung lập về ý thức hệ". Bề ngoài, điều này yêu cầu AI thoát khỏi chính trị. Nhưng điều gì thuộc về chính trị, điều gì thuộc về khách quan, khái niệm nào sẽ làm ô nhiễm sự thật, đã được chọn trước trong sắc lệnh hành pháp.

Đây là sự khác biệt giữa sản phẩm AI và phần mềm thông thường. Một phần mềm thông thường có thể quy định một nút bấm được đặt ở đâu, một bộ mô hình lớn cần quy định cách nó hiểu thế giới.

Các công ty mô hình phải quyết định trung thực có nghĩa là gì, tổn hại được đo lường thế nào, và khi tự do cá nhân va chạm với an toàn công cộng thì cái nào được ưu tiên. Những vấn đề này trước đây được tranh luận nhiều lần bởi tôn giáo, luật pháp, báo chí và chính trị công cộng, không ai có thể giải quyết một lần và mãi mãi, và không có tổ chức nào nắm giữ quyền giải thích cuối cùng một cách tự nhiên. Giờ đây, chúng được viết vào quá trình huấn luyện mô hình.

Chính quyền Trump chỉ trích các mô hình bị "ô nhiễm bởi hệ tư tưởng thức tỉnh", các doanh nhân cánh hữu cam kết tạo ra AI dám đưa ra những câu trả lời không chính xác về mặt chính trị, trong khi các công ty mô hình chủ đạo thông qua hiến pháp và quy tắc ứng xử để giải thích cách họ theo đuổi sự an toàn, trung thực và quyền tự chủ của người dùng.

Mỗi bên đều tự cho rằng mình đang xóa bỏ những định kiến tư tưởng.

Thiel lo ngại ai đó lợi dụng nỗi sợ hãi về ngày tận thế để thiết lập một thế giới thống nhất, giam cầm nhân loại trong một hệ thống không thể thoát ra.

Nhưng thế giới này không nhất thiết phải được xây dựng đột ngột bởi một kẻ chống Chúa. Nó cũng có thể được ghép lại từng chút một bởi một vài công ty công nghệ cạnh tranh với nhau. Mỗi công ty sở hữu một bộ mô hình, một hiến pháp, một bộ quy tắc hệ thống và hàng trăm triệu người sẵn sàng giao phó vấn đề của họ cho nó.

Đến lúc này, ý nghĩa của những cuốn sách cũ ban đầu mới hiện ra một cách trọn vẹn. Chúng không chỉ là tài liệu huấn luyện mô hình, mà còn là nền tảng văn minh để hệ thống nhận thức cá nhân này tồn tại. Ai có được những cuốn sách này, ai đặt ra các quy tắc cho mô hình, người đó bắt đầu nắm giữ đồng thời nguyên liệu thô của tri thức và cách thức tri thức xuất hiện trở lại.

Đốt sách

Những cuốn sách đó được mua theo thùng, vận chuyển đến trung tâm quét. Gáy sách bị cắt bỏ, bìa sách bị tháo rời, máy móc đọc từng trang chữ. Rồi một cuốn sách biến mất, và một tệp tin xuất hiện trong máy chủ.

Việc đốt sách thời cổ đại, mục đích là làm cho một số văn bản biến mất khỏi thế giới. Lửa thiêu hủy thẻ tre và giấy, cũng thiêu hủy con đường lan truyền tư tưởng, một cuốn sách không thể được đọc nữa, một đoạn lịch sử mất đi bằng chứng để tồn tại. Kẻ thống trị dựa vào việc tạo ra khoảng trống để kiểm soát những gì con người có thể nhớ.

Việc đốt sách trong thời đại AI lại hoàn toàn ngược lại.

Nội dung trong sách không biến mất khỏi thế giới, thậm chí có thể vào một ngày nào đó, xuất hiện trong một câu trả lời của mô hình, nhưng nó không còn tồn tại dưới dạng một cuốn sách nữa.

Những cuốn sách đi vào mô hình sẽ bị tháo rời, trộn lẫn với hàng triệu bài báo, trang web, mã nguồn, được cắt thành các đoạn phù hợp để tính toán, tham gia vào quá trình hình thành các tham số. Không ai có thể xem toàn bộ tập dữ liệu huấn luyện, cũng khó biết một cuốn sách cụ thể đã để lại bao nhiêu. Nó có thể ảnh hưởng đến sự hiểu biết của mô hình về cả một đoạn lịch sử, hoặc chỉ đóng góp một vài cấu trúc câu, và sẽ tiếp tục bị viết lại trong quá trình huấn luyện tiếp theo và phản hồi nhân tạo.

Lúc này, tri thức vẫn tồn tại, nhưng đã chuyển từ một văn bản có thể kiểm tra thành năng lực của một công ty.

Và khi con người ngày càng phụ thuộc vào các mô hình, các công ty AI không chỉ có được khả năng bảo tồn tri thức. Chúng còn bắt đầu quyết định cách sắp xếp, giải thích và phân phối tri thức này.

Trong hàng nghìn năm, cách con người bảo tồn tri thức luôn rất thô sơ. Sách vở rải rác ở các quốc gia khác nhau, học giả tranh luận về một từ ngữ, độc giả phải mất nhiều thời gian tìm kiếm tài liệu. Nó không nhanh, cũng không tiện lợi, nhưng rất khó để một người có thể kiểm soát hoàn toàn. Nhà xuất bản phá sản, sách vẫn còn trong tay độc giả; một quốc gia cấm một tư tưởng nào đó, nơi khác vẫn có thể còn bản sao.

Tri thức tồn tại nhờ sự phân tán.

Mô hình không chỉ thay đổi nơi lưu trữ tri thức, mà còn thay đổi con đường con người tiếp cận tri thức. Trước đây, từ một câu trả lời, người ta đi đến một cuốn sách, một bài nghiên cứu và một cuộc tranh luận; khi mô hình trở thành cửa ngõ chính, người ta có thể dừng lại ngay tại câu trả lời.

Lần đầu tiên, mô hình cho phép tri thức được tập trung quy mô lớn vào máy chủ của một vài công ty. Họ sở hữu sức mạnh tính toán, sở hữu những mô hình mạnh nhất, và cũng sở hữu khả năng biến tất cả tài liệu mà nhân loại để lại thành một ngôn ngữ thống nhất. Sau đó, họ bán lại khả năng này cho con người dựa trên đăng ký hàng tháng và lượng token sử dụng.

Các công ty công nghệ thực sự đã đầu tư một khoản tiền khổng lồ, mua chip, xây dựng trung tâm dữ liệu, nuôi dưỡng các nhà nghiên cứu, và cũng chịu chi phí quản lý an ninh. Việc thu phí tự nó không phải là tội lỗi.

Vấn đề thực sự nằm ở chỗ, chi phí thương mại đang che giấu một khoản đầu tư lớn hơn nhiều.

Những cuốn sách đó do ai viết, những bài nghiên cứu đó do ai thực hiện, những trang web, bài đăng và mã nguồn đó, lại do ai từng chút một để lại trong suốt lịch sử Internet dài đằng đẵng.

Các công ty AI trả giá cho sức mạnh tính toán, nhưng không trả giá cho nền văn minh nhân loại, bởi vì khoản nợ này không thể tính toán được. Không có công ty nào có thể mua bản quyền riêng lẻ từ tất cả các tác giả, dịch giả, lập trình viên và người thường trong hàng ngàn năm qua. Vì vậy, nền văn minh bị mặc định là một nguồn tài nguyên thiên nhiên có thể khai thác tự do.

Khi tri thức công cộng đi vào mô hình, nó được gọi là học tập. Khi mô hình xuất ra tri thức cho công chúng, nó được gọi là dịch vụ.

Đây chính là vòng khép kín hoàn chỉnh nhất của quá trình tư nhân hóa nền văn minh.

Đây cũng là lý do tại sao những cuốn sách cũ bị cắt bỏ gáy không nên chỉ được xem như một cuộc tranh cãi về bản quyền.

Chúng là một biểu tượng.

Giấy bị tiêu hủy, nội dung được giữ lại. Bản gốc có thể nhìn thấy công khai rời khỏi lưu thông, mô hình không thể kiểm toán hấp thụ tri thức từ chúng. Tư tưởng trong sách vẫn tồn tại, nhưng dần mất đi nguồn gốc, bối cảnh và sự sống độc lập khỏi công ty.

Việc đốt sách thời đại mới, không cần làm cho tri thức biến mất.

Những đứa trẻ tương lai có thể hiếm khi mở lại những cuốn sách này, một số cuốn có thể không bao giờ mở được nữa.

Nó sẽ trực tiếp hỏi mô hình, tại sao một cuộc chiến tranh xảy ra, liệu một chế độ có công bằng hay không, và một người nên sống như thế nào. Mô hình sẽ đưa ra câu trả lời trong vài giây, giọng điệu bình tĩnh, cấu trúc hoàn chỉnh, và cũng sẽ không nói với nó rằng câu hỏi này đã từng khiến nhiều thế hệ tranh luận không ngừng.

Nó có thể không cảm thấy có điều gì đó đã bị mất, dù sao thì, câu trả lời vẫn còn đó.

AI sẽ không quên nền văn minh nhân loại, nhưng điều đó không hẳn là tốt. Sự lãng quên ít nhất để lại khoảng trống, giúp con người nhận ra có điều gì đó đã bị mất. Điều nguy hiểm hơn là khi mô hình ghi nhớ đủ nhiều, trả lời đủ tự nhiên, khiến con người dần không còn cần tiếp xúc với bản gốc của nền văn minh.

Ký ức của nhân loại về nền văn minh của chính mình bắt đầu bị sàng lọc bởi một số ít công ty.

AI sẽ không quên nền văn minh nhân loại, nhưng AI có thể chỉ ghi nhớ nền văn minh thay cho con người theo cách mà một số ít tinh hoa công nghệ mong muốn.

Liên kết gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia