Tiêu đề gốc: "Chủ nghĩa lạc quan về công nghệ của tôi"

Tác giả gốc: Vitalik

Tác giả gốc: Luccy, BlockBeats

Ghi chú của biên tập viên:

Người ta thường nói về tác động của tiến bộ công nghệ đối với tương lai. Tháng trước, "Tuyên bố lạc quan về công nghệ" của Marc Andreessen phản đối rõ ràng nỗi lo sợ về tiến bộ công nghệ. Ngoài tranh chấp do OpenAI gây ra trong tháng này, chủ đề này một lần nữa trở thành chủ đề nóng.

Vitalik Buterin phản đối tâm lý "ưu tiên duy trì tình trạng hiện tại của thế giới" và chỉ ra rằng phát triển công nghệ không chỉ cần tập trung vào cường độ mà còn phải tập trung vào phương hướng. Trong bài viết mới nhất của mình, ông đã thảo luận sâu sắc về sự giao thoa giữa trí tuệ nhân tạo và blockchain, đồng thời đề xuất khái niệm “d/acc” (tăng tốc phi tập trung). Ông tin rằng với sự phát triển nhanh chóng của công nghệ, sự xuất hiện của trí tuệ nhân tạo có thể trở thành một trong những thách thức lớn nhất mà nhân loại phải đối mặt, nhưng nó cũng đề xuất một con đường phát triển nhân văn và phi tập trung hơn.

Các chủ đề trong bài viết bao gồm bảo vệ thông tin, công nghệ xã hội, hợp tác giữa con người và máy tính và các khía cạnh khác, nêu bật tầm quan trọng của việc tích cực chỉ đạo định hướng phát triển công nghệ. Trong một bối cảnh triết học khác, Vitalik ủng hộ một thái độ vừa tích cực vừa thận trọng, kêu gọi các nhà phát triển chú ý hơn đến các lựa chọn và ý định khi xây dựng công nghệ để đảm bảo sự phát triển của công nghệ phù hợp với giá trị con người và lâu dài. -lợi ích có kỳ hạn.

Đặc biệt cảm ơn Morgan Beller, Juan Benet, Eli Dourado, Sriram Krishnan, Nate Soares, Jaan Tallinn, Vincent Weisser, tình nguyện viên Balvi và những người khác vì những phản hồi và đánh giá của họ .

Tháng trước, Marc Andreessen đã xuất bản "tuyên ngôn lạc quan về công nghệ" của mình, kêu gọi sự nhiệt tình đổi mới đối với công nghệ đồng thời ủng hộ các phương tiện theo định hướng thị trường và tư bản chủ nghĩa để xây dựng công nghệ thúc đẩy nhân loại hướng tới một tương lai tươi sáng hơn. Tuyên ngôn bác bỏ rõ ràng cái gọi là tâm lý trì trệ, đó là nỗi sợ hãi về tiến bộ công nghệ và ưu tiên giữ cho thế giới như ngày nay. Tuyên ngôn đã nhận được sự chú ý rộng rãi, bao gồm cả phản hồi từ Noah Smith, Robin Hanson, Joshua Gans (tích cực), Dave Karpf, Luca Ropek, Ezra Klein (tiêu cực hơn) và những người khác. Mặc dù không liên quan trực tiếp đến tuyên ngôn, nhưng các chủ đề tương tự bao gồm “Chủ nghĩa tương lai bảo thủ” của James Pethokoukis và “Đã đến lúc xây dựng vì điều tốt đẹp” của Palladium. Chúng ta đang chứng kiến một cuộc tranh luận tương tự trong tháng này với tranh chấp về OpenAI, với phần lớn cuộc thảo luận tập trung vào sự nguy hiểm của trí tuệ siêu nhân tạo và khả năng OpenAI có thể phát triển quá nhanh.

Cảm giác của tôi về sự lạc quan về công nghệ rất ấm áp và nhiều sắc thái. Tôi tin rằng tương lai sẽ tươi sáng hơn hiện tại nhờ những công nghệ thay đổi hoàn toàn, đồng thời tôi cũng tin vào con người và nhân loại. Tôi phản đối quan điểm cho rằng chúng ta nên cố gắng giữ cho thế giới về cơ bản giống như ngày nay, chỉ cần bớt tham lam hơn và chăm sóc sức khỏe cộng đồng nhiều hơn. Nhưng trên cơ sở này, tôi nghĩ không chỉ bằng cấp quan trọng mà phương hướng cũng rất quan trọng. Một số loại công nghệ nhất định có thể trực tiếp làm cho thế giới trở thành một nơi tốt đẹp hơn, trong khi một số loại, nếu được phát triển, có thể giảm thiểu tác động tiêu cực của các loại công nghệ khác. Hiện nay, thế giới đang đầu tư quá mức vào một số hướng phát triển công nghệ và chưa đầu tư đủ vào các hướng khác. Chúng ta cần tỉnh táo lựa chọn hướng đi mình muốn vì công thức “tối đa hóa lợi nhuận” không tự động dẫn đến những hướng đi này.

Trong bài viết này, tôi sẽ thảo luận về tác động của sự lạc quan về công nghệ đối với tầm quan trọng của tôi . Điều này bao gồm thế giới quan rộng hơn đã truyền cảm hứng cho công việc của tôi về một số loại ứng dụng blockchain và mật mã, công nghệ xã hội và các lĩnh vực khoa học khác mà tôi quan tâm. Nhưng những quan điểm khác nhau về vấn đề này cũng có ý nghĩa quan trọng đối với trí tuệ nhân tạo và nhiều lĩnh vực khác. Tiến bộ công nghệ nhanh chóng của chúng ta có thể sẽ trở thành vấn đề xã hội quan trọng nhất của thế kỷ 21, vì vậy việc suy nghĩ cẩn thận về vấn đề này là điều hợp lý.

Công nghệ thật tuyệt vời và việc trì hoãn sự phát triển của nó có thể cực kỳ tốn kém.

Ở một số lĩnh vực, người ta thường đánh giá thấp lợi ích của công nghệ, coi nó như một điều không tưởng và là nguồn tiềm ẩn những rủi ro. Trong nửa thế kỷ qua, quan điểm này thường được thúc đẩy bởi những lo ngại về môi trường hoặc lo ngại rằng lợi ích của công nghệ sẽ chỉ đến với người giàu, củng cố quyền lực của họ đối với người nghèo. Gần đây, tôi cũng nhận thấy rằng một số người theo chủ nghĩa tự do lo lắng về một số công nghệ nhất định có thể dẫn đến sự tập trung quyền lực. Trong tháng này, tôi đã thực hiện một số nghiên cứu về câu hỏi sau: Nếu một công nghệ cần bị hạn chế vì nó quá nguy hiểm, thì mọi người muốn độc quyền hay trì hoãn nó trong một thập kỷ? Thật ngạc nhiên, trên ba nền tảng và ba tùy chọn trạng thái độc quyền, mọi người đều nhất trí và mạnh mẽ chọn việc trì hoãn.

Vì vậy, đôi khi tôi lo lắng rằng chúng ta có thể đang sửa chữa quá mức và nhiều người đang bỏ sót một khía cạnh khác của cuộc tranh luận: lợi ích của công nghệ thực sự rất lớn, ở những lĩnh vực mà chúng ta có thể đo lường chúng, những tác động tích cực vượt xa những tác động tiêu cực, và cái giá phải trả cho việc trì hoãn dù chỉ một thập kỷ là không thể tính toán được.

Để đưa ra một ví dụ cụ thể, chúng ta hãy nhìn vào biểu đồ tuổi thọ:

Chúng ta thấy gì? Trong thế kỷ qua, đã có những tiến bộ thực sự to lớn. Điều này áp dụng cho toàn thế giới, cả những khu vực giàu có và thống trị trong lịch sử cũng như những khu vực nghèo và bị bóc lột.

Một số người đổ lỗi cho công nghệ đã tạo ra hoặc làm trầm trọng thêm các thảm họa, chẳng hạn như chế độ toàn trị và chiến tranh. Trên thực tế, chúng ta có thể thấy trên biểu đồ số người chết do chiến tranh: trong Thế chiến thứ nhất (những năm 1910) và trong Thế chiến thứ hai (những năm 1940). Nếu để ý kỹ, bạn cũng có thể thấy những thảm họa phi quân sự như Cúm Tây Ban Nha và Bước nhảy vọt vĩ đại. Nhưng biểu đồ cho thấy một điều rõ ràng: Ngay cả khi những thảm họa đó khủng khiếp đến mức nào, chúng vẫn bị choáng ngợp bởi quy mô tuyệt đối của những cải tiến được thực hiện về thực phẩm, vệ sinh, y học và cơ sở hạ tầng trong thế kỷ đó.

Điều này phù hợp với những cải thiện đáng kể trong cuộc sống hàng ngày của chúng ta. Nhờ có Internet, hầu hết mọi người trên thế giới giờ đây có thể dễ dàng tiếp cận những thông tin mà chỉ hai thập kỷ trước không thể tiếp cận được. Nền kinh tế toàn cầu đã trở nên dễ tiếp cận hơn nhờ những cải thiện trong thanh toán và tài chính quốc tế. Tình trạng nghèo đói toàn cầu đang giảm nhanh chóng. Với bản đồ trực tuyến, chúng ta không còn phải lo lắng về việc bị lạc trong thành phố nữa và giờ đây chúng ta có cách gọi xe dễ dàng hơn nếu cần về nhà nhanh chóng. Tài sản của chúng ta đã trở thành đồ vật kỹ thuật số và vật lý trở nên rẻ hơn, điều đó có nghĩa là chúng ta không còn lo lắng nhiều về hành vi trộm cắp vật lý nữa. Mua sắm trực tuyến đã làm giảm sự bất bình đẳng trong khả năng tiếp cận hàng hóa giữa các thành phố lớn trên toàn cầu và phần còn lại của thế giới. Ở mọi khía cạnh, tự động hóa mang lại cho chúng ta lợi ích luôn bị đánh giá thấp đó là chỉ đơn giản là làm cho cuộc sống của chúng ta thuận tiện hơn.

Những cải tiến này, cả có thể định lượng và không thể định lượng, đều rất lớn. Và trong thế kỷ 21, rất có thể những cải tiến lớn hơn nữa sẽ sớm ra mắt. Ngày nay, việc chấm dứt lão hóa và bệnh tật dường như là một khái niệm không tưởng. Nhưng từ góc nhìn của máy tính vào năm 1945, kỷ nguyên hiện đại của việc nhúng chip vào hầu hết mọi thứ đã từng là điều không tưởng, xét cho cùng, ngay cả những chiếc máy tính trong phim khoa học viễn tưởng cũng thường có kích thước bằng một căn phòng. Nếu công nghệ sinh học tiến bộ trong 75 năm tới giống như máy tính đã tiến bộ trong 75 năm qua, thì tương lai có thể còn ấn tượng hơn hầu hết mọi người mong đợi.

Đồng thời, một số lập luận hoài nghi về sự tiến bộ thường đi theo hướng đen tối. Ngay cả những cuốn sách giáo khoa y khoa, chẳng hạn như cuốn sách này từ những năm 1990 (cảm ơn Emma Szewczak vì đã tìm ra nó), đôi khi đưa ra những tuyên bố cực đoan phủ nhận giá trị của hai thế kỷ khoa học y tế và thậm chí còn cho rằng cứu sống con người không phải là điều Tốt:

"Tăng trưởng "Lý thuyết giới hạn" là quan điểm được đề xuất vào những năm 1970 rằng dân số và công nghiệp ngày càng tăng cuối cùng sẽ làm cạn kiệt nguồn tài nguyên hạn chế của trái đất, dẫn đến chính sách một con của Trung Quốc và tình trạng triệt sản cưỡng bức trên quy mô lớn ở Ấn Độ. Trong thời gian trước đó, những lo ngại về dân số quá đông được sử dụng để biện minh cho việc giết người hàng loạt. Và những ý tưởng này, được phát triển từ năm 1798, đã được chứng minh là sai trong một thời gian dài.

Chính vì những lý do này mà tôi trở nên rất khó chịu với những lập luận ủng hộ việc làm chậm tiến bộ công nghệ hoặc con người. Ngay cả sự chậm lại của các ngành cũng có thể nguy hiểm do các lĩnh vực này có mối liên hệ chặt chẽ với nhau như thế nào. Vì vậy, với một trái tim nặng trĩu, tôi nói với một trái tim nặng trĩu khi viết những gì tôi sẽ khám phá tiếp theo, rời khỏi quan điểm cởi mở để tiến bộ dưới bất kỳ hình thức nào. Tuy nhiên, thế kỷ 21 rất khác biệt và độc đáo nên những điều tinh tế này đáng được xem xét.

Như đã nói, xét về câu hỏi rộng hơn, đặc biệt là khi chúng ta chuyển từ "công nghệ nhìn chung có tốt không" sang "công nghệ cụ thể nào tốt?" Nói về chủ đề này, có một sắc thái quan trọng cần được chỉ ra: môi trường.

Tầm quan trọng của môi trường và sự sẵn sàng phối hợp

Trong một trăm năm qua, gần như tất cả các khía cạnh Tiến bộ đang được thực hiện, ngoại trừ biến đổi khí hậu:

Ngay cả những kịch bản bi quan về nhiệt độ tăng cao cũng không thể dẫn đến sự tuyệt chủng thực sự của loài người. Nhưng một kịch bản như vậy có thể giết chết nhiều người hơn một cuộc chiến tranh lớn và có thể gây tổn hại nghiêm trọng đến sức khỏe cũng như sinh kế của người dân ở những khu vực vốn đã gặp khó khăn nhất. Một nghiên cứu của Viện Swiss Re cho thấy kịch bản biến đổi khí hậu trong trường hợp xấu nhất có thể làm giảm tới 25% tổng sản phẩm quốc nội của các nước nghèo nhất thế giới. Nghiên cứu cũng lưu ý rằng tuổi thọ ở vùng nông thôn Ấn Độ có thể thấp hơn một thập kỷ so với dự kiến ban đầu, trong khi các nghiên cứu như thế này và nghiên cứu này cho thấy biến đổi khí hậu có thể khiến thêm 100 triệu người tử vong vào cuối thế kỷ này.

Những vấn đề này rất nghiêm trọng. Câu trả lời cho lý do tại sao tôi lạc quan về khả năng vượt qua những thách thức này của chúng ta có hai mặt. Đầu tiên, sau nhiều thập kỷ cường điệu và mơ tưởng, năng lượng mặt trời cuối cùng cũng đã bước sang một chặng đường mới và các công nghệ hỗ trợ như pin cũng đang đạt được tiến bộ tương tự. Thứ hai, chúng ta có thể nhìn vào thành tích của nhân loại trong việc giải quyết các vấn đề môi trường trước đây, lấy ô nhiễm không khí làm ví dụ. Dystopias của quá khứ: Sương mù London năm 1952 London.

Xảy ra kể từ đó Gì? Chúng tôi đã hỏi lại Our World In Data:

Hóa ra, năm 1952 thậm chí còn không phải là đỉnh điểm của ô nhiễm không khí: nồng độ chất ô nhiễm không khí cao hơn thậm chí còn được coi là bình thường và chấp nhận được vào cuối thế kỷ 19. Kể từ đó, chúng ta đã chứng kiến tình trạng ô nhiễm không khí giảm nhanh chóng và bền vững trong suốt một thế kỷ. Tôi đã trực tiếp trải nghiệm quá trình này, khi tôi đến thăm Trung Quốc vào năm 2014, không khí tràn ngập khói bụi đến mức không có gì lạ khi ước tính tuổi thọ sẽ bị rút ngắn hơn 5 năm, nhưng vào năm 2020, không khí thường trông giống như vậy. sạch sẽ như ở nhiều thành phố phương Tây. Đây không phải là câu chuyện thành công duy nhất của chúng tôi. Ở nhiều nơi trên thế giới, diện tích rừng ngày càng tăng. Cuộc khủng hoảng mưa axit đang được cải thiện. Tầng ozone đã được phục hồi trong nhiều thập kỷ.

Đối với tôi, ý nghĩa của câu chuyện này là đôi khi phiên bản công nghệ thứ N mà nền văn minh của chúng ta có gây ra vấn đề và Phiên bản N+1 sẽ khắc phục vấn đề đó. Tuy nhiên, điều này không xảy ra một cách tự động và đòi hỏi sự nỗ lực có ý thức của con người. Tầng ozone đang phục hồi vì chúng ta đã đưa nó trở lại thông qua các hiệp định quốc tế như Nghị định thư Montreal. Ô nhiễm không khí đang được cải thiện bởi vì chúng ta đang làm cho nó tốt hơn. Tương tự như vậy, các tấm pin mặt trời đã đạt được những bước tiến lớn không phải vì chúng là một phần định mệnh của cây công nghệ năng lượng, mà bởi vì hàng thập kỷ nhận thức được tầm quan trọng của việc giải quyết vấn đề biến đổi khí hậu đã truyền cảm hứng cho các kỹ sư nghiên cứu vấn đề này và các Công ty cũng như chính phủ tài trợ cho nghiên cứu của họ. Việc giải quyết những vấn đề này đạt được thông qua hành động có ý thức, định hình quan điểm của chính phủ, nhà khoa học, nhà từ thiện và doanh nghiệp thông qua diễn ngôn và văn hóa công cộng, chứ không phải là "cỗ máy vốn công nghệ" không thể ngăn cản.

Trí tuệ nhân tạo về cơ bản khác với các công nghệ khác và cần được chăm sóc đặc biệt

Tôi thấy Phần lớn Quan điểm bác bỏ về AI xuất phát từ quan điểm cho rằng nó chỉ là “một công nghệ khác”: cùng loại với mạng xã hội, mã hóa, biện pháp tránh thai, điện thoại, máy bay, súng, in ấn và bánh xe. Những điều này rõ ràng có tác động đáng kể đến xã hội. Chúng không chỉ là những cải thiện riêng lẻ đối với hạnh phúc cá nhân, mà chúng còn thay đổi căn bản văn hóa, thay đổi cán cân quyền lực và gây tổn hại cho những người phụ thuộc nhiều vào trật tự trước đó. Nhiều người chống lại họ. Nhìn chung, những người bi quan luôn được chứng minh là sai.

Nhưng có một cách nhìn khác về trí tuệ nhân tạo, đó là nó là một kiểu tư duy mới đang nhanh chóng cải thiện trình độ trí tuệ và thậm chí có thể vượt qua trí thông minh của con người và trở thành loài hàng đầu mới của hành tinh. Theo cách tiếp cận này, những thứ nhỏ hơn nhiều đều được đề cập đến, bao gồm con người vượt qua khỉ, sinh vật đa bào vượt qua sinh vật đơn bào, nguồn gốc của sự sống và có lẽ là Cách mạng Công nghiệp, trong đó các thiết bị cơ khí vượt qua sức mạnh vật lý của Nhân loại. Đột nhiên, chúng tôi có cảm giác như đang bước đi trong một lãnh địa xa lạ.

Điều quan trọng là có những rủi ro

Các vấn đề với AI có thể khiến thế giới trở nên tồi tệ hơn nơi Trường hợp xấu nhất (một rủi ro gần như đau đớn) là nó thực sự có thể dẫn đến sự tuyệt chủng của loài người. Đây là một tuyên bố cực đoan: mặc dù những kịch bản xấu nhất từ biến đổi khí hậu, đại dịch do con người gây ra, hay chiến tranh hạt nhân có thể gây ra thiệt hại lớn, nhưng vẫn còn rất nhiều “hòn đảo” văn minh sẽ còn nguyên vẹn để nhặt những mảnh vỡ. Nhưng nếu một AI siêu thông minh quyết định chống lại chúng ta, rất có thể sẽ không còn ai sống sót, loài người sẽ bị diệt vong vĩnh viễn. Ngay cả sao Hỏa cũng có thể không an toàn.

các bước mà mục tiêu có thể thực hiện là (i) sử dụng nguồn lực và (ii) đảm bảo an toàn cho chính mục tiêu đó. Trái đất chứa đựng nguồn tài nguyên khổng lồ và con người là mối đe dọa có thể dự đoán được đối với an ninh của một thực thể như vậy. Chúng ta có thể cố gắng đặt ra cho AI một mục tiêu rõ ràng, đó là yêu thương và bảo vệ con người, nhưng chúng ta không biết làm thế nào để thực hiện điều đó sao cho không hoàn toàn suy sụp khi AI gặp phải điều gì đó bất ngờ. Vậy là chúng ta đang phải đối mặt với một vấn đề.

FVcWHxjVIAA2Pyl

Nhà nghiên cứu Rob Bensinger của MIRI đã cố gắng minh họa bằng đồ họa ước tính của những người khác nhau về xác suất AI sẽ giết chết tất cả mọi người hoặc làm điều gì đó gần như tồi tệ như nhau. Nhiều quan điểm chỉ là ước tính sơ bộ dựa trên tuyên bố công khai của người dân, nhưng nhiều quan điểm khác đã công khai đưa ra ước tính chính xác của mình; nhiều người đặt “xác suất hủy diệt” trên 25%.

Một cuộc khảo sát năm 2022 với các nhà nghiên cứu về máy học cho thấy rằng một nhà nghiên cứu trung bình tin rằng có 5-10% khả năng trí tuệ nhân tạo sẽ thực sự giết chết tất cả chúng ta, gần tương đương đến khả năng tử vong được dự đoán theo thống kê của bạn do các nguyên nhân phi sinh học (chẳng hạn như chấn thương).

Đây chỉ là giả thuyết suy đoán và tất cả chúng ta nên cảnh giác với những giả thuyết suy đoán liên quan đến những câu chuyện phức tạp, nhiều bước. Tuy nhiên, những lập luận này đã tồn tại hơn một thập kỷ được xem xét kỹ lưỡng và do đó, dường như đáng được quan tâm nhẹ nhàng. Nhưng ngay cả khi bạn không lo lắng về sự tuyệt chủng thực sự thì vẫn có những lý do khác để lo lắng.

Ngay cả khi chúng ta sống sót, liệu tương lai của AI siêu thông minh có phải là thế giới mà chúng ta muốn sống?

Nhiều tiểu thuyết khoa học viễn tưởng hiện đại mô tả những viễn cảnh đen tối và miêu tả trí tuệ nhân tạo dưới góc nhìn thiếu sáng. Ngay cả khi các tác phẩm phi khoa học viễn tưởng cố gắng khám phá tương lai của trí tuệ nhân tạo, các câu trả lời thường khá không thỏa đáng. Vì vậy, tôi đã hỏi xung quanh và hỏi về những mô tả về một tương lai bao gồm AI siêu thông minh, dù là khoa học viễn tưởng hay không, và liệu chúng ta có muốn sống trong đó hay không. Cho đến nay, câu trả lời phổ biến nhất là loạt phim Civilization của Iain Banks.

"Loạt phim Nền văn minh" mô tả một nền văn minh xa xôi giữa các vì sao, chủ yếu bao gồm hai nhân vật: con người bình thường và AI siêu thông minh được gọi là "tâm lý". Con người có một chút biến đổi, và mặc dù về mặt lý thuyết, công nghệ y tế cho phép con người sống vô thời hạn, nhưng hầu hết chỉ chọn sống khoảng 400 năm, dường như vì họ đã chán cuộc sống vào thời điểm đó.

Nhìn bề ngoài, cuộc sống của con người có vẻ tốt: thoải mái, các vấn đề về sức khỏe được giải quyết, các lựa chọn giải trí phong phú và mối liên hệ tốt đẹp giữa con người và "tâm trí" Ở đó là mối quan hệ tích cực và hợp tác. Tuy nhiên, xem xét kỹ hơn sẽ phát hiện ra một vấn đề: có vẻ như “tâm trí” hoàn toàn kiểm soát mọi thứ, và vai trò duy nhất của con người trong truyện là đóng vai trò là con tốt của “tâm trí” và thay mặt họ thực hiện các nhiệm vụ.

Trích dẫn từ cuốn sách Chống lại nền văn minh của Gavin Leech :

Mặc dù cuốn sách dường như có nhân vật chính là con người, họ làm những việc lớn lao và nghiêm túc, nhưng con người không phải là nhân vật chính của câu chuyện, thực tế họ là tác nhân của trí tuệ nhân tạo. (Zakalwe là một trong những trường hợp ngoại lệ duy nhất, vì anh ta có thể làm những điều trái đạo đức mà Tâm trí không muốn làm.) "Tâm trí trong loạt phim Civilization không cần con người, nhưng con người khao khát được cần đến." ” (Tôi nghĩ chỉ cần một thiểu số con người, hoặc một thiểu số trong số họ đủ thiếu thốn để từ bỏ nhiều tiện nghi. Hầu hết con người không sống ở mức độ này. Đây vẫn là một lời chỉ trích tốt.)

Các dự án do con người thực hiện tiềm ẩn những rủi ro phi thực tế. Máy móc có thể làm hầu hết mọi thứ tốt hơn. Bạn có thể làm gì? Bạn có thể ra lệnh cho tâm trí của mình không bắt được bạn khi bạn rơi xuống vực; bạn có thể xóa bản sao lưu bộ não của mình và khiến bản thân gặp nguy hiểm thực sự. Bạn cũng có thể rời bỏ nền văn minh và gia nhập một số nền văn minh lỗi thời, phi tự do "được đánh giá cao". Hoặc truyền bá về sự tự do bằng cách tham gia Liên hệ.

Tôi nghĩ ngay cả việc giao cho con người một vai trò "có ý nghĩa" trong loạt phim Civilization cũng là một điều quá đáng; tôi đã hỏi ChatGPT (còn ai nữa?) tại sao Con người lại được giao những vai trò như vậy; chơi, thay vì "tâm trí" tự mình làm tất cả, điều mà cá nhân tôi thấy là một câu trả lời khá đáng thất vọng. Trong một thế giới bị thống trị bởi AI siêu thông minh “thân thiện”, có vẻ khó có thể cho phép con người phục vụ như bất kỳ thứ gì khác ngoài thú cưng.

Những gì tôi không làm muốn nhìn thế giới.

Nhiều bộ truyện khoa học viễn tưởng khác mô tả một thế giới nơi tồn tại AI siêu thông minh, nhưng những AI này tuân theo mệnh lệnh của bậc thầy sinh học (không được nâng cấp) là con người. Star Trek là một ví dụ tuyệt vời về tầm nhìn về sự hài hòa giữa một phi thuyền và "máy tính" AI (và Dữ liệu) của nó cũng như phi hành đoàn con người điều hành nó. Tuy nhiên, sự cân bằng này dường như rất không ổn định. Thế giới của Star Trek ở hiện tại có vẻ dễ chịu, nhưng thật khó để tưởng tượng tầm nhìn của nó về mối quan hệ giữa trí tuệ nhân tạo và loài người như bất kỳ thứ gì khác ngoài một thế giới nơi các phi thuyền hoàn toàn được điều khiển bằng máy tính, không ồn ào về hành lang, trọng lực nhân tạo, hoặc kiểm soát khí hậu giai đoạn chuyển tiếp mười năm.

Trong tình huống như vậy, việc con người ra lệnh cho một cỗ máy siêu thông minh sẽ khiến con người kém thông minh hơn nhiều so với cỗ máy và có ít thông tin hơn. Trong một vũ trụ mà sự cạnh tranh tồn tại ở bất kỳ mức độ nào, những nền văn minh mà con người đóng vai trò thứ yếu sẽ vượt trội hơn những nền văn minh mà con người ngoan cố đòi quyền kiểm soát. Ngoài ra, bản thân máy tính có thể chiếm quyền kiểm soát. Để hiểu lý do tại sao, hãy tưởng tượng bạn là nô lệ theo đúng nghĩa đen của một đứa trẻ tám tuổi. Nếu bạn có thể trò chuyện lâu với một đứa trẻ, bạn có nghĩ rằng bạn có thể thuyết phục được đứa trẻ ký vào một tờ giấy giải phóng bạn không? Mặc dù tôi chưa tiến hành thí nghiệm này nhưng câu trả lời trực quan của tôi là có. Vì vậy, về tổng thể, con người trở thành thú cưng dường như là một điểm thu hút rất khó thoát mà không cần phải lo lắng về việc thiết kế hội trường, trọng lực nhân tạo và kiểm soát khí hậu.

Trời gần, hoàng đế ở khắp mọi nơi

Tục ngữ Trung Quốc “Trời cao hoàng đế còn rất xa" thể hiện sự tập trung chính trị những sự thật cơ bản về những hạn chế của quá trình hóa. Ngay cả trong các đế chế chuyên quyền và lớn trên danh nghĩa - trên thực tế, và đặc biệt là ở các đế chế chuyên quyền lớn hơn - vẫn có những giới hạn thực tế đối với ảnh hưởng và sự chú ý của giới lãnh đạo, bị suy yếu do nhu cầu lãnh đạo giao phó cho các đặc vụ địa phương thực thi ý chí về khả năng của họ. thực hiện ý định của mình, do đó sẽ luôn có một mức độ tự do thực tế nhất định. Đôi khi điều này có thể gây ra những tác động bất lợi: việc thiếu các quốc gia xa xôi thực thi các nguyên tắc và luật pháp thống nhất có thể tạo ra không gian cho các lãnh chúa địa phương cướp bóc và áp bức. Nhưng nếu quyền lực trung tâm suy giảm, những giới hạn thực tế về sự chú ý và khoảng cách có thể đặt ra những giới hạn thực tế về mức độ tồi tệ mà nó có thể xảy ra.

Trong thời đại trí tuệ nhân tạo, điều này không còn đúng nữa. Trong thế kỷ 20, công nghệ giao thông hiện đại đã khiến cho việc hạn chế khoảng cách trở nên kém hiệu quả hơn trước đối với quyền lực trung ương; các đế quốc toàn trị quy mô lớn vào những năm 1940 một phần là kết quả của việc này. Trong thế kỷ 21, việc thu thập và tự động hóa thông tin có thể mở rộng có thể đồng nghĩa với việc sự chú ý sẽ không còn là một hạn chế nữa. Sự biến mất hoàn toàn các giới hạn tự nhiên đối với sự tồn tại của chính phủ có thể gây ra những hậu quả thảm khốc.

Chủ nghĩa độc tài kỹ thuật số đã gia tăng trong một thập kỷ và công nghệ giám sát đã mang lại cho các chính phủ độc tài một chiến thuật mới mạnh mẽ để đàn áp phe đối lập: cho phép các cuộc biểu tình diễn ra, và sau đó Phát hiện và âm thầm hành động chống lại người tham gia sau khi sự việc xảy ra. Điều tôi thực sự lo lắng là loại công nghệ quản lý tương tự được OpenAI sử dụng, cho phép nó phục vụ hơn 100 triệu khách hàng với 500 nhân viên, cũng sẽ tạo ra một tầng lớp chính trị gồm 500 người, hoặc thậm chí một hội đồng gồm 5 người, rất quan trọng đối với cả nước. Với công nghệ giám sát hiện đại để thu thập thông tin và trí tuệ nhân tạo hiện đại để giải thích thông tin, có thể không còn nơi ẩn náu nữa.

Tình hình sẽ trở nên tồi tệ hơn khi chúng ta xem xét hậu quả của trí tuệ nhân tạo trong chiến tranh. Dịch từ một bài viết Sohu bán nổi tiếng năm 2019, với công nghệ giám sát hiện đại để thu thập thông tin, kết hợp với trí tuệ nhân tạo hiện đại để diễn giải, có lẽ không còn nơi nào để trốn nữa.

"Không cần công tác chính trị tư tưởng và động viên thời chiến" chủ yếu có nghĩa là người chỉ huy cao nhất của cuộc chiến chỉ cần xem xét tình hình của bản thân cuộc chiến, chỉ cần như chơi cờ cũng vậy, không cần phải lo lắng xem các “hiệp sĩ” và “xe ngựa” trên bàn cờ hiện đang nghĩ gì. Cuộc chiến đã trở thành một cuộc cạnh tranh thuần túy về mặt kỹ thuật.

Ở mức độ sâu hơn, "công tác chính trị, tư tưởng và huy động thời chiến" yêu cầu bất kỳ ai tiến hành chiến tranh đều phải có lý do chính đáng. Không nên đánh giá thấp tầm quan trọng của việc có được sự biện minh, một khái niệm chi phối tính hợp pháp của chiến tranh trong xã hội loài người trong hàng nghìn năm. Bất cứ ai muốn bắt đầu một cuộc chiến tranh ít nhất phải tìm được một lý do hoặc lời bào chữa chính đáng. Bạn có thể cho rằng sự ràng buộc này là yếu bởi vì, về mặt lịch sử, nó thường chỉ là một cái cớ. Ví dụ, động cơ thực sự đằng sau các cuộc Thập tự chinh là cướp bóc và mở rộng lãnh thổ, tuy nhiên, chúng được thực hiện nhân danh Chúa, ngay cả khi mục tiêu là những người sùng đạo ở Constantinople. Tuy nhiên, ngay cả hạn chế yếu nhất vẫn là hạn chế! Lý do đơn thuần này thực sự ngăn cản các chiến binh hoàn toàn để mục tiêu của họ không bị kiểm soát. Ngay cả một kẻ độc ác như Hitler cũng không thể tiến hành chiến tranh mà không dè dặt; ông ta đã phải mất nhiều năm để thuyết phục người dân Đức về sự cần thiết của chủng tộc Aryan quý tộc để đấu tranh giành không gian sống của họ.

Ngày nay, "người dân lưu hành" như một biện pháp kiểm tra quan trọng đối với quyền lực của những kẻ độc tài trong việc gây chiến hoặc đàn áp công dân tại quê nhà. Những người trong vòng lặp đã ngăn chặn chiến tranh hạt nhân, giữ cho Bức tường Berlin mở và cứu mạng sống trong các hành động tàn bạo như Holocaust. Nếu quân đội được tạo thành từ robot, hạn chế này sẽ biến mất hoàn toàn. Một nhà độc tài có thể say rượu lúc 10 giờ tối, nổi điên lúc 11 giờ tối vì ai đó không tử tế với họ trên Twitter, và sau đó trước nửa đêm, một hạm đội xâm lược robot có thể vượt biên giới và tàn phá dân thường và cơ sở hạ tầng của một quốc gia láng giềng.

Khác với các thời đại trước, luôn có những góc xa, trời cao hoàng đế ở xa, nơi những kẻ chống chế độ có thể tổ chức lại và ẩn náu Và cuối cùng là tìm cách cải thiện mọi thứ. Tuy nhiên, với sự phát triển của trí tuệ nhân tạo trong thế kỷ 21, một chế độ toàn trị có thể vẫn bị “ngăn chặn” đủ mức bằng cách giám sát và kiểm soát thế giới đủ để không bao giờ thay đổi.

d/acc: Phòng thủ (hoặc phân tán hoặc khác biệt) Chủ nghĩa gia tốc

Trong quá khứ Trong vài tháng qua, phong trào "e/acc" ("người tăng tốc hiệu quả") đã có những bước tiến vượt bậc. "Beff Jezos" kết luận rằng e/acc về cơ bản là sự thừa nhận những lợi ích thực sự to lớn do tiến bộ công nghệ mang lại và mong muốn đẩy nhanh xu hướng này để đạt được những lợi ích này sớm hơn.

Trong nhiều tình huống, tôi thấy mình đồng cảm với quan điểm của e/acc. Có nhiều bằng chứng cho thấy FDA quá thận trọng trong việc trì hoãn hoặc ngăn chặn việc phê duyệt thuốc, và đạo đức sinh học nói chung dường như thường tuân theo nguyên tắc này: "Thật là một bi kịch khi 20 người chết trong một thí nghiệm thất bại, nhưng 200.000 người lại chết vì sự chậm trễ." Việc điều trị chỉ là một số liệu thống kê." Sự chậm trễ trong việc phê duyệt các xét nghiệm và vắc-xin COVID, cũng như vắc-xin sốt rét, dường như càng củng cố điều này. Tuy nhiên, quan điểm này có thể là quá nhiều để được ngưỡng mộ.

Ngoài những lo ngại liên quan đến AI, tôi còn cảm thấy đặc biệt mâu thuẫn về sự nhiệt tình của e/acc đối với công nghệ quân sự. Trong kịch bản năm 2023 hiện tại, nơi công nghệ này được sản xuất tại Hoa Kỳ và được sử dụng để bảo vệ Ukraine, có thể thấy rằng nó có thể đóng vai trò là một lực lượng tốt. Tuy nhiên, từ góc độ rộng hơn, sự nhiệt tình đối với công nghệ quân sự hiện đại dường như đòi hỏi niềm tin rằng những người thống trị lực lượng công nghệ trong hầu hết các cuộc xung đột đang và sẽ luôn là những người tốt, và rằng công nghệ quân sự là tốt vì công nghệ quân sự do Mỹ xây dựng và kiểm soát. , và nước Mỹ thì tốt. Việc trở thành e/acc có khiến bạn trở thành người Mỹ theo chủ nghĩa thượng đẳng không? Để đặt cược tất cả số tiền của bạn vào đạo đức hiện tại và tương lai của chính phủ cũng như sự thành công trong tương lai của đất nước?

Mặt khác, tôi nghĩ cần phải có những cách suy nghĩ mới về cách giảm thiểu những rủi ro này. Cơ cấu quản trị của OpenAI là một trường hợp điển hình: nó dường như là một nỗ lực có chủ đích nhằm cân bằng nhu cầu sinh lãi nhằm làm hài lòng các nhà đầu tư đã cung cấp vốn ban đầu, đồng thời tìm cách tạo ra một hệ thống kiểm tra và cân bằng để bảo vệ tắt những động thái đó Một động thái có thể dẫn đến việc OpenAI hủy diệt thế giới. Tuy nhiên, trên thực tế, nỗ lực sa thải Sam Altman gần đây của họ khiến cơ cấu này trông giống như một thất bại hoàn toàn: Nó tập trung quyền lực vào một ban giám đốc gồm năm người phi dân chủ, vô trách nhiệm, những người thực hiện mọi việc dựa trên thông tin bí mật và từ chối cung cấp. bất kỳ chi tiết nào cho đến khi bị đe dọa. Bằng cách nào đó, các hội đồng phi lợi nhuận đang hành xử tệ đến mức các nhân viên của công ty đã ngẫu hứng thành lập một liên minh để hỗ trợ CEO tỷ phú thay vì họ.

Nhìn chung, tôi thấy có quá nhiều kế hoạch giải cứu thế giới liên quan đến việc trao quyền lực cực đoan và không rõ ràng cho một số ít người và hy vọng họ sẽ sử dụng nó một cách khôn ngoan. Vì vậy, tôi thấy mình đang hướng tới một triết lý khác, một triết lý có những ý tưởng chi tiết về cách đối phó với rủi ro, nhưng lại tìm cách tạo ra và duy trì một thế giới dân chủ hơn và cố gắng tránh tập trung quyền lực như giải pháp đầu tiên cho các vấn đề. Triết lý này liên quan đến nhiều thứ hơn là AI và tôi sẽ sử dụng tên d/acc để chỉ triết lý này.

dacc3

Chữ "d" ở đây có thể tượng trưng cho nhiều thứ, đặc biệt là quốc phòng, phân quyền, dân chủ và khác biệt. Đầu tiên, hãy coi nó như một lời biện hộ, và sau đó chúng ta có thể thấy điều này liên quan đến những cách giải thích khác như thế nào.

Một thế giới có thể bảo vệ được, nơi y tế và quản trị dân chủ phát triển mạnh

Suy nghĩ về những hậu quả vĩ mô của công nghệ Một cách là nhìn vào sự cân bằng giữa phòng thủ và tấn công. Nói rộng ra, một số công nghệ khiến việc tấn công người khác trở nên dễ dàng hơn: bằng cách làm những việc đi ngược lại lợi ích của họ và khiến họ cảm thấy cần phải phản ứng. Trong khi các công nghệ khác giúp việc phòng thủ trở nên dễ dàng hơn mà không cần dựa vào các tác nhân tập trung lớn.

Một thế giới phòng thủ là một thế giới tốt đẹp hơn vì nhiều lý do. Tất nhiên, đầu tiên là những lợi ích trực tiếp của an ninh: ít người chết hơn, ít mất đi giá trị kinh tế hơn, ít lãng phí thời gian hơn vào các cuộc xung đột. Tuy nhiên, điều ít được đánh giá cao là một thế giới phòng thủ hơn sẽ tạo điều kiện cho các hình thức quản trị lành mạnh hơn, cởi mở hơn và tôn trọng tự do hơn phát triển dễ dàng hơn.

Một ví dụ rõ ràng là Thụy Sĩ. Thụy Sĩ thường được coi là quốc gia gần gũi nhất trong thế giới thực với một nền quản trị tự do cổ điển không tưởng. Một lượng lớn quyền lực được chuyển giao cho các tỉnh (gọi là "tiểu bang"), các quyết định quan trọng được quyết định thông qua trưng cầu dân ý và nhiều người dân địa phương thậm chí không biết tổng thống là ai. Làm thế nào một đất nước như vậy có thể tồn tại dưới những áp lực chính trị đầy thách thức? Một phần do chiến lược chính trị xuất sắc, nhưng một phần do địa lý cực kỳ phòng thủ được tạo ra bởi địa hình núi non.

Quốc kỳ là một lợi thế lớn, nhưng núi cũng vậy.

Một ví dụ khác là Zomia, đã nhận được sự chú ý rộng rãi trong cuốn sách mới "Nghệ thuật không bị thống trị" của James C Scott. Họ phần lớn đã duy trì được quyền tự do và độc lập, phần lớn nhờ vào địa hình đồi núi và thảo nguyên Á-Âu đóng vai trò là ví dụ mẫu mực cho một nền quản trị không tưởng. Cuộc thảo luận của Sarah Paine về các cường quốc hàng hải và lục địa cũng đưa ra quan điểm tương tự, mặc dù cô thích coi nước như một hàng rào phòng thủ hơn là những ngọn núi. Quả thực, sự kết hợp giữa sự dễ dàng của thương mại tự do và sự khó khăn trong việc bị xâm lược cưỡng bức, phổ biến ở Thụy Sĩ cũng như ở các quốc đảo, dường như là điều kiện lý tưởng cho sự phát triển của con người.

Khi đang tư vấn về các vòng cấp vốn Gitcoin Grants trong hệ sinh thái Ethereum, tôi đã phát hiện ra một hiện tượng liên quan. Ở Vòng 4, một trò hề đã nổ ra khi một số người hưởng lợi nhiều nhất là những người có ảnh hưởng trên Twitter, những đóng góp của họ được một số người coi là tích cực và những người khác coi là tiêu cực. Giải thích của tôi về điều này là có sự mất cân bằng: nguồn tài trợ thứ cấp cho phép bạn chỉ ra rằng bạn tin rằng thứ gì đó là hàng hóa công cộng, nhưng nó không cung cấp cách để chỉ ra rằng thứ gì đó gây phiền toái cho công chúng. Trong những trường hợp cực đoan, một hệ thống tài trợ thứ cấp hoàn toàn trung lập sẽ tài trợ cho cả hai bên trong cuộc chiến. Vì vậy, ở vòng 5, tôi đã đề xuất rằng Gitcoin nên bao gồm các khoản đóng góp tiêu cực: bạn trả 1 đô la để giảm số tiền tài trợ mà một dự án nhận được (và ngầm phân bổ lại nó cho tất cả các dự án khác), và kết quả là rất nhiều người không hài lòng. Với cái này.

Truyện lại sau hiệp thứ năm Một trong nhiều meme.

Đối với tôi, đây dường như là một biểu hiện vi mô của một mô hình lớn hơn: việc tạo ra các cơ chế quản trị phi tập trung để ứng phó với các tác động tiêu cực từ bên ngoài là một vấn đề rất quan trọng trong xã hội. Những câu hỏi khó. Ví dụ kinh điển về sai lầm trong quản trị phi tập trung thường là sự công bằng của đám đông. Có điều gì đó về tâm lý con người khiến việc giải quyết những điều tiêu cực trở nên khó khăn hơn nhiều và có nhiều khả năng gây ra vấn đề nghiêm trọng hơn là giải quyết những điều tích cực. Đây là lý do tại sao, ngay cả trong các tổ chức có tính dân chủ cao, quyền quyết định cách ứng phó với các vấn đề tiêu cực thường được giao cho ủy ban trung ương.

Trong nhiều trường hợp, tình thế tiến thoái lưỡng nan này là một trong những lý do cơ bản khiến khái niệm "tự do" lại có giá trị đến vậy. Nếu ai đó nói điều gì đó xúc phạm bạn hoặc có lối sống mà bạn thấy khó chịu thì nỗi đau và sự ghê tởm mà bạn cảm thấy là có thật và thậm chí bạn có thể cảm thấy rằng việc bị hành hung thể xác không tệ bằng việc phải đối mặt với những điều này. Nhưng cố gắng đồng ý về hành vi xúc phạm và đáng ghét được xã hội chấp nhận có thể phải trả giá đắt và nguy hiểm hơn là nhắc nhở bản thân rằng những kẻ lập dị và khốn nạn nhất định là cái giá chúng ta phải trả cho việc sống trong một xã hội tự do.

Tuy nhiên, vào những thời điểm khác, cách tiếp cận "nghiêm túc" là không thực tế. Trong trường hợp này, một giải pháp khác đôi khi đáng được xem xét là công nghệ phòng thủ. Internet càng an toàn thì chúng ta càng ít cần xâm phạm quyền riêng tư của người dân và sử dụng biện pháp ngoại giao quốc tế mờ ám để đối phó với các cá nhân tin tặc. Chúng ta càng có thể xây dựng các công cụ được cá nhân hóa để chặn mọi người trên Twitter, các công cụ trong trình duyệt để phát hiện gian lận và các công cụ tập thể để phân biệt tin đồn với sự thật, chúng ta càng ít phải tranh luận về kiểm duyệt. Chúng ta sản xuất vắc xin càng nhanh thì chúng ta càng ít phải đối phó với những kẻ siêu lây lan. Những giải pháp này sẽ không hiệu quả ở mọi lĩnh vực và chúng tôi chắc chắn không muốn thấy một thế giới mà mọi người đều phải mặc áo giáp thật, nhưng ở những lĩnh vực mà chúng tôi có thể tận dụng công nghệ để khiến thế giới trở nên phòng thủ hơn, việc làm này có giá trị rất lớn. Vì thế.

Ý tưởng cốt lõi rằng một số công nghệ tốt cho việc phòng thủ và đáng được phát triển, trong khi những công nghệ khác tốt cho việc tấn công và cần bị ngăn chặn, có nguồn gốc từ lòng vị tha hiệu quả, diễn ra theo những cách khác nhau. Tên tài liệu: Phát triển công nghệ khác biệt. Năm 2022, các nhà nghiên cứu tại Đại học Oxford đã giải thích rõ nguyên tắc này:

Hình 1: Cơ chế phát triển công nghệ khác biệt nhằm giảm tác động tiêu cực đến xã hội.

Chắc chắn sẽ có những sai sót khi phân loại công nghệ là tấn công, phòng thủ hay trung lập. Giống như “tự do”, người ta có thể tranh luận liệu các chính sách của chính phủ dân chủ xã hội có làm giảm quyền tự do bằng cách áp thuế nặng và ép buộc người sử dụng lao động hay không, hay liệu họ có tăng cường tự do bằng cách giảm bớt mối lo ngại của người dân về nhiều loại rủi ro như “tự do”, “phòng thủ” hay không. công nghệ có thể ở cả hai đầu của quang phổ. Vũ khí hạt nhân tốt cho tấn công, nhưng năng lượng hạt nhân tốt cho sự thịnh vượng của con người và trung lập giữa tấn công và phòng thủ. Các công nghệ khác nhau có thể hoạt động khác nhau trong các khung thời gian khác nhau. Nhưng giống như “tự do” (hay “bình đẳng” hay “luật pháp”), việc làm mờ đi các ranh giới không phải là một lập luận chống lại một nguyên tắc mà là một cơ hội để hiểu rõ hơn về sự tinh tế của nó.

Bây giờ, hãy xem chúng ta có thể áp dụng nguyên tắc này như thế nào để có cái nhìn toàn diện hơn về thế giới. Chúng ta có thể coi công nghệ quốc phòng giống như các công nghệ khác, được chia thành hai lĩnh vực: thế giới nguyên tử và thế giới bit. Thế giới nguyên tử có thể được chia thành vi mô (tức là sinh học và công nghệ nano sau này) và vĩ mô (tức là những gì chúng ta thường nghĩ là "phòng thủ", nhưng cũng bao gồm cơ sở hạ tầng vật chất kiên cường). Tôi chia thế giới bit theo các trục khác nhau: về nguyên tắc thì dễ dàng đồng ý, ai là kẻ tấn công? Đôi khi việc đó thật dễ dàng; tôi gọi đó là phòng thủ mạng. Những lúc khác thì khó khăn hơn; tôi gọi đó là bảo vệ thông tin.

Phòng thủ vật lý vĩ mô

Phòng thủ vật lý vĩ mô h2>

Công nghệ phòng thủ bị đánh giá thấp nhất trong phạm vi vĩ mô thậm chí không phải là Iron Dome (bao gồm cả hệ thống mới của Ukraine) và các phần cứng quân sự chống tên lửa và công nghệ phản công khác, nhưng có khả năng phục hồi cơ sở hạ tầng vật chất. Hầu hết số ca tử vong trong chiến tranh hạt nhân có thể đến từ sự gián đoạn chuỗi cung ứng chứ không phải do hậu quả và cú sốc ban đầu, và các giải pháp internet có cơ sở hạ tầng thấp như Starlink rất quan trọng để duy trì kết nối ở Ukraine trong một năm rưỡi qua.

Xây dựng các công cụ giúp con người tồn tại độc lập hoặc bán độc lập hoặc thậm chí thoải mái trong chuỗi cung ứng quốc tế dài hạn dường như là một công nghệ quốc phòng có giá trị và hữu ích cho người dùng Nguy cơ bị tấn công thấp.

Nhiệm vụ cố gắng biến nhân loại thành một nền văn minh đa hành tinh cũng có thể được nhìn từ góc độ d/acc: việc có ít nhất một số người có thể sống tự túc trên các hành tinh khác có thể tăng khả năng phục hồi của chúng ta trước các sự kiện khủng khiếp trên Trái đất. Ngay cả khi tầm nhìn đầy đủ hiện tại có vẻ không khả thi, có khả năng các dạng sống tự cung tự cấp cần được phát triển để hiện thực hóa dự án này có thể được sử dụng để giúp tăng khả năng phục hồi của nền văn minh của chúng ta trên Trái đất.

Phòng thủ vi vật lý (còn gọi là phòng thủ sinh học)

Đặc biệt do tác dụng lâu dài của nó ảnh hưởng sức khỏe, Covid vẫn là một mối quan tâm. Nhưng Covid còn lâu mới là đại dịch cuối cùng mà chúng ta sẽ phải đối mặt; nhiều khía cạnh của thế giới hiện đại có thể khiến nhiều đại dịch khác sắp xảy ra:

Thêm Mật độ dân số cao làm cho vi rút trong không khí và các mầm bệnh khác lây lan dễ dàng hơn. Các bệnh dịch còn tương đối mới trong lịch sử loài người, hầu hết đều bắt đầu từ quá trình đô thị hóa cách đây hàng nghìn năm. Quá trình đô thị hóa nhanh chóng đang diễn ra có nghĩa là mật độ dân số sẽ tăng hơn nữa trong nửa thế kỷ tới.

Việc di chuyển bằng đường hàng không ngày càng gia tăng đồng nghĩa với việc các mầm bệnh trong không khí có thể lây lan nhanh chóng trên khắp thế giới. Mọi người đang nhanh chóng trở nên giàu có hơn có nghĩa là việc đi lại bằng đường hàng không có thể sẽ tăng đáng kể trong nửa thế kỷ tới; mô hình phức tạp cho thấy rằng ngay cả những mức tăng nhỏ cũng có thể gây ra những hậu quả nghiêm trọng. Biến đổi khí hậu có thể làm tăng thêm nguy cơ này.

Việc thuần hóa động vật và chăn nuôi trong nhà máylà những yếu tố nguy cơ chính. Bệnh sởi có thể đã tiến hóa từ một loại virus ở bò cách đây chưa đầy 3.000 năm. Hoạt động chăn nuôi công nghiệp ngày nay cũng đang tạo ra các chủng vi-rút cúm mới (cũng như thúc đẩy tình trạng kháng thuốc kháng sinh, có tác động đến hệ thống miễn dịch bẩm sinh của con người).

Kỹ thuật sinh học hiện đạigiúp tạo ra các mầm bệnh mới độc hại hơn dễ dàng hơn. Covid có thể đã hoặc không bị rò rỉ từ một phòng thí nghiệm đang tiến hành nghiên cứu "nâng cao" có chủ ý. Bất chấp điều đó, rò rỉ trong phòng thí nghiệm vẫn xảy ra và các công cụ đang nhanh chóng được cải tiến, khiến việc cố tình tạo ra các loại virus cực kỳ nguy hiểm và thậm chí cả prion (protein zombie) trở nên dễ dàng hơn. Các bệnh dịch nhân tạo đặc biệt đáng lo ngại, một phần vì không giống như vũ khí hạt nhân, chúng không phải do nguyên nhân: Bạn có thể giải phóng một loại virus và không ai có thể biết ai đã tạo ra nó. Giờ đây, bạn có thể thiết kế trình tự gen, gửi nó đến phòng thí nghiệm ẩm ướt để tổng hợp và giao nó cho bạn trong vòng năm ngày.

Đây là một trong những lĩnh vực mà hai tổ chức CryptoRelief và Balvi được thành lập và tài trợ vào năm 2021 nhờ một lượng lớn tiền xu Shiba Inu. Ban đầu tập trung vào việc ứng phó với cuộc khủng hoảng trước mắt, CryptoRelief gần đây đã xây dựng một hệ sinh thái nghiên cứu y tế dài hạn ở Ấn Độ, trong khi Balvi tập trung vào các dự án hướng tới tương lai nhằm cải thiện khả năng phát hiện, ngăn ngừa và điều trị Covid cũng như các bệnh lây truyền qua đường không khí khác của chúng tôi. . ++Balvi khẳng định rằng các dự án được nó tài trợ phải áp dụng cách tiếp cận nguồn mở++. Lấy cảm hứng từ phong trào kỹ thuật thủy lực thế kỷ 19 nhằm đánh bại bệnh tả và các mầm bệnh lây truyền qua đường nước khác, quỹ này tài trợ cho các dự án trên nhiều phạm vi công nghệ có thể khiến thế giới mặc định trở nên kiên cường hơn trước các mầm bệnh trong không khí, bao gồm:

·Nghiên cứu và phát triển bức xạ tia UVC xa

·Lọc không khí và giám sát chất lượng cũng như giám sát chất lượng không khí ở Ấn Độ, Sri Lanka, Hoa Kỳ và những nơi khác

· Thiết bị kiểm tra chất lượng không khí phi tập trung giá rẻ và hiệu quả

· Nghiên cứu nguyên nhân Covid lâu dài và các phương án điều trị tiềm năng (nguyên nhân chính có thể đơn giản nhưng làm rõ cơ chế và việc tìm ra phương pháp điều trị còn khó khăn hơn)

· Vắc xin (ví dụ: RaDVaC, PopVax) và nghiên cứu chấn thương do vắc xin

· Một bộ công cụ y tế không xâm lấn mới

· Tận dụng phân tích dữ liệu nguồn mở để phân tích dịch tễ học Phát hiện sớm (ví dụ: EPIWATCH)

· Các xét nghiệm, bao gồm các xét nghiệm nhanh phân tử rất rẻ

· Mặt nạ an toàn sinh học khi các phương pháp khác thất bại

Các lĩnh vực nghiên cứu hứa hẹn khác bao gồm giám sát mầm bệnh trong nước thải, cải thiện quá trình lọc và thông gió trong các tòa nhà cũng như hiểu rõ hơn và giảm thiểu rủi ro do ô nhiễm không khí gây ra.

Cơ hội xây dựng một thế giới có khả năng chống chịu tốt hơn trước các dịch bệnh trong không khí tự nhiên và nhân tạo. Thế giới này sẽ có một quy trình được tối ưu hóa cao, trong đó chúng ta có thể tự động phát hiện một đợt bùng phát dịch bệnh ngay từ đầu và mọi người trên khắp thế giới có thể tiếp cận với các loại vắc xin nguồn mở có mục tiêu, được sản xuất tại địa phương và có thể kiểm chứng hoặc các biện pháp phòng ngừa khác trong vòng một tháng, thông qua sương mù. Dùng hóa chất hoặc xịt mũi (tức là tự dùng khi cần thiết, không cần tiêm). Đồng thời, chất lượng không khí tốt hơn sẽ giảm đáng kể tốc độ lây truyền và ngăn ngừa nhiều dịch bệnh bị dập tắt ngay từ giai đoạn đầu.

Hãy tưởng tượng một tương lai không phải dùng đến búa của sự ép buộc xã hội - không có mệnh lệnh và tệ hơn nữa là không có những thiết kế và thực thi rủi ro hơn Những mệnh lệnh xấu, điều này có thể làm cho tình hình còn tồi tệ hơn - bởi vì cơ sở hạ tầng y tế công cộng đã được dệt thành cơ cấu của nền văn minh. Một thế giới như vậy là có thể thực hiện được và với những khoản đầu tư khiêm tốn vào phòng thủ sinh học, điều đó có thể đạt được. Công việc sẽ suôn sẻ hơn nếu những phát triển này là nguồn mở, có sẵn miễn phí cho người dùng và được bảo vệ như hàng hóa công cộng.

Phòng thủ mạng, chuỗi khối và mật mã

Các chuyên gia bảo mật thường tin rằng hiện tại Nhà nước bảo mật máy tính khá tệ. Tuy nhiên, thật dễ dàng để đánh giá thấp những tiến bộ đã đạt được. Hàng chục tỷ đô la tiền điện tử có thể bị đánh cắp ẩn danh bởi bất kỳ ai có thể xâm nhập vào ví của người dùng và mặc dù tỷ lệ phần trăm bị đánh cắp hoặc bị đánh cắp lớn hơn nhiều so với tôi mong muốn, nhưng thực tế là hầu hết tiền điện tử đã không bị hack trong hơn một thập kỷ qua. một thập kỷ. Gần đây đã có một số cải tiến:

Chip phần cứng đáng tin cậy được tích hợp trong thiết bị, tạo ra một hệ điều hành bảo mật cao nhỏ gọn hơn một cách hiệu quả mà vẫn an toàn ngay cả khi phần còn lại của điện thoại bị hack. Những con chip này ngày càng được khám phá như một cách để tạo ra ví tiền điện tử an toàn hơn, một phần trong một số trường hợp sử dụng.

Trình duyệt đóng vai trò là hệ điều hành trên thực tế. Trong thập kỷ qua, đã có sự chuyển đổi lặng lẽ từ các ứng dụng có thể tải xuống sang các ứng dụng dựa trên trình duyệt. Điều này phần lớn là do WebAssugging (WASM). Ngay cả Adobe Photoshop, từ lâu được coi là một trong những lý do chính khiến nhiều người không thể thực sự sử dụng Linux do tính cần thiết và không tương thích với Linux, giờ đây đã thân thiện với Linux nhờ được nhúng vào trình duyệt. Đây cũng là một lợi thế lớn về bảo mật: mặc dù các trình duyệt có sai sót nhưng nhìn chung chúng cung cấp nhiều hộp cát hơn các ứng dụng đã cài đặt: ứng dụng không thể truy cập các tệp tùy ý trên máy tính của bạn.

Củng cố hệ điều hành. GrapheneOS cho thiết bị di động tồn tại và rất hữu dụng. Theo kinh nghiệm của tôi, phiên bản QubesOS dành cho máy tính để bàn cũng tồn tại; theo kinh nghiệm của tôi, nó hiện ít được sử dụng hơn Graphene, nhưng nó đang được cải thiện.

Hãy thử vượt xa mật khẩu. Mật khẩu khó bảo vệ vì chúng khó nhớ và có thể dễ dàng bị nghe lén. Gần đây, phong trào ngày càng gia tăng nhằm giảm sự phụ thuộc vào mật khẩu và làm cho xác thực đa yếu tố dựa trên phần cứng thực sự hoạt động.

Tuy nhiên, việc thiếu hệ thống phòng thủ mạng ở các lĩnh vực khác cũng dẫn đến những thất bại đáng kể. Nhu cầu bảo vệ khỏi thư rác đã khiến email trở nên rất đầu sỏ trong thực tế, gây khó khăn cho việc tự lưu trữ hoặc tạo nhà cung cấp email mới. Nhiều ứng dụng trực tuyến, bao gồm cả Twitter, yêu cầu người dùng đăng nhập để truy cập nội dung và chặn địa chỉ IP bằng VPN, khiến việc truy cập Internet theo cách bảo vệ quyền riêng tư trở nên khó khăn hơn. Việc tập trung hóa phần mềm cũng tiềm ẩn rủi ro vì “sự phụ thuộc lẫn nhau được vũ khí hóa”: các công nghệ hiện đại có xu hướng chảy qua các nút thắt cổ chai tập trung và những người vận hành các nút cổ chai này sử dụng quyền lực này để thu thập thông tin, thao túng kết quả hoặc loại trừ các tác nhân cụ thể, điều này khiến chiến thuật này thậm chí còn xuất hiện để đang được sử dụng để chống lại chính ngành công nghiệp blockchain.

Những xu hướng này đáng lo ngại vì chúng đe dọa về mặt lịch sử một trong những hy vọng lớn nhất của tôi về triển vọng tự do và quyền riêng tư trong tương lai. Trong cuốn sách Những điều không hoàn hảo trong tương lai của David Friedman, ông dự đoán rằng chúng ta có thể phải đối mặt với một tương lai thỏa hiệp: thế giới thực sẽ ngày càng bị giám sát nhiều hơn, nhưng thông qua mật mã, thế giới trực tuyến sẽ bảo vệ và thậm chí cải thiện quyền riêng tư của nó. Thật không may, như chúng ta đã thấy, một xu hướng ngược lại như vậy là không chắc chắn.

Đây là điểm nhấn của tôi đối với các công nghệ mã hóa như chuỗi khối và bằng chứng không có kiến thức. Blockchain cho phép chúng ta tạo ra các cấu trúc kinh tế và xã hội bằng “ổ cứng dùng chung” mà không cần dựa vào các tác nhân tập trung. Tiền điện tử cho phép các cá nhân lưu trữ và thực hiện các giao dịch tài chính giống như tiền mặt được sử dụng trước khi có Internet mà không cần phải dựa vào các bên thứ ba đáng tin cậy, những người có thể thay đổi các quy tắc theo ý muốn. Chúng cũng có thể hoạt động như các cơ chế chống Sybil dự phòng, khiến các cuộc tấn công và spam trở nên tốn kém đối với những người dùng không hoặc không muốn tiết lộ danh tính thực thể của họ. Việc trừu tượng hóa tài khoản, đặc biệt là ví phục hồi xã hội, có thể bảo vệ tài sản tiền điện tử của chúng tôi và các tài sản tiềm năng khác trong tương lai mà không phụ thuộc quá nhiều vào các trung gian tập trung.

Bằng chứng không tiết lộ kiến thức có thể được sử dụng để đảm bảo quyền riêng tư, cho phép người dùng chứng minh sự thật về bản thân mà không tiết lộ thông tin cá nhân. Ví dụ: gói chữ ký hộ chiếu kỹ thuật số trong ZK-SNARK chứng tỏ rằng bạn là công dân duy nhất của một quốc gia mà không tiết lộ bạn là công dân nào. Các công nghệ tương tự cho phép chúng tôi duy trì lợi ích về quyền riêng tư và ẩn danh - các tính năng được nhiều người coi là cần thiết cho các ứng dụng như bỏ phiếu - trong khi vẫn đạt được sự đảm bảo về bảo mật và chống lại thư rác cũng như các tác nhân xấu.

Hệ thống truyền thông xã hội ZK Với Theo thiết kế được đề xuất, các hoạt động kiểm toán có thể được tiến hành và người dùng có thể bị trừng phạt mà không cần biết danh tính của bất kỳ ai.

Zupass là một ví dụ tuyệt vời về phương pháp được ấp ủ tại Zuzalu. Đây là một ứng dụng đã được hàng trăm người ở Zuzalu và gần đây là hàng nghìn người ở Devconnect sử dụng để bán vé, cho phép bạn giữ vé, tư cách thành viên, đồ sưu tầm kỹ thuật số (không thể chuyển nhượng) và các chứng chỉ khác, đồng thời chứng nhận tất cả các vấn đề liên quan cho họ mà không tiết lộ quyền riêng tư. Ví dụ: bạn có thể chứng minh rằng bạn là cư dân đã đăng ký duy nhất của Zuzalu hoặc là người giữ vé cho Devconnect mà không tiết lộ thông tin khác về bạn là ai. Những bằng chứng này có thể được trình bày trực tiếp hoặc kỹ thuật số thông qua mã QR để đăng nhập vào các ứng dụng như Zupoll, một hệ thống bỏ phiếu ẩn danh chỉ dành cho cư dân Zuzalu.

Những công nghệ này là ví dụ điển hình về nguyên tắc d/acc: chúng cho phép người dùng và cộng đồng xác minh độ tin cậy mà không ảnh hưởng đến quyền riêng tư và đảm bảo độ tin cậy mà không cần dựa vào trung tâm quyền lực để bảo vệ nó khỏi những điểm nghẹt thở áp đặt định nghĩa riêng của nó về ai là người tốt và kẻ xấu. Chúng tăng khả năng tiếp cận toàn cầu bằng cách tạo ra những cách tốt hơn và công bằng hơn để bảo vệ tính bảo mật của người dùng hoặc dịch vụ hơn là thông lệ phổ biến hiện nay là phân biệt đối xử với toàn bộ các quốc gia được coi là không đáng tin cậy. Đây là những nguyên tắc cơ bản rất mạnh mẽ có thể cần thiết nếu chúng ta mong muốn duy trì tầm nhìn phi tập trung về an ninh thông tin khi chúng ta bước vào thế kỷ 21. Một cam kết rộng rãi hơn đối với các công nghệ phòng thủ trong không gian mạng có thể giúp ích rất nhiều trong việc làm cho Internet trở nên cởi mở, an toàn và miễn phí hơn theo những cách rất quan trọng.

Bảo vệ thông tin

Bảo vệ thông tin (Info-defense) là những gì tôi mô tả là bảo vệ mạng , giải quyết các tình huống trong đó có thể dễ dàng đạt được sự đồng thuận về danh tính của kẻ tấn công giữa những người có lý trí. Nếu ai đó cố gắng hack vào ví của bạn, bạn dễ dàng cho rằng hacker là kẻ xấu. Nếu ai đó cố gắng thực hiện một cuộc tấn công DoS trên một trang web, mọi người dễ dàng cho rằng họ độc hại và khác biệt về mặt đạo đức với người dùng bình thường đang cố gắng đọc nội dung của trang web. Có những trường hợp khác mà các đường thậm chí còn mờ hơn. Tôi gọi các công cụ để cải thiện khả năng phòng thủ của chúng ta trong những tình huống này là “bảo vệ thông tin”.

Kiểm tra thực tế (còn được gọi là ngăn chặn "thông tin sai lệch"). Tôi thực sự thích Ghi chú cộng đồng, nó giúp ích rất nhiều cho người dùng xác định sự thật và lời nói dối trong các dòng tweet của người dùng khác. Ghi chú cộng đồng sử dụng một thuật toán mới không hiển thị những ghi chú phổ biến nhất mà hiển thị những ghi chú được nhiều người dùng nhất trên phạm vi chính trị xác nhận.

Ứng dụng thực tế các nhận xét của cộng đồng .

Tôi cũng là người hâm mộ thị trường dự đoán, thị trường có thể tiết lộ tầm quan trọng của các sự kiện trong thời gian thực trước khi tình hình rõ ràng và chưa có sự đồng thuận về hướng đi tình huống. Ví dụ, bài viết của Polymarket về Sam Altman cung cấp một bản tóm tắt rất hữu ích về tiết lộ và đàm phán từng giờ về các sự kiện, cung cấp bối cảnh rất cần thiết cho những người chỉ xem từng mục tin tức riêng lẻ mà không hiểu tầm quan trọng của từng mục.

Thị trường dự đoán thường có sai sót , nhưng những người có ảnh hưởng trên Twitter sẵn sàng tự tin bày tỏ những gì họ nghĩ sẽ xảy ra trong năm tới nhìn chung còn thiếu sót hơn. Thị trường dự đoán vẫn còn rất nhiều chỗ để cải thiện. Ví dụ: thị trường dự đoán thường có khối lượng giao dịch thấp ở tất cả các sự kiện ngoại trừ những sự kiện nổi bật nhất; hướng đi tự nhiên để giải quyết vấn đề này là tung ra thị trường dự đoán liên quan đến trí tuệ nhân tạo.

Trong không gian blockchain, tôi nghĩ chúng ta cần nhiều loại hình bảo vệ thông tin cụ thể hơn. Điều đó có nghĩa là ví phải sâu sắc hơn và chủ động hơn trong việc giúp người dùng xác định ý nghĩa của những thứ họ ký và bảo vệ họ khỏi gian lận và lừa đảo. Đây là trường hợp trung gian: cái gì là lừa đảo và cái gì không phải là lừa đảo ít chủ quan hơn ý kiến về các sự kiện xã hội gây tranh cãi, nhưng chủ quan hơn việc phân biệt người dùng hợp pháp với kẻ tấn công hoặc tin tặc DoS. Metamask đã có cơ sở dữ liệu lừa đảo và tự động chặn người dùng truy cập các trang web lừa đảo.

Các ứng dụng như Fire là một ví dụ về cách tiếp cận sâu hơn Tuy nhiên, phần mềm bảo mật không phải là thứ cần được cài đặt rõ ràng; nó phải là cài đặt mặc định cho ví tiền điện tử hoặc thậm chí cả trình duyệt.

Vì việc bảo vệ thông tin mang tính chủ quan hơn nên về bản chất nó mang tính tập thể hơn là bảo vệ mạng: bạn cần bằng cách nào đó kết nối với một nhóm người lớn và phức tạp để xác định điều gì thông tin có thể đúng hoặc sai và loại ứng dụng nào là mô hình Ponzi lừa đảo. Các nhà phát triển có cơ hội đạt được tiến bộ lớn hơn trong việc phát triển các biện pháp bảo vệ thông tin hiệu quả và tăng cường các hình thức bảo vệ thông tin hiện có. Những thứ như Ghi chú cộng đồng có thể được đưa vào trình duyệt, không chỉ bao gồm các nền tảng truyền thông xã hội mà còn bao gồm toàn bộ internet.

Công nghệ xã hội vượt ra ngoài khuôn khổ “phòng thủ”

Ở một mức độ nào đó, tôi có thể bị buộc tội đưa quá nhiều nhấn mạnh vào , mô tả một số công nghệ thông tin là “phòng thủ”. Xét cho cùng, phòng thủ là giúp bảo vệ những tác nhân có thiện chí khỏi những tác nhân độc hại (hoặc, trong một số trường hợp, từ tự nhiên). Tuy nhiên, một số công nghệ xã hội này giúp những người có thiện chí phát triển sự đồng thuận.

Một ví dụ điển hình về điều này là pol.is, sử dụng thuật toán tương tự như Ghi chú cộng đồng (và có trước Ghi chú cộng đồng) để giúp cộng đồng xác định các điểm đồng thuận khác nhau giữa các nhóm nhỏ khác nhau về nhiều mặt. Viewpoints.xyz được lấy cảm hứng từ pol.is và có tinh thần tương tự:

Công nghệ như thế này có thể được sử dụng để đạt được sự quản trị phi tập trung hơn đối với các quyết định gây tranh cãi. Một lần nữa, cộng đồng blockchain là nơi thực hành tốt trong lĩnh vực này và đã chứng minh giá trị của các thuật toán này. Thông thường, các quyết định về những cải tiến ("EIP") cần thực hiện đối với giao thức Ethereum được đưa ra bởi một nhóm khá nhỏ trong các cuộc họp có tên "Tất cả các cuộc gọi của Nhà phát triển cốt lõi". Điều này hoạt động khá tốt đối với các quyết định mang tính kỹ thuật hơn và hầu hết các thành viên trong cộng đồng không cảm thấy thực sự tin tưởng. Đối với các quyết định quan trọng hơn liên quan đến kinh tế giao thức hoặc các giá trị cơ bản hơn như tính bất biến và khả năng chống kiểm duyệt, điều này thường là không đủ. Nhìn lại năm 2016-17, khi thực hiện hàng loạt quyết định gây tranh cãi như hard fork DAO, giảm phát hành và (không) giải phóng ví Parity, các công cụ như Carbonvote và bỏ phiếu trên mạng xã hội đã giúp cộng đồng và nhà phát triển hiểu rõ hơn về công chúng. ý kiến định hướng của cộng đồng.

DAO fork Carbon bỏ phiếu.

Carbonvote có những sai sót: nó dựa vào việc nắm giữ ETH để xác định ai là thành viên của cộng đồng Ethereum, khiến kết quả bị sai lệch bởi một số ít người nắm giữ ETH giàu có ("Cá voi") chiếm ưu thế. Tuy nhiên, với các công cụ hiện đại, chúng tôi có thể tạo ra Carbonvote tốt hơn bằng cách tận dụng nhiều tín hiệu như POAP, tem Zupass, hộ chiếu Gitcoin, tư cách thành viên của Protocol Guild và nắm giữ ETH (thậm chí cả ETH được đặt cược riêng lẻ) để đo lường tư cách thành viên cộng đồng.

Bất kỳ cộng đồng nào cũng có thể sử dụng công cụ này để đưa ra những quyết định có chất lượng cao hơn, tìm ra điểm chung, điều phối việc di chuyển (vật lý hoặc kỹ thuật số) hoặc tạo các mối quan hệ mới mà không cần dựa vào sự lãnh đạo trung tâm không rõ ràng thực hiện các thao tác khác. Đây không phải là sự tăng tốc phòng thủ mà có thể được gọi là sự tăng tốc dân chủ. Những công cụ như vậy thậm chí có thể được sử dụng để cải thiện và dân chủ hóa việc quản trị của các chủ thể và tổ chức chủ chốt hoạt động trong lĩnh vực AI.

Vậy đâu là con đường phía trước cho siêu trí tuệ?

Giờ đây, tất cả đều có vẻ ổn và có thể khiến thế giới trở thành một nơi hài hòa hơn, an toàn hơn và tự do hơn trong thế kỷ tới. Tuy nhiên, điều này thậm chí còn chưa đề cập đến con voi trong phòng: trí tuệ nhân tạo siêu thông minh.

Con đường phía trước được ngầm đề xuất bởi nhiều người lo lắng về AI về cơ bản dẫn đến một chính phủ thế giới AI ở mức tối thiểu. Các phiên bản gần đây bao gồm các đề xuất về "Hiệp hội AGI đa quốc gia" ("MAGIC"). Nếu một liên minh như vậy được thành lập và thành công trong mục tiêu tạo ra AI siêu thông minh, thì trên thực tế, nó sẽ trở thành một chính phủ thế giới tối thiểu. Về lâu dài, cũng có ý tưởng về lý thuyết "hành động quan trọng": chúng tôi tạo ra một AI thực hiện một hành động một lần, tổ chức lại thế giới thành một thế giới mà con người vẫn có quyền kiểm soát, nhưng bảng trò chơi bằng cách nào đó lại giống A hơn. hoàn cảnh thuận lợi cho việc phòng thủ và phát triển con người.

Vấn đề thực tế chính mà tôi thấy lúc này là mọi người dường như không thực sự tin tưởng vào bất kỳ cơ chế quản trị cụ thể nào để có thẩm quyền xây dựng một thứ như vậy. Khi bạn nhìn vào kết quả cuộc thăm dò gần đây của tôi trên Twitter, nơi mọi người được hỏi liệu họ muốn thấy AI được độc quyền bởi một thực thể duy nhất bắt đầu sớm hơn một thập kỷ hay để AI cho tất cả mọi người bị trì hoãn một thập kỷ, thực tế là nó rất rõ ràng:

Mỗi khi nhỏ về quy mô, các cuộc thăm dò này bù đắp cho quy mô của chúng bằng kết quả nhất quán trên nhiều nguồn thông tin và tùy chọn. Trong chín trên chín phiếu bầu, đa số thà thấy trí tuệ nhân tạo tiên tiến bị trì hoãn một thập kỷ hơn là bị độc quyền bởi một nhóm duy nhất, cho dù là một công ty, chính phủ hay cơ quan đa quốc gia. Bảy trong số chín lần, việc trì hoãn đã giành chiến thắng với tỷ số ít nhất là hai ăn một. Đây có vẻ như là một thực tế quan trọng mà bất kỳ ai theo đuổi quy định về AI đều phải hiểu. Các cách tiếp cận hiện tại là tạo ra các chương trình cấp phép và các yêu cầu pháp lý nhằm hạn chế sự phát triển của AI cho ít người tham gia hơn, nhưng những cách tiếp cận này đã vấp phải sự phản đối rộng rãi vì mọi người không muốn thấy bất kỳ ai độc quyền một thứ gì đó mạnh mẽ như vậy. Ngay cả khi những đề xuất quản lý từ trên xuống như vậy làm giảm nguy cơ tuyệt chủng, chúng vẫn làm tăng nguy cơ trượt vĩnh viễn sang chế độ toàn trị tập trung. Nghịch lý thay, một thỏa thuận cấm hoàn toàn nghiên cứu AI cực kỳ tiên tiến (có lẽ ngoại trừ AI y sinh), cùng với các biện pháp buộc nguồn mở cho những mô hình không bị cấm, lại là một cách để giảm khuyến khích lợi nhuận trong khi Will tiếp tục tiếp cận để cải thiện sự bình đẳng quyền truy cập sẽ phổ biến hơn?

Cách tiếp cận chính được những người phản đối phương pháp thành lập một cơ quan toàn cầu giải quyết vấn đề AI và đảm bảo khả năng quản lý của nó rất tốt là cách tiếp cận AI đa thần: có chủ ý đảm bảo Có nhiều người và công ty đang phát triển một lượng lớn trí tuệ nhân tạo để không ai trong số họ trở nên mạnh hơn những người khác. Theo lý thuyết, theo cách này, ngay cả khi AI trở nên siêu thông minh, chúng ta vẫn có thể duy trì sự cân bằng quyền lực.

Triết lý này rất thú vị, nhưng kinh nghiệm của tôi khi cố gắng đảm bảo "thuyết đa thần" trong hệ sinh thái Ethereum khiến tôi lo lắng rằng đây thực chất là một trạng thái cân bằng không ổn định. Trong Ethereum, chúng tôi cố tình đảm bảo sự phân cấp theo nhiều cách: đảm bảo rằng không có cơ sở mã nào kiểm soát hơn một nửa mạng lưới bằng chứng cổ phần, cố gắng chống lại sự thống trị của các nhóm cổ phần lớn, cải thiện phân cấp địa lý, v.v. Về cơ bản, Ethereum thực sự đang cố gắng thực hiện giấc mơ tự do cũ về một xã hội dựa trên thị trường sử dụng áp lực xã hội thay vì chính phủ làm cơ quan quản lý chống độc quyền. Ở một mức độ nào đó, điều này đã được đền đáp: Tỷ lệ thống trị của khách hàng Prysm đã giảm từ trên 70% xuống dưới 45%. Nhưng đây không phải là một quá trình thị trường tự động nào đó: nó là kết quả của ý chí con người và hành động phối hợp.

Trải nghiệm của tôi với Ethereum nhất quán với những bài học từ thế giới nói chung, nơi nhiều thị trường đã được chứng minh là độc quyền tự nhiên. Tình hình càng trở nên bấp bênh hơn khi AI siêu thông minh hoạt động độc lập với con người. AI mạnh nhất có thể nhanh chóng vượt lên nhờ khả năng tự cải thiện đệ quy và một khi AI trở nên mạnh hơn con người, sẽ không có khả năng cân bằng lại mọi thứ.

Hơn nữa, ngay cả khi chúng ta xây dựng một thế giới đa thần với AI siêu thông minh ổn định, chúng ta vẫn phải đối mặt với một vấn đề khác: chúng ta coi con người là vũ trụ thú cưng.

Con đường hạnh phúc: hợp nhất với trí tuệ nhân tạo?

Một lựa chọn khác mà tôi đã nghe gần đây là coi AI ít tách biệt hơn với con người và tập trung nhiều hơn vào việc nâng cao nhận thức của con người hơn là các công cụ thay thế con người. Nó.

Một ví dụ gần đây là công cụ vẽ AI. Ngày nay, các công cụ nổi bật nhất để tạo hình ảnh do AI tạo ra chỉ yêu cầu đầu vào của con người trong một bước, sau đó AI sẽ đảm nhận hoàn toàn. Một lựa chọn khác là tập trung nhiều hơn vào thứ gì đó giống như phiên bản AI của Photoshop: nghệ sĩ hoặc AI có thể tạo bản phác thảo sớm của một hình ảnh và sau đó cả hai cộng tác để cải thiện nó thông qua quá trình phản hồi theo thời gian thực.

Nguồn, 2023 Màu tô AI do Photoshop tạo ra. Tôi đã thử nó và phải mất một thời gian để làm quen, nhưng nó thực sự hoạt động rất tốt!

Một hướng khác có tinh thần tương tự là kiến trúc cơ quan mở, đề xuất tách các phần khác nhau trong "suy nghĩ" của AI (ví dụ: lập kế hoạch, thực hiện kế hoạch, diễn giải thông tin từ thế giới bên ngoài) thành các thành phần riêng biệt và xây dựng phản hồi đa dạng của con người .

Cho đến nay điều này nghe có vẻ tầm thường và hầu hết mọi người đều có thể đồng ý rằng đó là một điều tốt. Công trình của nhà kinh tế học Daron Acemoglu khác xa với loại chủ nghĩa tương lai AI này, nhưng cuốn sách mới "Sức mạnh và sự tiến bộ" của ông gợi ý về mong muốn được thấy nhiều hơn những loại trí tuệ nhân tạo này.

Tuy nhiên, nếu muốn thúc đẩy hơn nữa ý tưởng hợp tác giữa trí tuệ nhân tạo và con người, chúng ta sẽ đi đến những kết luận cấp tiến hơn. Trừ khi chúng ta tạo ra một chính phủ thế giới đủ mạnh để phát hiện và ngăn chặn mọi nhóm nhỏ hack bằng cách sử dụng GPU riêng lẻ trên máy tính xách tay, cuối cùng ai đó sẽ tạo ra một AI siêu thông minh - một AI có thể suy nghĩ nhanh hơn chúng ta hàng nghìn lần - và không có nhóm nào có công cụ sẵn có. xử lý có thể cạnh tranh. Vì vậy, chúng ta cần suy nghĩ sâu hơn và xa hơn về ý tưởng hợp tác giữa con người và máy móc này.

Bước tự nhiên đầu tiên là giao diện não-máy tính. Giao diện não-máy tính có thể giúp con người tiếp cận trực tiếp hơn với các hình thức tính toán và nhận thức ngày càng mạnh mẽ, rút ngắn vòng giao tiếp hai chiều giữa con người và máy móc từ vài giây xuống còn mili giây. Nó cũng sẽ làm giảm đáng kể chi phí "nỗ lực tinh thần" để có được một chiếc máy tính giúp bạn thu thập thông tin, đưa ra lời khuyên hoặc thực hiện một kế hoạch.

Các giai đoạn sau của lộ trình này thực sự trở nên kỳ lạ. Ngoài giao diện não-máy tính, còn có nhiều cách khác nhau để trực tiếp cải thiện bộ não của chúng ta thông qua những đổi mới sinh học. Bước cuối cùng trong việc hợp nhất hai tuyến đường này có thể liên quan đến việc tải tâm trí của chúng ta lên máy tính để chạy trực tiếp. Điều này cũng sẽ trở thành giải pháp tối ưu cho an ninh vật lý: bảo vệ bản thân khỏi bị tổn hại sẽ không còn là vấn đề phức tạp trong việc bảo vệ cơ thể con người mềm yếu không thể tránh khỏi mà là vấn đề đơn giản hơn là tạo bản sao lưu dữ liệu của bạn.

Hướng đi như vậy đôi khi Nguyên nhân mối quan tâm, một phần vì chúng không thể thay đổi được và một phần vì chúng có thể mang lại cho những người quyền lực một lợi thế so với những người còn lại trong chúng ta. Đặc biệt, có những mối nguy hiểm trong giao diện não-máy tính—xét cho cùng, chúng ta đang nói về việc đọc và viết trực tiếp suy nghĩ của con người. Chính vì những lo ngại này mà tôi tin rằng tốt nhất là phong trào nguồn mở tập trung vào bảo mật nên đảm nhận vai trò dẫn đầu trên con đường này, thay vì đóng cửa các công ty độc quyền và các quỹ đầu tư mạo hiểm. Hơn nữa, tất cả những vấn đề này đều nghiêm trọng hơn trong trường hợp AI siêu thông minh hoạt động độc lập với con người so với các bộ phận tăng cường tiếp xúc gần gũi với con người. Do các hạn chế sử dụng của ChatGPT, ngày nay đã có sự phân chia giữa "nâng cao" và "không nâng cao".

Nếu chúng ta muốn một tương lai vừa siêu thông minh vừa có "con người", một tương lai nơi con người không chỉ là thú cưng mà còn thực sự nắm giữ quyền tự quyết có ý nghĩa trên toàn thế giới, thì đại loại như thế này Sự lựa chọn có vẻ tự nhiên nhất. Có nhiều lập luận ủng hộ cách tiếp cận này: bằng cách thu hút phản hồi của con người ở mỗi bước của quá trình ra quyết định, chúng tôi giảm động cơ chuyển trách nhiệm lập kế hoạch cấp cao sang chính AI, từ đó giảm nhu cầu về AI​ ​để thực hiện điều gì đó hoàn toàn khác biệt một cách độc lập với các giá trị của con người.

Một lập luận khác ủng hộ hướng đi này là thay vì chỉ hét lên "PAT", sẽ tốt hơn nếu đưa ra một thông điệp tương ứng đưa ra những con đường thay thế về phía trước. Điều này sẽ đòi hỏi một sự thay đổi triết học khỏi tư duy hiện tại rằng những tiến bộ công nghệ chạm tới con người là nguy hiểm, nhưng những tiến bộ không liên quan gì đến con người về cơ bản là an toàn. Nhưng nó có một lợi ích rất lớn: nó mang lại cho các nhà phát triển một việc gì đó để làm. Ngày nay, thông điệp chính của phong trào an toàn AI gửi tới các nhà phát triển AI dường như là “bạn nên dừng lại”. Các nghiên cứu về sự liên kết có thể được tiến hành, nhưng ngày nay thiếu các biện pháp khuyến khích tài chính cho việc này. Để so sánh, thông điệp chung của e/acc "Bạn đã là anh hùng, hãy cứ là chính mình" rõ ràng là rất hấp dẫn. Thông điệp của d/acc rằng “bạn nên xây dựng và xây dựng những thứ giúp bạn và nhân loại phát triển, nhưng hãy chọn lọc và có chủ ý hơn trong việc đảm bảo bạn xây dựng những thứ giúp phát triển” có thể là thông điệp chiến thắng.

D/acc có phù hợp với triết lý hiện tại của bạn không?

Nếu bạn là e/acc thì d/acc là một phân loài của e/acc, chỉ có tính chọn lọc và có ý thức hơn.

Nếu bạn là một người có lòng vị tha hiệu quả thì d/acc là sự đóng gói lại ý tưởng về lòng vị tha hiệu quả, mặc dù nhấn mạnh hơn vào các giá trị tự do và dân chủ .

Nếu bạn là người theo chủ nghĩa tự do thì d/acc là một phân loài của chủ nghĩa tự do-công nghệ, mặc dù mang tính thực dụng và phê phán hơn đối với "cỗ máy vốn công nghệ" , và là sẵn sàng chấp nhận sự can thiệp của chính phủ, ít nhất là ngày hôm nay (ít nhất, nếu sự can thiệp về văn hóa thất bại) để ngăn chặn một tương lai phi tự do thậm chí còn tồi tệ hơn.

Nếu bạn là người theo chủ nghĩa đa nguyên, như được định nghĩa bởi Glen Weir, thì d/acc là một khuôn khổ có thể dễ dàng đáp ứng được sự nhấn mạnh vào chủ nghĩa đa nguyên, công nghệ phối hợp dân chủ tốt hơn.

Nếu bạn là người ủng hộ sức khỏe cộng đồng, ý tưởng của d/acc có thể mang lại nguồn cảm hứng cho tầm nhìn dài hạn rộng hơn và cung cấp cho bạn những hiểu biết sâu sắc mà bạn có thể có "dân kỹ thuật" không đồng tình với nhau để tìm ra điểm chung.

Nếu bạn là người ủng hộ blockchain, d/acc là một câu chuyện hiện đại và rộng hơn so với việc nhấn mạnh vào lạm phát và ngân hàng mười lăm năm trước, Hãy đặt blockchain vào bối cảnh một chiến lược cụ thể để hướng tới một tương lai tươi sáng hơn.

Nếu bạn là một Solarpunk thì d/acc là một phân loài của Solarpunk và có sự nhấn mạnh tương tự vào hành động tập thể và có ý thức.

Nếu bạn là một người đam mê moonpunk thì bạn sẽ đánh giá cao sự chú trọng của d/acc vào việc bảo vệ thông tin bằng cách duy trì quyền riêng tư và tự do.

Chúng ta là ngôi sao sáng nhất

Tôi yêu công nghệ vì công nghệ giúp mở rộng tiềm năng sống của con người. Mười nghìn năm trước, chúng ta chỉ có thể tạo ra một số dụng cụ cầm tay đơn giản, thay đổi sự phát triển của thực vật trên một mảnh đất nhỏ và xây dựng những ngôi nhà cơ bản. Ngày nay, chúng ta có thể xây dựng những tòa tháp cao 800 mét, lưu trữ toàn bộ nội dung kiến thức của con người trong các thiết bị trong tay, liên lạc ngay lập tức trên khắp thế giới, kéo dài tuổi thọ, sống một cuộc sống hạnh phúc và trọn vẹn và không còn lo lắng về ngày cuối cùng của mình. số mệnh. Bạn tốt thường chết vì bệnh tật.

Chúng ta bắt đầu từ dưới lên , Bây giờ chúng tôi đang ở đây.

Tôi tin rằng những điều này rất có lợi, và việc mở rộng hơn nữa ảnh hưởng của con người đến các hành tinh và các hành tinh cũng rất có lợi, bởi vì tôi tin rằng con người rất tốt bụng. Trong một số giới, hoài nghi là điều hợp thời: các phong trào ủng hộ sự tuyệt chủng tự nguyện của con người tin rằng Trái đất sẽ tốt hơn nếu không có con người, và nhiều người khác hy vọng sẽ còn ít người hơn nữa trong những thế kỷ tới. Mọi người thường cho rằng con người xấu vì chúng ta lừa dối và trộm cắp, tham gia vào chủ nghĩa thực dân và chiến tranh, lạm dụng và tiêu diệt các loài khác. Câu trả lời của tôi cho lối suy nghĩ này là một câu hỏi đơn giản: so sánh với cái gì?

Đúng vậy, con người thường hành động xấu xa, nhưng chúng ta thường hành động tử tế, nhân hậu và cùng nhau làm việc vì lợi ích chung. Ngay cả trong chiến tranh, chúng ta thường quan tâm đến việc bảo vệ dân thường - tất nhiên là chưa đủ, nhưng nhiều hơn những gì chúng ta đã làm cách đây 2.000 năm. Có thể sẽ có sẵn rộng rãi các loại thịt không làm từ động vật trong thế kỷ tới, loại bỏ thảm họa đạo đức lớn nhất mà con người có thể bị buộc tội một cách chính đáng ngày nay. Động vật không phải con người không làm điều này. Không có trường hợp nào mà một con mèo áp dụng toàn bộ lối sống từ chối việc ăn thịt chuột như một nguyên tắc đạo đức. Mặt trời ngày càng sáng hơn mỗi năm và trong khoảng một tỷ năm nữa, điều này được dự đoán sẽ khiến Trái đất trở nên quá nóng để có thể hỗ trợ sự sống. Liệu mặt trời có coi đó là nạn diệt chủng mà nó sắp gây ra?

Vì vậy, tôi tin chắc rằng chúng ta, con người, là những ngôi sao sáng nhất trong vũ trụ mà chúng ta từng biết và từng thấy. Chúng ta là điều duy nhất mà chúng ta biết, ngay cả khi không hoàn hảo, đôi khi thực hiện nỗ lực chân thành để quan tâm đến “điều tốt” và điều chỉnh hành vi của mình để phục vụ nó tốt hơn. Hai tỷ năm nữa, nếu Trái đất hoặc bất kỳ bộ phận nào của vũ trụ vẫn sở hữu vẻ đẹp của sự sống trên cạn, thì chính những tác phẩm nghệ thuật của nhân loại, chẳng hạn như du hành không gian và địa kỹ thuật, đã biến điều đó thành hiện thực.

Chúng ta cần xây dựng và tăng tốc. Nhưng có một câu hỏi rất thực tế cần đặt ra: Chúng ta đang tăng tốc hướng tới điều gì? Thế kỷ 21 rất có thể là một thế kỷ bản lề của nhân loại, quyết định vận mệnh của chúng ta trong hàng nghìn năm tới. Có phải chúng ta đang mắc kẹt vào một trong những cái bẫy không thể thoát ra hay chúng ta đang tìm ra con đường phía trước để bảo toàn quyền tự do và quyền tự chủ? Đây là một câu hỏi đầy thách thức. Nhưng tôi mong muốn được quan sát và tham gia vào nỗ lực tập thể tuyệt vời của loài người chúng ta để tìm ra câu trả lời.

「Liên kết gốc‖

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia