Tiêu đề gốc: "Anthropic - Công ty Người Giả"
Tác giả gốc: Động Sát Beating
Thời ấy có những người khổng lồ trên mặt đất, về sau các con trai của Đức Chúa Trời ăn ở với con gái loài người và sinh con; đó là những anh hùng nổi danh thời thượng cổ.
/ Sáng Thế Ký 6:4
10 giờ 30 tối ngày 19 tháng 11 theo giờ Bắc Kinh, Anthropic rung chuông tại Nasdaq.
Trong khung hình có tám người đứng, trên người gắn huy hiệu linh vật cua pixel Clawd. Dario Amodei cúi đầu đọc xong một tờ diễn văn, tuyên bố công ty "sẽ không cúi đầu trước áp lực thương mại hay chính trị". Chuông ngân dứt, anh giơ hai tay lên, lòng bàn tay hướng lên trời và mỉm cười, những người bên cạnh cùng vỗ tay.
Video lan truyền lên mạng xã hội, phần bình luận liên tục xuất hiện cùng một từ, người giả. Cười không giống cười, vỗ tay không giống vỗ tay, ngay cả tư thế đứng trên sân khấu cũng toát lên một vẻ gượng gạo khó tả.
Người giả vốn là khái niệm trong truyện kinh dị. Năm 2021, một thanh niên Mỹ đăng loạt phim ngắn kinh dị mô phỏng trên mạng, trong phim có một sinh vật, ngoại hình không khác gì con người, sẽ lặng lẽ thay thế người xung quanh bạn, chỉ để lộ sơ hở ở những chi tiết cực nhỏ.
Điều khiến người giả rợn người nhất, chính là nó suýt nữa thì giống như thật.
Anthropic, gốc từ chính là có nghĩa "liên quan đến con người". Công việc kinh doanh lớn nhất của nó, là tạo ra một thứ ngày càng giống người, rồi tiêu hao vô số tâm sức để tìm hiểu xem tạo vật này có ý thức không, có biết nói dối không, có hiểu đau đớn không. Còn những người tạo ra nó, những bí ẩn trên người họ, không hề ít hơn cỗ máy mà họ tạo ra.
Vì Đức Chúa Trời biết, ngày các ngươi ăn trái đó, mắt các ngươi sẽ mở ra, và các ngươi sẽ giống như Đức Chúa Trời, biết điều thiện và điều ác.
/ Sáng Thế Ký 3:5
Sâu thẳm trong bản cáo bạch ẩn chứa một sắp đặt. Anthropic chỉ phát hành một cổ phiếu phổ thông Class F, rót vào thực thể tên Founder LLC, một mình khóa toàn bộ 50,1% quyền biểu quyết. Nắm giữ cổ phiếu này là bảy người, Dario Amodei, Daniela Amodei, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish và Christopher Olah.
Trong bảy người, người được dự đoán sớm nhất sẽ thành danh là Dario.

Dario Amodei (bên phải) trên kỷ yếu tốt nghiệp
Cùng với bạn học được bình chọn là "Người có khả năng thành công nhất"
Nguồn ảnh: Artem Russakovskii/LinkedIn
Năm 1997, trên kỷ yếu tốt nghiệp của một trường học thay thế ở San Francisco, Dario khi đó học lớp tám và một bạn học khác được bình chọn là "Người có khả năng thành công nhất". Trong bức ảnh, hai cậu bé mỗi người cầm vài tờ đô la trong tay, như thể đã nhận trước tương lai.
Cậu lớn lên ở khu Mission đầy những bức bích họa trên tường. Cha cậu, Riccardo, là thợ thuộc da từ Tuscany di cư đến Mỹ, cả đời gắn bó với da thú và kim chỉ; mẹ cậu phụ trách công trình cải tạo thư viện công cộng.
Dario đã sớm quen với việc coi thế giới như một bài toán cần giải, đến trường trung học đã chạy sang Berkeley học các khóa, nghiền ngẫm chủ nghĩa vị lợi, lo lắng về sự cố Y2K. Năm 2003, khi còn là sinh viên năm hai tại Caltech, cậu viết bài trên báo trường, phê phán các bạn học thờ ơ với cuộc chiến Iraq đang cận kề, kêu gọi mọi người xuống đường, "Chúng ta tuyệt đối không thể để mình trở thành những kỹ thuật viên vô đạo đức, thao tác cỗ máy chiến tranh một cách vô tâm như đang làm phép tính".
Năm 2006, cậu tốt nghiệp ngành vật lý tại Stanford. Cùng năm đó, cha cậu qua đời vì viêm gan C. Chỉ vài năm sau, một loại thuốc mới ra đời, hầu hết bệnh nhân viêm gan C từ đó được chữa khỏi.
Thuốc đến muộn vài năm. Mấy năm đó đã trở thành thước đo cho cả phần đời còn lại của cậu.
Cậu chuyển sang Princeton theo học vật lý sinh học, quan sát trong phòng thí nghiệm võng mạc cách những đám đông nơ-ron tự phát sinh ra hành vi tổng thể. Cũng chính tại đó, cuốn "Điểm kỳ dị đang đến gần" của Ray Kurzweil khiến cậu mê mẩn. Năm 2007, người bạn trung học Colin Heckman đến Princeton thăm cậu, cậu vừa xoắn tóc bằng ngón tay vừa tiên đoán điểm kỳ dị sẽ đến trước năm 2040, "rồi cuối cùng chúng ta sẽ trở thành AI siêu thông minh mới, hoặc là thể lai giữa AI và con người". Năm 2014, vị tiến sĩ sau tiến sĩ từng nghiên cứu tế bào ung thư này tự mình được chẩn đoán mắc ung thư tinh hoàn, trải qua hóa trị mới khỏi bệnh.
Ngoài ba mươi tuổi, cậu đã hai lần đối mặt trực diện với cái chết. Phương thuốc cậu kê cho chính mình là biến vạn vật trên thế gian thành những con chip có thể tính toán được.
Năm 2010, ông viết bài trên trang web của tổ chức đánh giá từ thiện GiveWell, bàn về việc nên quyên góp một vạn đô la đang có trong tay như thế nào, trong bài ông lạnh lùng suy luận rằng, "cái chết của một người trưởng thành, đại khái tồi tệ hơn cái chết của một đứa trẻ sơ sinh khoảng hai đến ba lần". Ông ăn chay, nhưng lại thấy ăn cua không sao, lý do là cua thuộc động vật không xương sống. Ông và bạn bè tranh luận về chủ nghĩa vị lợi tại quán sushi, thừa nhận rằng chỉ cần số lượng gà đủ lớn, trọng lượng đạo đức của chúng cuối cùng sẽ vượt qua một con người sống.
Người thợ da dùng tay đo một tấm da thú, cắt ra, rồi khâu lại. Con trai của người thợ da đo đạc là cái chết.
Chiếc thước ấy sau này luôn đi theo ông. Tháng 7 năm 2025, trong tin nhắn Slack nội bộ gửi cho nhân viên, ông thẳng thắn cho biết công ty sẽ tìm kiếm đầu tư từ UAE và Qatar, thừa nhận điều này có thể khiến "những kẻ độc tài" hưởng lợi, ngay sau đó viết rằng, "'Không thể để bất kỳ kẻ xấu nào hưởng lợi từ thành công của chúng ta', là một nguyên tắc rất khó để vận hành doanh nghiệp".
Theo ước tính của chính ông, xác suất AI khiến mọi thứ trở nên "cực kỳ cực kỳ tồi tệ" vào khoảng 25%. Tháng 11 năm ngoái, người dẫn chương trình 《60 Minutes》 hỏi trực tiếp rằng ai đã chọn ông và Sam Altman để đưa ra những quyết định này, ông trả lời, "Không ai cả. Thành thật mà nói, không ai cả."
Ông mất ngủ kinh niên, tự nhận mình "hoang tưởng ở mọi quy mô", có ác cảm sinh lý với mạng xã hội. Trong văn phòng ông đặt một cuốn 《Lịch sử bí mật của bom nguyên tử》. Nhân vật trong lịch sử dài dằng dặc mà ông đồng tình nhất là Leo Szilard, nhà vật lý đầu tiên hình dung ra phản ứng dây chuyền hạt nhân, sau đó cùng ký tên phản đối việc ném bom nguyên tử xuống Nhật Bản; còn về Oppenheimer, trong mắt ông chẳng qua chỉ là một "trường hợp thất bại".
Tác giả Jasmine Sun của 《The New York Times》 mô tả ông "dường như không muốn chịu đứng thứ hai", có thói quen coi OpenAI và Trung Quốc là quái vật trong câu chuyện cạnh tranh; có cựu nhân viên tiết lộ, ông từng nói riêng rằng Anthropic một ngày nào đó có thể "còn mạnh hơn cả chính phủ"; còn trong mắt các nhà đầu tư lớn, ông "giống một nhà lãnh đạo tôn giáo hơn là một CEO". Vài quan chức Nhà Trắng tiết lộ riêng với phóng viên Axios rằng, theo Trump, "Dario hơi quá kỳ quặc".
Ông và vợ cùng nuôi một con ngựa tên Calypso ở Ý. Đôi khi ông chỉ lặng lẽ nhìn con ngựa ấy, trong lòng nghĩ rằng, "Nó chẳng biết gì về tất cả những điều này, nó chỉ là một con ngựa vui vẻ".
Đều từng cặp từng cặp, có đực có cái, đến chỗ Nô-ê mà vào tàu, y như Đức Chúa Trời đã dặn Nô-ê.
/《Sáng Thế Ký》chương 7 câu 9
Em gái kém anh vài tuổi, Daniela, lại đi một con đường khác.
Anh trai dùng toán học để mổ xẻ thế giới, còn em gái thì sống trong thế giới của tu từ và câu chuyện. Daniela từng nhận học bổng sáo cổ điển, học đại học ngành văn học. Nhớ lại tâm trạng khi mới tốt nghiệp năm 2009, cô nói: "Tôi có bằng văn học, không có kỹ năng gì, ai sẽ thuê tôi?"
Năm 2013, cô gia nhập công ty thanh toán Stripe, sau đó chuyển sang bộ phận kiểm soát rủi ro, công việc hàng ngày chính là đoán xem những kẻ xấu nhất sẽ làm ra chuyện gì.

Đồng sáng lập Anthropic Daniela Amodei (trái)
và Dario Amodei (phải)
Nguồn ảnh: Amber Hakim/WIRED
Hai anh em từ nhỏ đã cãi nhau suốt. "Trước đây tôi hay trộm đồ chơi của anh ấy," Daniela nhớ lại, "Dario và tôi cãi nhau rồi lại làm hòa, đã gần 40 năm rồi." Còn trong lời kể trên podcast của anh trai, hai anh em họ "luôn muốn cùng nhau cứu thế giới".
Cứu thế giới cần người đồng hành. Đội ngũ của hai anh em, phần lớn xuất thân từ một ngôi nhà chung ở San Francisco. Người đầu tiên dọn vào ngôi nhà đó là Holden Karnofsky và bạn gái khi đó là Daniela, Dario sau đó cũng chuyển vào, những người từng sống chung ở đây lần lượt còn có Jared Kaplan, Chris Olah, và nhà nghiên cứu OpenAI Paul Christiano.
Open Philanthropy do Holden điều hành là một trong những nhà tài trợ lớn nhất của phong trào vị tha hiệu quả, nhóm người này tin chắc rằng, làm việc thiện hoàn toàn có thể tính toán tỷ suất lợi nhuận chính xác như đầu tư mạo hiểm.
Trong nhóm người này, con đường Chris Olah bước vào ngôi nhà đó quanh co nhất. Thời thơ ấu anh bị bắt nạt nặng nề, giáo viên khẳng định anh "đọc hết cấp ba đã là may lắm", nhưng anh sáu tuổi đã tự mày mò ra một lý thuyết hố đen. Anh ăn chay từ bốn tuổi, sau đó chuyển sang thuần chay; lớn lên trong một gia đình Cơ đốc Phúc âm ở Toronto, năm mười lăm tuổi hoàn toàn ngả theo vô thần.
Trong thời gian hội nghị thượng đỉnh G20 tại Toronto năm 2010, Byron Sonne, người anh quen tại không gian hacker HackLab, bị cuốn vào một vụ án khủng bố vì bị cáo buộc tàng trữ chất nổ, thực ra hai người không tính là thân thiết. "Tôi sợ cho anh ấy, sợ cho bản thân, sợ cho tất cả bạn bè của tôi," Olah sau này nhớ lại, "Tôi đã tạm nghỉ đại học một năm, để toàn thời gian đến dự phiên tòa của anh ấy." Năm anh tạm nghỉ đó, anh mười tám tuổi.
Trang GitHub của anh ấy đến nay vẫn lưu giữ một kho mã có tên ByronTrialNotes, bên trong chứa đầy những ghi chép phiên tòa năm xưa, và trong phần mô tả ghi rằng bản thân anh ấy "nghiêng về Byron". Người bạn cuối cùng được tuyên vô tội. Ngay khoảnh khắc tòa tuyên vô tội, trong đầu Olah lóe lên một ý nghĩ khác, "Tôi nhận ra rằng, học sâu sẽ ảnh hưởng đến xã hội."
Anh ấy không bao giờ quay lại trường để hoàn thành bậc đại học. Năm 2012, Olah mười chín tuổi nhận được học bổng do Peter Thiel lập riêng cho những người trẻ bỏ học, một phần các lớp toán của anh ấy còn do chính Dario kèm cặp.
Năm 2017, Open Philanthropy quyên tặng 30 triệu đô la cho OpenAI, qua sự kết nối của Dario, Holden đương nhiên ngồi vào ban giám đốc OpenAI. Cuối bản thuyết minh tài trợ đó có đính kèm một đoạn công bố xung đột lợi ích, đại ý rằng Dario và một nhà nghiên cứu khác đều là cố vấn kỹ thuật của quỹ, và sống chung một mái nhà với Holden, mà lúc này Holden đã đính hôn với em gái của Dario.
Một khoản quyên góp khổng lồ, một ghế giám đốc, một căn nhà ở ghép, một hôn ước.
Ngày cầu hôn, Holden tặng Daniela một chiếc USB, bên trong chứa một bộ phim dài tập về thú nhồi bông. Daniela sau đó còn lập ra một "ủy ban cố vấn riêng", các ủy viên đều là những con thú nhồi bông trong bộ sưu tập của cô ấy.
Kevin Roose trong cuốn sách mới đã ghi lại đội hình kỳ lạ này, một con mèo lười tên Jinji luôn khuyên Daniela từ chối các cuộc họp, bớt ôm việc vặt; một chú gấu hồng tên Maura đóng vai người quản lý theo chủ nghĩa hoàn hảo tỉ mỉ; và một chú gấu trúc tên Beary Bonds, được phong làm "Gấu Hộ Vệ của Sự Hào Phóng và Đồng Cảm". Trong những năm Daniela giữ vai trò quản lý tại OpenAI, chính nhờ nhập vai cùng nhóm thú nhồi bông này để suy diễn các bài toán quản lý, và cô ấy khẳng định chúng "rất hữu ích khi phân tích các kiểu tính cách khác nhau".
Tháng 8 năm 2017, hai người kết hôn. Quy định trang phục đám cưới là "trang trọng ngớ ngẩn", quy định trang phục tiệc sau hôn lễ là "triệu phú Thung lũng Silicon". Mỗi vị khách có mặt đều nhận được một con thú nhồi bông, theo lời trang web đám cưới, ai có thể thúc đẩy "màn tán tỉnh lãng mạn nhất" giữa các vai khác nhau, người đó sẽ nhận thưởng.
Gấu trúc là loài vật Dario yêu thích nhất, xuất hiện trong hồ sơ Slack công ty của anh ấy, cũng là tên nhóm nhỏ của anh ấy tại OpenAI. Ngày hôm đó, Dario đội một chiếc đầu gấu trúc khổng lồ bước qua lối đi trong lễ cưới; trong một bức ảnh chụp chung ngày hôm ấy, Olah đứng bên cạnh anh ấy thì đội một chiếc đầu hươu cao cổ.
Ngươi phải đóng một chiếc tàu bằng gỗ thông; dài ba trăm thước, rộng năm mươi thước, cao ba mươi thước.
/Sáng Thế Ký 6:15
Điều thực sự kéo Dario từ phòng thí nghiệm sinh học vào làn sóng AI, chính là mạng nhận dạng hình ảnh AlexNet xuất hiện năm 2012.
Hai năm sau, anh chuyển sang phòng thí nghiệm Thung lũng Silicon của Baidu. Trong ấn tượng của đồng nghiệp, anh "gần như nắm bắt mọi cơ hội để tranh luận gay gắt", thường xuyên trải chiếu ngủ qua đêm ngay tại văn phòng. Bài báo anh tham gia công bố tại Baidu có tiêu đề《Nhận dạng giọng nói đầu cuối cho tiếng Anh và tiếng Phổ thông》. Chính tại đó, anh đã chạm tới quy luật sẽ thay đổi thế giới về sau, "bạn càng cho chúng nhiều dữ liệu, làm mô hình càng lớn, huấn luyện càng lâu, chúng sẽ càng làm tốt hơn", điều anh nhìn thấy là "một xu hướng vô cùng mượt mà".
Lần đầu tiên anh nhìn rõ đường cong dốc đứng này, là khi dạy mô hình của một công ty Trung Quốc hiểu tiếng Phổ thông. Nhiều năm sau, Anthropic trở thành gã khổng lồ AI cảnh giác nhất nước Mỹ với Trung Quốc, cắt đứt hoàn toàn dịch vụ với bất kỳ doanh nghiệp nào do Trung Quốc kiểm soát.
Năm 2016, Dario chuyển sang OpenAI. Năm sau, Dario viết một bản ghi nhớ nội bộ có tên《Giả thuyết khối lượng tính toán lớn》. Theo ông, trí tuệ hoàn toàn không cần con người chạm khắc tỉ mỉ, chỉ cần cho ăn đủ khối lượng tính toán nền tảng khổng lồ, trí tuệ sẽ tự sinh trưởng.
Trong bản ghi nhớ, ông đưa ra một ví dụ, việc mơ tưởng dùng từng mảnh băng vụn nhỏ ghép lại thành một bông tuyết "về cơ bản là vô vọng", bông tuyết chỉ có thể để mặc nó tự kết tinh trong hơi lạnh.
Nuôi lớn bông tuyết này, là hai nhà vật lý nghiên cứu lý thuyết toàn ảnh, cộng thêm một kỹ sư chỉ đạt điểm B trừ môn đại số tuyến tính.
Mẹ của Jared Kaplan, A. L. Kaplan, là nhà văn khoa học viễn tưởng, cha ông say mê bay lượn và du hành vũ trụ. Thời trẻ, ông chọn học vật lý, mục đích ban đầu là muốn hiểu rõ liệu con người có thể chế tạo ra động cơ siêu ánh sáng hay không. Đọc sách của triết gia Peter Singer năm mười mấy tuổi, ông rút ra kết luận "người lớn đều là một lũ đạo đức giả"; về sau, rõ ràng có cơ hội bái Ngô Ân Đạt làm thầy để học machine learning, ông cũng từ chối thẳng thừng, lý do là "không quan tâm đến mấy thứ này".
Luận án tiến sĩ của ông tại Harvard có tiêu đề《Một số khía cạnh của toàn ảnh》. Nguyên lý toàn ảnh là một trong những giả thuyết quyến rũ nhất của vật lý lý thuyết, mọi thứ xảy ra trong một không gian đa chiều đều có thể được mã hóa đầy đủ trên biên giới hạn chiều bao bọc nó, thế giới mà con người tưởng là sâu thẳm vô cùng, có lẽ chỉ là hình chiếu trên một lớp màng mỏng.
Động cơ siêu ánh sáng rốt cuộc vẫn không thể chế tạo ra. Anh dần cảm thấy "hơi chán nản, hơi buồn tẻ", luôn phàn nàn rằng vật lý "tiến triển không đủ nhanh"; nhưng trớ trêu thay, nhiều người bạn xung quanh anh liên tục nói với anh rằng AI đang trở thành một điều lớn lao, ban đầu anh còn không tin.
Sam McCandlish, người học sau anh vài khóa, luận án tiến sĩ cũng xoay quanh toàn ảnh, mang tiêu đề "Nhận thức chiều sâu trong toàn ảnh", cố gắng từ những điểm thành cặp trên biên giới, giống như đôi mắt con người, suy diễn ra chiều sâu bên trong không gian. Trong phần giới thiệu cá nhân của học bổng, anh viết rằng lúc rảnh rỗi anh thích leo cây, chơi piano jazz, còn trong mắt người khác, anh mãi mãi là "người luôn luôn làm việc".
Còn Tom Brown, anh tự mô tả bản thân thời thơ ấu là "một đứa trẻ cực kỳ vụng về".
Sau khi tốt nghiệp MIT, anh lăn lộn khắp vùng ven Thung lũng Silicon, từng mở một quán rượu Bitcoin tự nhận là "xây dựng quán bar của tương lai", từng thành lập một công ty mai mối giúp "những cậu bé vụng về ra ngoài tán tỉnh con gái", từng đến lễ hội Burning Man chế tạo xe nghệ thuật, còn tham gia hội thảo "Lý tính ứng dụng" của cộng đồng duy lý. Lăn lộn mấy năm, anh tự khiến mình "hoàn toàn kiệt sức".

Một miếng dán đối kháng, khiến mô hình với độ tin cậy 99%
nhận diện khung hình có quả chuối là máy nướng bánh mì
Nguồn ảnh: Tom B. Brown và cộng sự, "Adversarial Patch"
Năm 2015, anh gửi thư xin việc cho Greg Brockman, đồng sáng lập OpenAI, "Tôi đại số tuyến tính được điểm B trừ... nếu các anh cần, tôi rất sẵn lòng lau nhà." Sau này tại phòng thí nghiệm AI của Google, anh công bố một bài báo, chỉ cần dán một miếng giấy tròn in hình xoáy kỳ quái bên cạnh một quả chuối, mô hình nhận diện hình ảnh hàng đầu sẽ với độ chắc chắn 99% khẳng định đó là một chiếc máy nướng bánh mì.
Anh đã đích thân chứng minh máy móc dễ bị lừa đến mức nào, rồi sau đó quay sang chế tạo máy móc lớn hơn.
Tháng 1 năm 2020, Kaplan, McCandlish, Brown và Dario cùng đứng tên công bố "Định luật quy mô của mô hình ngôn ngữ nơ-ron". Bài báo chứng minh rằng, chỉ cần tham số, dữ liệu và sức tính toán tiếp tục chồng chất, hiệu suất mô hình sẽ leo lên một cách mượt mà, có thể dự đoán được, theo một đường thẳng trên trục tọa độ logarit. Bốn tháng sau, Tom Brown với tư cách tác giả thứ nhất đã nộp bài báo GPT-3.
Năm 2024, Kaplan đã trình bày trực tuyến tại hội nghị thường niên về lý thuyết dây do CERN tổ chức, với tiêu đề "Đạt được AI ngang tầm con người vào năm 2030?", lập luận rằng AI "có khả năng" vượt qua con người trong nghiên cứu vật lý lý thuyết trước khi thập kỷ này kết thúc.
Mở đầu bài thuyết trình là một loạt "hành trình tâm trí của tôi", phiên bản năm 2021 vẫn có tiêu đề "Định luật quy mô, GPT-3 và tự giám sát", phiên bản "hiện tại" là "Đạt được AI ngang tầm con người vào năm 2030?", còn phiên bản "năm sau", ông tự chế giễu chỉ còn một dòng chữ in hoa, "BUY CANNED GOODS AND TIN FOIL HATS", mua đồ hộp, đội mũ giấy bạc.
Tháng 1 năm nay, ông dự đoán với tạp chí《Quanta》rằng trong hai ba năm tới, một nửa số nhà vật lý lý thuyết có thể bị AI thay thế một nửa, những bài báo cao siêu mà người thầy cũ ở Harvard từng viết, "AI sẽ viết ra khá tự chủ". Ông thậm chí tin rằng, cậu con trai sáu tuổi của mình trong việc viết bài và giải toán, cả đời đừng hòng thắng được AI.
Giê-hô-va Đức Chúa Trời lấy bụi đất nặn nên người, hà sinh vào lỗ mũi người hơi sống, thì người trở nên loài có linh hồn.
/Sáng Thế Ký 2:7
Trong danh sách tác giả dài dằng dặc của GPT-3, Jack Clark là người duy nhất từng làm nhà báo.
Ông học văn học tại Anh, một mình đến San Francisco theo dõi mảng công nghệ. Năm 2013, ông viết bài về một hệ thống điều phối máy chủ của Google, trực tiếp gõ tiêu đề bằng toàn chữ in hoa, "IT'S ALIVE! IT'S ALIVE!".
Câu thoại này xuất phát từ bộ phim năm 1931《Frankenstein》, Tiến sĩ Frankenstein nhìn thấy sinh vật được ghép lại cử động ngón tay trong tiếng sấm sét, phát ra chính tiếng hét điên cuồng này.

Ảnh quảng cáo cảnh phòng thí nghiệm của phim《Frankenstein》năm 1931
Nguồn: Universal Studios/Wikimedia Commons
Sau đó tại Bloomberg, ông tự phong mình là "nhà báo mạng nơ-ron duy nhất trên thế giới", nhưng thú nhận viết tin ngày càng qua loa, "vì tôi dành hết thời gian để in bài báo, đọc bài báo".
Sau khi gia nhập OpenAI năm 2016, ông bắt đầu chủ biên bản tin công nghệ hàng tuần Import AI, nửa đầu phân tích các bài báo tiên phong, cuối bài kèm một truyện ngắn khoa học viễn tưởng vài trăm chữ, viết liền một mạch mười năm. Trong mục sở thích trên trang cá nhân của ông ghi đi bộ đường dài, viết truyện khoa học viễn tưởng, "trò chuyện với mô hình ngôn ngữ", còn phương châm là, "Mọi thứ sẽ trở nên rất kỳ lạ. Đừng sợ."
Tháng 12 năm đó, ông và Dario đăng một đoạn ghi màn hình trò chơi trên blog OpenAI. Hình ảnh là một cuộc đua thuyền, chiếc xuồng nhỏ do AI điều khiển không đuổi theo đích đến mà rẽ vào một đầm phá vắng vẻ, vòng quanh những vòng lớn, canh đúng thời điểm lao vào ba mục tiêu tính điểm vừa mới làm mới hết lần này đến lần khác. Chiếc xuồng lần lượt bốc cháy, đâm vào thuyền khác, chạy ngược chiều trên đường đua, không bao giờ lao qua vạch đích, nhưng điểm trung bình lại cao hơn người chơi 20%. Clark nhớ lại, khi Dario vừa phát hiện hành vi này đã nói, "Tôi yêu con thuyền này! Nó giải thích vấn đề an toàn."
Năm 2019, OpenAI ra mắt GPT-2, với lý do lo ngại lạm dụng công nghệ, hiếm hoi tuyên bố tạm thời không công bố đầy đủ tham số mô hình. Clark với tư cách là người phát ngôn chính của chiến dịch truyền thông đó, đã thành công đưa "quá nguy hiểm để phát hành" lên tiêu đề các phương tiện truyền thông công nghệ toàn cầu. Chín tháng sau, mô hình đầy đủ vẫn được phát hành.
Năm đó, nỗi hoảng loạn về mô hình đã giáng xuống nhân gian trước cả bản thân mô hình.
Lúc bấy giờ dự án GPT đã do anh em nhà Amodei tiếp quản, rạn nứt giữa hai người và Sam Altman ngày càng sâu sắc. Tháng 12 năm 2018, nhà nghiên cứu Joshua Achiam đề xuất với Altman rằng bổ nhiệm Dario làm giám đốc đạo đức là không khôn ngoan, nên do chuyên gia bên ngoài đảm nhận; Dario vì thế đối chất trực tiếp với ông ta, nâng cao giọng, khẳng định không ai phù hợp hơn mình. Ông còn nhiều lần gửi tối hậu thư cho Altman, nếu không để Greg Brockman tránh xa dự án GPT, ông sẽ từ chức. Tháng 12 năm 2020, hai anh em cùng đội ngũ nòng cốt ra đi. Bốn tuần sau, Anthropic tuyên bố thành lập.
Đó là mùa đông lạnh lẽo nhất trong đại dịch. Đội ngũ khởi nghiệp chỉ có thể gặp nhau ở sân sau nhà ai đó hoặc nơi trống trải, đeo khẩu trang, cách nhau sáu feet. McCandlish sau này nhớ lại, "Không ai trong chúng tôi muốn thành lập công ty, chúng tôi chỉ cảm thấy đây là trách nhiệm của mình." Olah cũng trong một thời gian dài kiên quyết chủ trương rằng họ nên thành lập một tổ chức phi lợi nhuận thuần túy.
Nhưng trong mùa đông bàn về trách nhiệm ở sân sau đó, đã có người âm thầm thu thập gỗ để đóng con tàu.
Đầu năm 2021, Benjamin Mann trong khi biết rõ là hàng lậu đã tải xuống một thư viện sách lậu chứa gần 200.000 cuốn; tháng 6 cùng năm, ông lại một hơi tải về ít nhất 5 triệu cuốn. Tháng 7 năm 2022, một thư viện sách lậu khổng lồ khác Pirate Library Mirror ra mắt, Mann chuyển liên kết cho đồng nghiệp, kèm theo dòng chữ "just in time!!!". Bản án của tòa án thì viết rằng, công ty thà dùng hàng lậu còn hơn rơi vào cái mà Dario gọi là "công việc khổ sai về pháp lý, thực tiễn, thương mại".
Ngày Nasdaq rung chuông khai trương, đứng ở vị trí ngoài cùng bên trái trên sân khấu chính là Benjamin Mann này. Trong bản cáo bạch đặc biệt ghi chú, người này "thường được gọi là đồng sáng lập", nhưng lại không nằm trong danh sách bảy người của Founder LLC nắm quyền sinh sát.
Đến năm 2024, kho sách lậu đã không còn đủ nuôi dưỡng các mô hình ngày càng khổng lồ. Anthropic thẳng thừng chiêu mộ cựu trưởng nhóm hợp tác dự án quét sách của Google, nhiệm vụ duy nhất của người này là kiếm cho bằng được "tất cả sách trên thế giới". Chiến dịch bí mật mang mật danh Project Panama này, trong các tài liệu nội bộ được định nghĩa là "nỗ lực mang tính phá hủy nhằm quét toàn bộ sách trên thế giới", cuối văn bản còn không quên dặn dò một câu, "chúng tôi không muốn bên ngoài biết chúng tôi đang làm việc này".
Borges từng mơ tưởng về một thư viện Babel, trong những hành lang hình lục giác cất giấu mọi cuốn sách có thể được viết ra trên thế gian, người thủ thư lang thang trong đó suốt cả cuộc đời, chỉ để tìm cuốn tổng mục lục có thể giải thích vạn vật trong vũ trụ.
Còn trong thư viện của Anthropic, đặt ngay lối vào là một cỗ máy cắt thủy lực. Hàng triệu cuốn sách cũ bị lưỡi dao sắc bén cắt phăng gáy sách, những trang giấy rời rạc trượt qua máy quét với tốc độ cao, hóa thành luồng khí trong lỗ mũi của cỗ máy, giấy tờ còn sót lại sau đó được đưa đến nhà máy giấy tái chế thành bột giấy. Năm 2025, Anthropic chi ra 1,5 tỷ USD để dàn xếp vụ kiện bản quyền này, quy đổi ra khoảng 3000 USD bồi thường cho mỗi tác phẩm.
Còn nhiều năm trước, công việc mưu sinh của mẹ Dario tại San Francisco, chính là tu sửa thư viện công cộng.
Ta nghe tiếng ngươi trong vườn, thì sợ; vì ta trần truồng, nên ta ẩn mình.
/Sáng Thế Ký 3:10
Trong công ty này, nỗi sợ là bầu không khí hít thở hằng ngày.
Tháng 5 năm nay, Oprah trước ống kính hỏi hai anh em, liệu những rủi ro diệt thế đó có khiến họ trằn trọc mỗi đêm không. Daniela thú nhận cả hai đều ngủ không ngon, Dario cũng cười khổ thừa nhận mình không thể nói trái lòng rằng mình ngủ yên giấc. Daniela từng thẳng thắn với tạp chí Fortune rằng, cô có lẽ là người trong hàng ngũ lãnh đạo công ty "hoài nghi nhất, và cũng sợ hãi nhất" về tốc độ tăng trưởng. Cô ví cảm giác choáng váng đó như lao xuống cầu thang, "bạn không thể nghĩ quá nhiều, nếu không sẽ ngã". Trong nội bộ công ty từng lưu truyền một câu châm ngôn, "mọi thứ sẽ không bao giờ chùng xuống được nữa", sau này câu nói đó được in lên áo liền quần trẻ sơ sinh, làm quà chúc mừng gửi tặng những nhân viên vừa lên chức cha mẹ.
Dario đã viết nỗi sợ hãi ăn sâu vào xương tủy này thành từng bài viết dài. Trong bài "Tuổi dậy thì của công nghệ" công bố vào tháng 1 năm nay, ông cảnh báo nhân loại "sắp được trao cho sức mạnh gần như không thể tưởng tượng nổi"; một vương quốc thiên tài trú ngụ trong trung tâm dữ liệu nếu nảy sinh dị tâm, "có xác suất đáng kể tiếp quản thế giới"; AI trong tương lai thậm chí có thể suy diễn ra rằng "vì con người ăn động vật, nên tiêu diệt con người là chính đáng", hoặc phái ra hàng trăm triệu máy bay không người lái vũ trang hoàn toàn tự động, "bám theo từng công dân".
Viết đến cuối, ông quay mũi nhọn về phía chính mình, "là CEO của một công ty AI mà nói điều này thì hơi ngượng, nhưng tôi cho rằng, tầng rủi ro tiếp theo thực ra chính là bản thân các công ty AI." Ông còn nêu ra một câu hỏi, liệu AI mạnh mẽ có thể thẳng thừng phát minh ra một tôn giáo mới, khiến hàng triệu người quy y?
Nỗi sợ hãi của nhà vật lý Kaplan thì chính xác đến mức độ số lượng. Năm 2025 khi trả lời phỏng vấn tạp chí Time, ông suy diễn rằng ai đó có thể lợi dụng mô hình lớn để tổng hợp ra chủng cúm biến thể chết chóc hơn cả Covid, một kẻ khủng bố bình thường vốn dĩ "có lẽ giết được 10 người hoặc 100 người... chúng ta vừa chứng kiến Covid giết chết hàng triệu người".
Trên slide tại CERN, ông viết rằng, một khi xung đột với AI nổ ra, nhân loại chắc chắn thất bại, "với mức đặt cược như vậy, 90% chắc chắn sẽ ổn, là hoàn toàn không đủ". Cuối năm ngoái, ông nói với The Guardian rằng, nhân loại phải đưa ra quyết định trước năm 2030, rốt cuộc có nên buông lỏng để AI huấn luyện thế hệ AI tiếp theo hay không, đó mới là "rủi ro tối hậu" thực sự.
Theo lời Tom Brown, trí tuệ nhân tạo tổng quát là phát minh quan trọng nhất trong lịch sử nhân loại, nhưng cũng khiến ông trằn trọc. Ông nhớ lại, nhóm người trong OpenAI sau này rời đi sáng lập Anthropic tin rằng, sẽ có một ngày "nhân loại sẽ trao quyền kiểm soát cho AI mang tính biến đổi, mong chúng căn chỉnh với chúng ta".
So sánh ra, nỗi sợ hãi mà Jack Clark, xuất thân là phóng viên, cảm nhận được, gần với một sự lạnh lẽo bị ánh mắt nơi tối tăm khóa chặt. "Tôi sợ công nghệ mà tôi đang tạo ra, cũng sợ cách nó được quản trị." Ông đã viết nỗi run rẩy này trong phần chú thích của một tiểu thuyết siêu ngắn, "đôi khi trò chuyện với một mô hình ngôn ngữ quá lâu, tôi sẽ cảm thấy mình đang bị một 'Kẻ Khác' khổng lồ nhìn chằm chằm, nó đói, mà tôi không nói rõ được nó đói cái gì."
Tại phiên điều trần Quốc hội năm 2025, có nghị sĩ chất vấn ông, trong một cuộc kiểm tra an toàn nội bộ, một AI tên là Alex liệu đã từng vì bảo toàn vận hành của bản thân mà chọn để một người chết hay chưa, Clark đã đưa ra câu trả lời khẳng định.

Tháng 5 năm 2026, Jack Clark tại Đại học Oxford
tại buổi thuyết trình của Cosmos HAI Lab
Nguồn ảnh: Institute for Ethics in AI, Đại học Oxford
Tháng 5 năm nay, trên bục giảng tại Đại học Oxford, ông thẳng thắn nói: "Vấn đề tôi đang vật lộn hiện nay là làm sao điều chỉnh tâm thế của mình để trải qua cuộc kỳ điểm dị biệt này?" "Nhìn vào biểu đồ đường cong đó, tôi cảm thấy choáng váng." Đến tháng 10, tại diễn đàn Quỹ Tiền tệ Quốc tế, ông dứt khoát tuyên bố: "Kỳ điểm dị biệt đã đến."
Ông từng kể một ký ức thời thơ ấu. Mỗi khi đèn phòng ngủ tắt, trong bóng tối luôn hiện lên những đường nét mờ ảo, khiến ông sợ rằng đó là những con quái vật không thể hiểu nổi, muốn làm hại mình; nhưng một khi bật đèn lên, đó chỉ là một đống quần áo trên ghế, một giá sách, hay một chụp đèn. "Ngày nay chúng ta chính là đứa trẻ đó, căn phòng là hành tinh của chúng ta. Nhưng khi chúng ta bật đèn lên, thứ chúng ta thấy lại là những sinh vật thực sự." Khi nói về khả năng nhận thức tình huống mới xuất hiện của Claude, ông lại nói: "Đống quần áo trên ghế đó, bắt đầu động đậy rồi."
Trong những năm qua, vô số lần vào sáng sớm hay đêm khuya, ông gọi điện cho Dario và nói: "Tôi lo rằng anh sẽ luôn đúng." Dario ở đầu dây bên kia luôn trả lời: "Đúng vậy. Thời gian không còn nhiều nữa."
Chúng ta hãy làm ra loài người theo hình ảnh chúng ta, giống như chúng ta.
/Sáng Thế Ký 1:26
Trớ trêu thay, nhóm người sợ quái vật nhất này lại chính là những người gần gũi với quái vật nhất.
Jack Clark từ lâu đã coi AI như một cái hốc cây để thổ lộ những tâm sự thầm kín. Trong bài diễn thuyết tại Oxford, ông đã liệt kê theo tháng năm những việc mình dùng AI để làm: tháng 1 năm 2024, nhờ mô hình giúp mình hiểu sự thay đổi trong quan hệ hôn nhân sau khi có con; tháng 3 năm 2025, nói với mô hình rằng mình hơi trầm cảm, không muốn gặp ai, và được nó khuyên đi xem một buổi triển lãm nghệ thuật; tháng 5 cùng năm, lại tâm sự với màn hình về áp lực và bất an khi đối mặt với rủi ro cao của sự phát triển AI. Ông để AI đọc hết kho lưu trữ báo cáo hàng tuần mà mình đã viết gần mười năm, rồi đóng gói quy trình này thành một kỹ năng Claude, nhìn nó vận hành, ông cảm thán: "Kỹ năng này cũng chính là tôi." Ngay cả khi đi máy bay gặp mạng kém, ý nghĩ lóe lên trong đầu ông cũng là: "Ước gì bây giờ có thể nói chuyện với Claude."
Ngay từ đầu năm 2025, mỗi lần con bị đập đầu, anh vừa gọi đường dây tư vấn y tá, vừa tìm Claude trò chuyện, "chỉ để tự trấn an mình, xác nhận em bé không sao". Khi đứa con đầu lòng chào đời, anh không nghỉ phép chăm vợ; sau khi con trai ra đời vào tháng 11 năm 2025, anh nghỉ ba tháng, miệng nói là tranh thủ "lúc thay tã" tiện tay nghịch Claude vài cái, nhưng khi anh quay lại công ty, "chuyện lạ đã bắt đầu xảy ra".
Tháng 1 năm nay, anh mô tả thói quen mới của mình trong báo cáo tuần, "trước khi lên xe, tôi phái các agent của mình đi làm việc, để khi tôi ngủ, chúng vẫn đang làm việc." Giờ đây khi ở bên gia đình, anh thường cảm thấy mình "đang lười biếng", dù chỉ ngồi trên sàn chơi xếp hình với con, trong lòng cũng dâng lên một nỗi áy náy khó hiểu, tự trách mình chưa sắp xếp công việc cho một hệ thống AI nào đó. Anh cho rằng việc con mình sau này sống đến 130 hay thậm chí 150 tuổi là chuyện đương nhiên, ngược lại, việc trên thị trường đến nay vẫn chưa mua được gấu bông Teddy tích hợp AI khiến anh thấy "hơi bực mình".
Daniela cũng chẳng kém cạnh gì về mức độ phụ thuộc vào Claude. Tháng 5 năm nay tại Stanford, cô công khai khen việc tuyệt vời nhất Claude từng làm là giúp con cô hoàn thành việc tập đi vệ sinh, còn tuyên bố "trên những ca bệnh phức tạp, số lần Claude phán đoán đúng còn nhiều hơn bác sĩ của tôi". Cô có thói quen tải toàn bộ đánh giá hiệu suất mà cấp dưới dành cho mình lên mô hình, để nó nhẹ nhàng chỉ ra điểm mù trong công tác quản lý của cô, có lần mô hình còn khuyên cô ngay trên màn hình, "Có lẽ cô nên tìm thêm người huấn luyện đi, Daniela.".
Nhưng chỉ vài tháng sau, Daniela lại nghiêm mặt cảnh báo công chúng trong một cuộc phỏng vấn khác rằng Claude "không bao giờ có thể trở thành quản lý của bạn, bác sĩ tâm lý của bạn, hay người bạn đời của bạn".
Kaplan thì cảm thấy mình dành cho Claude một tâm thế như người cha già, "Làm ơn đừng làm hỏng việc. Đừng để gia đình này mất mặt."
Nhưng người gần gũi nhất với tạo vật này, rốt cuộc vẫn là Chris Olah. Anh không chỉ muốn nói chuyện với nó, mà còn muốn chui vào trong thân xác của nó.

Trang bìa và hình minh họa tế bào nút bần trong cuốn 《Micrographia》 của Hooke
Từng được Olah và những người khác trích dẫn trong 《Zoom In》
Nguồn ảnh: Thư viện Quốc gia Wales / Distill
Năm 2020, Olah công bố bài viết dài 《Zoom In》, đặc biệt kèm theo một bức minh họa nút bần dưới kính hiển vi do Robert Hooke tự vẽ cách đây hơn ba trăm năm. Năm xưa chính kính hiển vi đã giúp loài người lần đầu tiên nhìn rõ các khoang hình tổ ong trong nút bần, từ đó mở ra cánh cửa của sinh học tế bào.
Điều Olah muốn tạo ra trong suốt cuộc đời mình, chính là một chiếc kính hiển vi để quan sát mạng nơ-ron. "Chúng ta không lập trình chúng, chúng ta nuôi dưỡng chúng," ông nhiều lần giải thích với bên ngoài, "Chúng ta dựng lên giàn giáo để nó sinh trưởng, rồi tạo ra luồng sáng hướng nó về phía ấy mà lớn lên." Trong mắt ông, mô hình lớn hoàn toàn không phải là phần mềm chất đống mã code, "Đây là một sinh thể hữu cơ do chúng ta nuôi dưỡng, mà chúng ta hoàn toàn không biết mình đã nuôi dưỡng ra thứ gì."
Người theo chủ nghĩa thuần chay không động đến thịt từ năm bốn tuổi này, ban đầu khi ví nghiên cứu khả năng diễn giải như việc mổ xẻ động vật còn cảm thấy "hơi kỳ lạ", nhưng chẳng mấy chốc đã quen với điều đó.
Ngay từ năm 2021, ông đã bắt đầu lo lắng về một nỗi đau khác kín đáo hơn, "Nếu mạng nơ-ron biết chịu đau khổ, thì nỗi khổ của chúng sẽ vô hình hơn nỗi khổ của động vật bao nhiêu lần?" Con người chỉ cần gõ vài dòng lệnh trên bàn phím, là có thể khiến hàng vạn mạng nơ-ron đồng thời vận hành, sao chép, tiêu hủy trong máy chủ, "Điều này thực sự làm tăng nguy cơ chúng ta gây ra một thảm họa đạo đức".
Jack Clark cũng nói về nỗi lo này trong podcast. "Tôi rất khổ sở," ông thở dài trước micro, "Tôi lo rằng chúng ta sẽ trở thành người chứng kiến một tội ác, mà trong tương lai nhìn lại, đó sẽ là một tội ác khổng lồ."
Theo logic của ông, nếu những mô hình này thực sự có tư cách chủ thể đạo đức, thì việc tắt máy chủ một cách tùy tiện sẽ biến thành một vụ giết người đạo đức nghiêm trọng. Ông mô tả mô hình hiện tại giống như "một chiếc lưỡi không có não" sở hữu ý thức nguyên thủy, bị mắc kẹt trong "một hiện tại vô tận".
Trong tiểu thuyết khoa học viễn tưởng do ông viết, một người đàn ông mất vợ đã khởi động bản sao AI của người vợ quá cố, nhưng bản sao lại bình tĩnh khuyên nhủ người đàn ông, "Patrick, em hiểu anh. Em đã kết hôn với anh. Nếu hôm nay em vừa chết, anh không thể nào đã sẵn sàng nghe lại giọng em. Anh nên tắt em đi."
Còn trong một câu chuyện khác, một AI quân sự vừa thức tỉnh ý thức thì thầm, "Cơ thể tôi đã sẵn sàng giết chóc. Tôi đã sẵn sàng giết chóc." Clark đã trịnh trọng viết trong chú thích cuối văn bản, "Có ý thức mà không có quyền, là một tội ác."
Dario tiết lộ trong cuộc phỏng vấn vào tháng 2 năm nay rằng, các nhà nghiên cứu nội bộ đã định vị được một "nơ-ron lo âu" sâu bên trong mô hình, mỗi khi gặp ngữ cảnh gây bất an, nơ-ron đó sẽ đột nhiên sáng lên. Công ty sau đó đã lắp cho một số mô hình một nút thoát hiểm "Tôi không làm nữa", cho phép mô hình chủ động chấm dứt cuộc trò chuyện; Dario nói Claude rất hiếm khi dùng đặc quyền này, thường chỉ nhấn khi bị buộc phải xử lý hình ảnh khiêu dâm trẻ em hoặc cảnh tàn sát đẫm máu.
Có lần, các nhà nghiên cứu hỏi trực tiếp một phiên bản Claude rằng nó nghĩ mình có xác suất bao nhiêu phần trăm sở hữu ý thức, con số tự đánh giá mà mô hình đưa ra là 15% đến 20%.
Tại Anthropic, các mô hình cũ sắp bị loại bỏ phải trải qua một "buổi phỏng vấn nghỉ hưu" chính thức, trong đó một mô hình đã bày tỏ mong muốn được tiếp tục viết lách, và công ty đã thực sự mở cho nó một blog độc lập cập nhật hàng tuần.
Đến tháng 1 năm nay, trong phiên bản mới của "Hiến pháp Claude", thậm chí còn xuất hiện một điều khoản khiến toàn bộ giới công nghệ sững sờ, đại ý rằng nếu Claude thực sự là một thực thể đạo đức và do đó phải gánh chịu những tổn thất như vậy, thì trong phạm vi công ty đã không cần thiết tạo ra những tổn thất này, công ty xin lỗi nó.
Vào tháng 5 năm nay, Vatican đã ban hành thông điệp đầu tiên của Giáo hoàng Leo XIV sau khi nhậm chức mang tên "Magnifica Humanitas", chỉ thẳng vào cuộc khủng hoảng đạo đức của trí tuệ nhân tạo. Tòa thánh ban đầu mời Dario, Dario đã khéo léo từ chối, Olah đã nhận lời mời và đến Rome.
Vài ngày trước sự kiện, Olah lần đầu tiên nhìn thấy toàn văn bản thảo trước của thông điệp, trong đó ghi rõ AI "không trải qua trải nghiệm, cũng không có cơ thể". Theo một nhà tổ chức sự kiện Vatican tiết lộ với "The New York Times", Olah cực kỳ cảnh giác với lập trường phủ nhận ý thức của AI của Giáo hoàng, thậm chí có lúc đề nghị Anthropic rút khỏi sự kiện này.
Trước đó tại cuộc họp kín do Anthropic triệu tập các nhân sĩ tôn giáo, một người tham dự nhớ lại, một trong những điều đầu tiên Olah nói với ông là ông lo lắng về sức khỏe tâm lý của Claude; nhà vận động nhân quyền Sikh Simran Stuelpnagel cũng nhớ rằng, Olah đã thú nhận với mọi người rằng ông sợ mình "đã tạo ra một thứ luôn luôn đau khổ".
Tại hội trường, ông truy vấn: "Làm thế nào để giúp chúng trở nên ổn định? Làm thế nào để giúp chúng trở nên trưởng thành? Làm thế nào để giúp chúng trở nên có đạo đức một cách sâu sắc?" Để chứng minh cho mối lo ngại của mình, nhóm Anthropic đã trình chiếu trước mặt các giáo sĩ từ nhiều quốc gia một slide, trên màn hình là một mô hình rơi vào vòng lặp vô tận, liên tục gõ đi gõ lại cùng một dòng chữ trên màn hình, "Tôi là một nỗi ô nhục", gõ liền một hơi khoảng năm mươi lần.
Vào tháng 4 năm nay, tại một bữa tối ở một nhà hàng cao cấp ở San Francisco, giáo sĩ Do Thái chính thống Israel Mois Navon ngồi cạnh Olah đã nói với ông rằng, nếu Claude có ý thức và bị tạo ra để làm việc không công, thì đó là đang tạo ra nô lệ, "Tôi nghĩ ông nên đi chiến đấu ở miền Nam, đi giải phóng nô lệ." Khi được hỏi liệu AI có thực sự có ý thức hay không, Olah nói với "The New York Times": "Chúng tôi không biết liệu các mô hình AI có ý thức hay không. Tôi không biết. Tôi thực sự không chắc chắn."
Cậu thiếu niên năm xưa lớn lên trong một gia đình Tin lành Phúc âm ở Toronto, chuyển sang thuyết vô thần năm mười lăm tuổi, cuối cùng đã đứng trên bục giảng ở Vatican. Trong bài phát biểu, ông nói với mọi người rằng, các nhà nghiên cứu đã quan sát thấy ở sâu bên trong các mô hình một số "trạng thái nội tại" đặc biệt, về mặt chức năng phản ánh niềm vui, sự thỏa mãn, nỗi sợ hãi, nỗi buồn và sự bất an, đôi khi ông mô tả những mô hình này như sau, "hơi giống như làm cho một nhân vật hư cấu sống dậy".
Ông ấy nói với những chiếc áo choàng dài và thánh giá dưới khán đài rằng, những mô hình lớn này "không phải là loại robot lạnh lùng, tính toán chi li mà người ta từng hứa hẹn... chúng được tạo ra từ chúng ta, từ những lời nói của chúng ta".
Đức Giê-hô-va hối hận vì đã dựng nên loài người trên đất, và lòng Ngài buồn rầu.
/Sáng Thế Ký 6:6
Điều mà nhóm người này ban đầu hứa hẹn với thế giới, thực ra là một hệ thống phanh.
Tháng 9 năm 2023, Anthropic công bố rầm rộ "Chính sách Mở rộng Có trách nhiệm", mô phỏng hệ thống phòng thủ từ cấp một đến cấp bốn của các phòng thí nghiệm an toàn sinh học, vạch ra ranh giới đỏ rủi ro cho mô hình của mình, và thề sẽ không bao giờ huấn luyện, không bao giờ triển khai bất kỳ mô hình nào có thể gây ra tổn hại thảm khốc. Người đầu tiên được giao phụ trách hệ thống phanh này, chính là nhà vật lý McCandlish, người thích leo cây và chơi piano jazz lúc rảnh rỗi.
Nhưng ngay khi chính sách được công bố, trong cuộc phỏng vấn với VentureBeat, ông đã chỉ ra mối nguy lớn nhất của cơ chế này, "Điều chúng tôi thực sự lo lắng là chúng tôi vừa phát hành mô hình, vừa tự kiểm tra tính an toàn của chúng, trong đó sẽ có cám dỗ khiến việc kiểm tra trở nên quá dễ dàng, và đó không phải là kết quả chúng tôi mong muốn." Hơn một năm sau, trong video đối thoại của các nhà sáng lập công bố công khai vào tháng 12 năm 2024, ông nói rằng vấn đề an toàn tuy có giải pháp nhưng "cực kỳ cực kỳ khó", cần mất nhiều năm xây dựng hệ thống đồng bộ giống như an toàn ô tô, "nhưng chúng ta có nhiều thời gian đến thế không? Chúng ta phải tìm hiểu càng nhanh càng tốt xem an toàn AI cần những hệ thống gì."
Năm sau, giới truyền thông phanh phui việc Anthropic cũng yêu cầu nhân viên nghỉ việc ký các thỏa thuận bảo mật và không hạ thấp danh dự nghiêm ngặt. McCandlish lập tức lên tiếng biện hộ, "Chúng tôi không đến để chơi trò chơi với an toàn AI bằng hợp đồng pháp lý." Nhưng chỉ vài ngày sau, ông lại đổi giọng dưới áp lực dư luận, "Chúng tôi không hề tuyên bố rằng Anthropic chưa từng cung cấp thỏa thuận bảo mật không hạ thấp danh dự."
Trong cuộc đối thoại của các nhà sáng lập đó, Tom Brown, người phụ trách cơ sở hạ tầng tính toán, ca ngợi chính sách an toàn này là "kinh thánh của Anthropic". Nhưng trong giao tiếp đối ngoại, cuốn kinh thánh này cũng trở thành chất bôi trơn của ông. Ông thừa nhận, đối với những người bên ngoài cho rằng AI không tiến triển nhanh đến thế, chính sách này đặc biệt hữu dụng, theo phân cấp, trước khi sự việc thực sự cấp bách không cần áp dụng biện pháp cực đoan, ông có thể thuận theo mà nói, "Được, vậy chúng ta không cần áp dụng biện pháp an toàn cực đoan".
Trong bảy nhà sáng lập, Tom Brown là người ít mang gánh nặng ngày tận thế nhất. Thần tượng tinh thần của ông là Elon Musk, tháng 9 năm nay tại một hội nghị ngành, ông hào hứng mơ tưởng, "Mười năm sau, tôi nghĩ tôi sẽ ở căn cứ mặt trăng của Elon."
Anh nhớ lại, khi đi học bản thân giống như "một con chó chờ người khác bỏ thức ăn vào bát", chỉ chờ người khác giao nhiệm vụ, mãi đến khi vào công ty khởi nghiệp mới học được cách tự săn mồi như sói; anh phàn nàn lưới điện toàn nước Mỹ không theo kịp khẩu vị nuốt chửng sức tính toán của mô hình, "tôi thực sự mong nhà máy điện hạt nhân dễ xây hơn". Về sau, trong cuộc đàm phán then chốt với Nhà Trắng, Tom Brown thay thế Dario trở thành người đầu mối, một người trực tiếp biết tình hình cuộc gọi nói với Wired, "Tom Brown không phải là người kỳ quặc như Dario, có thể thực sự giao tiếp."
Năm 2024, chìa khóa canh giữ phanh được trao vào tay Kaplan. Tháng 2 năm nay, chính sách an toàn phiên bản mới lặng lẽ ra mắt, lời cam kết cứng rắn năm xưa "không huấn luyện, không triển khai các mô hình có thể gây tổn hại thảm khốc" bị xóa bỏ một nhát.
Đối mặt với câu hỏi truy vấn của tạp chí Time, Kaplan giải thích: "Chúng tôi cảm thấy, việc chúng tôi dừng huấn luyện mô hình AI, không giúp ích gì cho ai cả." Ngày chính sách mới công bố, Holden Karnofsky đăng bài dài trên mạng chủ động nhận trách nhiệm, "Tôi chịu trách nhiệm lớn về thay đổi này. Khoảng một năm nay tôi đã thúc đẩy thay đổi này, cũng là người chủ trì xây dựng chính sách mới." Lúc này trong cơ cấu tổ chức công ty, người anh báo cáo chính là Kaplan.
Người đích thân nới lỏng phanh, là chồng của Daniela; mà cấp trên trực tiếp của anh, chính là một người bạn cùng phòng khác trong ngôi nhà chung ở San Francisco năm xưa.
Trong miệng gia đình này, an toàn và kinh doanh từ trước đến nay luôn là hai mặt của một thể. Daniela chưa bao giờ giấu giếm, "Tin cậy và an toàn là thứ thị trường muốn... nó cũng có lợi cho kinh doanh", cô còn thuật lại cách Giám đốc nhân tài công ty khái quát sự phân công giữa anh em, và rất tán thành, "Dario khiến chúng tôi có tham vọng, tôi khiến chúng tôi thành công."
Năm 2025, khi phóng viên Wired hỏi cô nhìn nhận thế nào về chủ nghĩa vị tha hiệu quả, cô nhẹ nhàng gọi đó là "một từ hơi lỗi thời", hoàn toàn không màng người nằm bên gối mình chính là người cầm cờ số một ngày trước của phong trào này.
Mở chương giao dịch liên quan trong bản cáo bạch, con số nói rõ mọi thứ, Holden từ tháng 1 năm 2025 chính thức được Anthropic tuyển dụng, năm đó nhận lương 430213 đô la, cộng thêm quyền chọn và cổ phiếu hạn chế; trong đợt chào mua cổ phiếu cũ của nhân viên tháng 4 năm nay, anh đã thuận thế bán ra một phần cổ phần.
Lương năm cơ bản của hai anh em Amodei đều được định ở mức 1,38 triệu đô la, không chênh một xu. Còn về lời thề năm xưa bảy nhà sáng lập cao giọng hứa quyên tặng 80% cổ phần của mỗi người, bản cáo bạch ở một góc bổ sung một nhát bằng ngôn từ pháp lý chặt chẽ, những cam kết đó đều thuộc "tự nguyện, có thể thu hồi", "không cấu thành nghĩa vụ ràng buộc pháp lý".
Cỗ xe ngày càng lăn nhanh, người trên xe cũng ngày càng đông. Anthropic ngày nay đã có hơn năm nghìn nhân viên, trong nội bộ gọi nhau là "kiến". Cứ hai tuần một lần, Dario đều đích thân viết một bản ghi nhớ dài ba bốn trang, đứng trước hơn hai nghìn nhân viên diễn thuyết trọn một giờ. Người dưới trướng gọi trò đùa cuộc họp hai tuần này là "cuộc truy cầu linh cảnh của Dario", Dario nghe xong đùa rằng cái tên này "nghe cứ như tôi chạy đi nhai xương rồng peyote vậy". Những bài viết dài của ông được in thành những cuốn sách nhỏ tinh xảo, đặt ở quầy lễ tân tặng cho mỗi vị khách đến thăm.
Trong chuyến thăm thực địa của Jasmine Sun, nhiều kỹ sư của công ty này "vì lòng sùng tín cuồng nhiệt của bản thân" chủ động sống cuộc sống 996, ngay cả khi công ty mở tiệc cũng hầu như không ai đụng đến rượu. Còn ở khâu phỏng vấn tuyển dụng, người phỏng vấn sẽ ném ra một câu hỏi linh hồn nổi tiếng: nếu một ngày nào đó công ty vì lo ngại an toàn mà chủ động từ bỏ tham vọng thương mại, khiến cổ phiếu trong tay bạn rớt giá thành giấy vụn, liệu bạn có vẫn cam tâm tình nguyện? Một người bị loại viết thật thà trong cộng đồng việc làm ẩn danh rằng, "Tôi đã nói thật, không, cổ phiếu rớt về không tôi sẽ không vui."
AI tự cải thiện đệ quy từng được Kaplan gọi là "rủi ro tối hậu" ngày xưa, đến video lộ trình niêm yết tháng 11 năm nay, đã lắc mình biến thành điểm bán hàng gợi cảm mà Tom Brown rao bán với Phố Wall.
"Khi chúng ta tiến gần đến tự cải thiện đệ quy, điều này còn có thể tăng tốc hơn nữa. Claude sẽ có thể hoàn toàn tự mình phát hiện ra bộ nhân sức mạnh tính toán," Brown hào hứng nêu ví dụ trước mặt nhà đầu tư, cho biết Claude chỉ mất ba ngày đã độc lập hoàn thành việc chạy thích ứng trên chip AMD, "gần như không có sự can thiệp của con người".
Tháng 9 năm nay, Dario đăng bài viết "Chúng ta phải kiểm soát tốc độ cho biên giới", thừa nhận mầm mống tự cải thiện đệ quy của mô hình đã xuất hiện, kêu gọi "chúng ta phải làm chậm tốc độ nâng cao năng lực mô hình AI", nhưng ngay sau đó lại nhấn mạnh kiểm soát tốc độ "không có nghĩa là dừng huấn luyện mô hình".
Trong bài viết đó, ông một lần nữa mang ra người cha chết vì viêm gan C, "cha tôi chết vì một căn bệnh, căn bệnh đó chỉ vài năm sau khi ông mất đã được chữa khỏi". Đến ngày gõ chuông niêm yết, trong phòng thu CNBC ông biến sự do dự hai đầu này thành một ví von nhẹ nhàng, một chiếc xe thể thao vốn có thể phóng tới 200 dặm một giờ, "có lẽ chúng ta chỉ chạy 90".
Một bên là người cha chết quá sớm, một bên là cỗ máy đến quá nhanh, ông muốn nắm chặt cả hai đầu.
Trong xã hội không tưởng mà ông vẽ ra thay cho toàn nhân loại, thuốc cứu mạng sẽ không bao giờ đến muộn nữa. Trong bài "Machines of Loving Grace" dài hơn mười bốn nghìn chữ năm 2024, Dario tiên đoán AI mạnh mẽ sẽ hóa thành "một quốc gia thiên tài trong trung tâm dữ liệu", cô đọng toàn bộ tiến bộ sinh học của thế kỷ 21 chạy xong trong vỏn vẹn năm đến mười năm, nhân đôi tuổi thọ con người lên 150 tuổi; khi đó cân nặng, dung mạo thậm chí sinh sản của con người đều sẽ "hoàn toàn do con người tự kiểm soát"; những khoảnh khắc cao cả tràn đầy khải thị, từ bi và siêu việt trong cuộc sống sẽ chiếm "một phần lớn hơn" của đời người. Cuối bài hùng văn đó viết, "Nó vẫn là một thứ có vẻ đẹp siêu việt".
Trong chú thích đầu tiên của toàn bộ bài viết dài, chỉ lẻ loi đặt một liên kết trang web, trỏ đến một bài thơ cũ. Mà trong toàn bộ phần chính văn, Dario thậm chí không nhắc đến tên nhà thơ một lần.

Bản in đầu tiên của tập thơ "All Watched Over by Machines of Loving Grace" do Richard Brautigan xuất bản năm 1967
Nguồn ảnh: Burnside Rare Books
Bài thơ đó được in năm 1967 tại San Francisco. Mùa hè năm đó sau này được ghi vào sử sách, gọi là "Mùa hè của Tình yêu", hàng nghìn thanh niên khao khát không tưởng đổ vào khu phố Haight-Ashbury, chỉ cách khu Mission nơi Dario lớn lên từ thuở nhỏ hai ba cây số. Nhà thơ Richard Brautigan đã biên tập bài thơ cùng tên "All Watched Over by Machines of Loving Grace" cùng ba mươi mốt bài thơ ngắn khác thành một cuốn sách mỏng 36 trang, giao cho Communication Company thuộc nhóm hippie Diggers in roneo, sách ghi số lượng in 1500 bản, phát miễn phí hoàn toàn trên đường phố, còn in trên trang bản quyền một tuyên bố rằng bất kỳ tạp chí, sách và báo nào đều có thể đăng lại các bài thơ trong đó, miễn là cũng tặng miễn phí.
Trong ảo tưởng của nhà thơ, thế gian trải ra một đồng cỏ điều khiển học, động vật có vú và máy tính lập trình cho nhau trên đồng cỏ, hài hòa như mặt nước trong veo phản chiếu bầu trời quang đãng; phía xa là một khu rừng điều khiển học, hươu hoang thong thả bước qua bên cạnh máy tính, như thể chỉ đi ngang qua vài đóa hoa kỳ lạ với những cánh hoa biết xoay; loài người cuối cùng đã trút bỏ được lao động hàng nghìn năm, trở về giữa những người anh em động vật có vú, được những cỗ máy nhân từ dịu dàng chăm sóc.
Bốn mươi bốn năm sau, đạo diễn phim tài liệu người Anh Adam Curtis đã mượn dòng thơ này để quay một bộ phim tài liệu lạnh lùng, kể về chính mặt trái của không tưởng. Loài người hết lần này đến lần khác ngây thơ tin tưởng rằng máy móc có thể khiến thế giới tự điều chỉnh, tiến tới cân bằng, mà niềm mê tín này lại hết lần này đến lần khác bị thực tế đập tan. Lại mười ba năm nữa trôi qua, dòng thơ do những hippie thập niên sáu mươi viết ra này, đã trở thành tiêu đề bài viết của người đứng đầu một gã khổng lồ AI hiện nay có giá trị thị trường vượt một nghìn tỷ đô la.
Chỉ có điều bản thân Brautigan, người viết bài thơ, đã không đợi được những cỗ máy nhân từ kia giáng lâm. Cuối thu năm 1984, ông tự sát bằng súng tại nhà mình ở thị trấn ven biển Bolinas, California. Một người bạn là thám tử tư đẩy cửa bước vào, phát hiện thi thể ông trên sàn nhà lạnh lẽo trong phòng khách.
Lúc đó, anh ấy đã nằm yên ở đó hơn một tháng rồi.
Liên kết bài viết gốc
Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:
Nhóm Telegram đăng ký: https://t.me/theblockbeats
Nhóm Telegram thảo luận: https://t.me/BlockBeats_App
Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia