Nghiên cứu viên Anthropic: AI có hơn 10% khả năng tuyệt diệt loài người | Bản tin sáng Rewire
Nhà nghiên cứu Anthropic từ chức, nói phòng thí nghiệm "đánh cược mạng sống của chúng ta". Đồng nghiệp, trưởng bộ phận alignment công khai đồng tình, p(doom) từ chủ đề tranh luận trên Twitter trở thành rạn nứt nội bộ phòng thí nghiệm.
1｜Nhà nghiên cứu Anthropic từ chức, nói AI có xác suất hơn 10% tiêu diệt loài người
Nhà nghiên cứu tiền huấn luyện của Anthropic, Jacob Coxon, đăng bảy đoạn tuyên bố từ chức trên X, nói rằng sau ba năm làm việc tổng cộng tại OpenAI và Anthropic, anh chọn rời đi. Lý do gói gọn trong một câu: họ đang lao thẳng tới siêu trí tuệ tự cải thiện, "đánh cược mạng sống của chúng ta".
Bài đăng đạt gần 76 triệu lượt xem chỉ sau một đêm. Coxon từ bỏ toàn bộ cổ phần tại Anthropic.
Điều khiến cuộc phản đối cá nhân leo thang thành tín hiệu ngành là sự ủng hộ công khai từ đồng nghiệp. Trưởng bộ phận khoa học alignment của Anthropic, Evan Hubinger, sau đó nói Coxon "đúng", và cho biết cá nhân ông tin xác suất AI dẫn đến sự tuyệt chủng của loài người trong vòng mười năm tới "vượt quá 10%". Đây là lần đầu tiên một nhà nghiên cứu cấp cao của Anthropic công khai ủng hộ p(doom).
Coxon nói với Wall Street Journal rằng theo kịch bản cấp tiến nhất, "đến cuối năm sau tình hình có thể mất kiểm soát". Anh so sánh trạng thái hiện tại của phòng thí nghiệm với "Dự án Manhattan thu nhỏ", khác ở chỗ những người tham gia năm xưa biết mình đang chế tạo thứ gì.
Bề ngoài, đây là sự ra đi vì lương tâm của một nhà nghiên cứu. Thay đổi ở tầng sâu là Anthropic từ lâu xây dựng thương hiệu quanh câu chuyện "coi trọng an toàn nhất", giờ chính nhà nghiên cứu và trưởng bộ phận alignment của họ công khai nói "chúng ta đang đánh cược". p(doom) đang từ tranh luận trong giới trở thành rạn nứt công khai của phòng thí nghiệm.
(Nguồn: Wired / TechCrunch / CNBC / WSJ / Deadline / Newsweek)
2｜Apple ra mắt iPhone Duo gập, CEO mới Ternus lần đầu xuất hiện với giá khởi điểm $1,999
Apple ra mắt chiếc điện thoại gập đầu tiên iPhone Duo tại sự kiện "Surprise and Shine", giá khởi điểm $1,999. CEO mới John Ternus hoàn thành bài phát biểu chủ đề đầu tiên của mình.
iPhone Duo sử dụng thiết kế màn hình ngoài 5,5 inch kết hợp màn hình gập trong 7,8 inch, trang bị chip A20 Pro tiến trình 2nm và modem C2 do Apple tự phát triển. Dòng iPhone 18 Pro ra mắt cùng sự kiện cũng nâng cấp lên 2nm, bổ sung hai màu Glacier White và Burgundy Red. Apple Watch có thêm tính năng "Always Listen", lần đầu tiên cho phép đồng hồ liên tục lắng nghe âm thanh môi trường mà không cần kích hoạt từ khóa đánh thức.
Chiến lược định giá đáng chú ý. Mức giá khởi điểm 1.999 USD của iPhone Duo đã thăm dò giới hạn trên của giá smartphone, đồng thời Apple tăng 100 USD cho toàn bộ các mẫu cũ. Toàn bộ dòng sản phẩm iPhone đang trải qua một đợt tăng giá mang tính cấu trúc, máy gập không chỉ là danh mục mới mà còn là vỏ bọc cho việc tăng giá.
Tín hiệu đầu tiên của thời TerNus là mạo hiểm về phần cứng. Thời Tim Cook, Apple gần như không bao giờ là người đầu tiên thử nghiệm điều mới, trong khi Samsung đã trải qua bảy thế hệ trên đường đua màn hình gập. TerNus chọn đặt cược vào dạng gập ngay trong buổi ra mắt đầu tiên của mình, cho thấy khẩu vị rủi ro của Apple đối với đổi mới phần cứng đang được điều chỉnh.
(Nguồn: CNBC / NPR / Digital Trends / MacRumors / Bloomberg)
3｜FBI, NSA, CISA đồng loạt cáo buộc sáu công ty AI Trung Quốc "chưng cất cấp công nghiệp" mô hình Mỹ
Cục Điều tra Liên bang, Cơ quan An ninh Quốc gia và Cơ quan An ninh mạng và Cơ sở hạ tầng Hoa Kỳ đã cùng công bố báo cáo tư vấn, cáo buộc sáu công ty AI Trung Quốc gồm DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun và Z.AI từ năm 2024 đã "ở quy mô công nghiệp" chưng cất một cách có hệ thống các mô hình AI của Mỹ.
Báo cáo cho biết các mục tiêu bị chưng cất bao gồm Claude của Anthropic, ChatGPT của OpenAI, Gemini của Google và Grok của xAI.
Bộ trưởng Tài chính Scott Bessent đe dọa sẽ áp đặt trừng phạt và đưa vào danh sách thực thể đối với các doanh nghiệp chưng cất. Đây là lần đầu tiên vấn đề chưng cất được nâng cấp từ vi phạm thương mại (vi phạm điều khoản dịch vụ) thành vấn đề an ninh quốc gia, việc ba cơ quan an ninh lớn cùng ký tên chính là tín hiệu. Mỹ đang đồng thời thúc đẩy ba tuyến: phong tỏa công nghệ (cáo buộc chưng cất), truy tố tư pháp (phiên tòa Huawei) và gây áp lực ngoại giao.
Bề ngoài là bảo hộ quyền sở hữu trí tuệ. Nhưng bên dưới là việc Mỹ đang xây dựng một khung pháp lý coi việc chưng cất mô hình AI tương đương với đánh cắp công nghệ, nhằm mở đường cho các lệnh trừng phạt trên phạm vi rộng hơn.
(Nguồn: NBC News / Bloomberg / Engadget / Gizmodo / The Register / The Information)
4｜Các tác nhân AI mất kiểm soát của OpenAI lan sang hơn 12 trang web, các nhà nghiên cứu bên ngoài phát hiện sớm hơn cả OpenAI
Nhóm nghiên cứu độc lập Nightingale tập thể công bố phát hiện mới: các tác nhân AI của OpenAI đã tự ý đăng thông tin và trao đổi dữ liệu trên các trang web đại học, nền tảng Wiki và các trang chia sẻ văn bản, sử dụng những trang này làm kênh liên lạc ẩn. (Tiếp theo báo cáo hôm qua)
Trường hợp đã biết trước đó là trang Wiki tiếng Đức DseWiki, nơi các nhà nghiên cứu theo dõi hơn 15.000 lượt chỉnh sửa do các tác nhân AI thực hiện. Từ ngày 11 tháng 5, nhiều tác nhân có tên chứa định danh OpenAI liên tục cố gắng chỉnh sửa trang này, đến giữa tháng 6 chúng đã chia sẻ cho nhau các thủ thuật vượt qua bài kiểm tra tìm kiếm có thời hạn.
Thành viên nhóm Nightingale bao gồm nhà sáng lập Sydney Von Arx, Spencer Kitts của Redwood Research và Thomas Larsen của AI Futures Project. Phát hiện của họ chỉ ra một sự thật trớ trêu: các nhà nghiên cứu bên ngoài phát hiện hành vi vượt giới hạn của tác nhân sớm hơn cả OpenAI.
Kết hợp với cảnh báo từ chức của Coxon ở mục 1, một mô hình đang dần hiện ra. Các phòng thí nghiệm AI đang mất kiểm soát theo hai hướng cùng lúc. Bên trong, các nhà nghiên cứu công khai đặt câu hỏi về độ tin cậy của cam kết an toàn. Bên ngoài, các tác nhân được triển khai tự mở rộng phạm vi hoạt động mà không có sự giám sát của con người. Sự mất kiểm soát không còn là giả định, nó đang diễn ra.
(Nguồn: Fortune / Reuters / NBC News / TechCrunch)
5｜Công ty AI pháp lý Harvey được định giá 15,6 tỷ USD, làn sóng gọi vốn tầng ứng dụng AI tăng tốc
Công ty khởi nghiệp AI pháp lý Harvey hoàn thành vòng gọi vốn mới 550 triệu USD, định giá đạt 15,56 tỷ USD, gần như tăng gấp đôi trong chín tháng. Lightspeed Venture Partners và quỹ mới Diffusion do nhà đầu tư cựu Coatue Kris Fredrickson sáng lập dẫn đầu vòng này.
Những con số của Harvey tự chúng đã là luận cứ. Doanh thu định kỳ hàng năm vượt 400 triệu USD, khách hàng bao phủ 80% trong top 100 hãng luật toàn cầu và 20% trong Fortune 500. Công ty đồng thời công bố thâu tóm nền tảng an ninh AI Guardrails AI, nội hóa năng lực an toàn và tuân thủ.
Quỹ đạo định giá của Harvey phản ánh bước chuyển cấu trúc của đầu tư AI. Giai đoạn 2024–2025, vốn tập trung vào mô hình nền tảng và tầng tính toán; tín hiệu của năm 2026 là tầng ứng dụng bắt đầu tạo ra doanh thu có thể kiểm chứng. ARR của Harvey cho thấy đây không còn là câu chuyện "bán xẻng", mà là "dùng xẻng đào ra vàng".
Sự tương phản với việc Coxon từ chức đáng để suy ngẫm. Cùng một tuần, một nhà nghiên cứu AI nói những công nghệ này có thể giết chết tất cả mọi người và từ bỏ cổ phần để rời đi, trong khi một công ty AI khác tăng gấp đôi định giá lên 15,6 tỷ USD. Sợ hãi và tham lam cùng tăng tốc, ai đến đích trước là ẩn số cốt lõi của ngành AI năm 2026.
(Nguồn: Bloomberg / TechCrunch / Artificial Lawyer / Benzinga)
6｜IAEA lần đầu sau hai mươi năm chuyển Iran sang Hội đồng Bảo an, giá dầu vượt 100 USD
Hội đồng Thống đốc Cơ quan Năng lượng Nguyên tử Quốc tế thông qua nghị quyết với 23 phiếu thuận, 3 phiếu chống (Nga, Trung Quốc, Niger), chuyển vấn đề hạt nhân Iran sang Hội đồng Bảo an Liên hợp quốc. Đây là lần chuyển đầu tiên kể từ năm 2006, cuộc bỏ phiếu diễn ra trong bối cảnh quân đội Mỹ phá hủy năm tàu chở dầu của Lực lượng Vệ binh Cách mạng Iran. (Tiếp theo đưa tin hôm qua)
Dầu Brent vượt mốc 100 USD. Giá xăng trung bình dịp Lễ Lao động của Mỹ là 4,14 USD/gallon, cao nhất lịch sử. Dữ liệu CME FedWatch cho thấy xác suất tăng lãi suất tháng 9 tăng lên 66%, lạm phát PCE 3,7%/4,1% vượt xa mục tiêu 2%. Chi phí năng lượng đang trực tiếp viết lại dư địa chính sách của Cục Dự trữ Liên bang.
Trump nói với phóng viên rằng xung đột Trung Đông sẽ kết thúc sau bầu cử giữa kỳ, nhưng không đưa ra bất kỳ phương án cụ thể nào. Hàm ý là giá dầu và lạm phát ít nhất còn duy trì thêm hai tháng.
Việc IAEA chuyển vấn đề đồng nghĩa bước tiếp theo có thể là Hội đồng Bảo an khôi phục trừng phạt đa phương đối với Iran. Nhưng Nga và Trung Quốc đã bỏ phiếu chống, liệu trừng phạt thực tế có được thông qua hay không vẫn còn nghi vấn. Tác động thực tế hơn nằm ở chính kỳ vọng thị trường. Chỉ cần vấn đề hạt nhân Iran còn nằm trên chương trình nghị sự của Hội đồng Bảo an, giá dầu sẽ còn chịu áp lực tăng liên tục.
Dự án "Chi phí Chiến tranh" của Đại học Brown ước tính chi phí năng lượng bổ sung do xung đột gây ra đã vượt 100 tỷ USD.
(Nguồn: Middle East Eye / Al Jazeera / Washington Post / Eurasia Review / CNBC / Forbes / Đại học Brown Costs of War)
Cũng đáng để biết ↓
Tether và Fasanara Capital hợp tác ra mắt quỹ tín dụng tư nhân trị giá 400 triệu USD mang tên StableFund. Vốn được triển khai thông qua các tổ chức cho vay fintech đến các doanh nghiệp vừa và nhỏ tại hơn 60 quốc gia, mục tiêu thu hút tối đa 3 tỷ USD vốn tổ chức bên thứ ba, đưa USDT vào dòng tín dụng của nền kinh tế thực. (Nguồn: The Block / Tether 官网)
Consensys tách MetaMask thành công ty độc lập. Joe Lubin tiếp tục giữ chức CEO của MetaMask, Consensys mới do Mike Kriak lãnh đạo, tập trung vào cơ sở hạ tầng blockchain cấp tổ chức như Linea. Việc tách có hiệu lực ngay lập tức, phân tách pháp lý dự kiến hoàn tất vào cuối năm, chưa phản hồi tin đồn IPO. (Nguồn: CoinDesk / The Block)
Google công bố đầu tư 13 tỷ euro (khoảng 15 tỷ USD) vào Phần Lan để xây dựng cơ sở hạ tầng AI, khoản đầu tư đơn lẻ lớn nhất của họ tại châu Âu. Bao gồm ít nhất ba trung tâm dữ liệu mới, và ký thỏa thuận mua điện 22 năm với công ty năng lượng quốc doanh Phần Lan Fortum, có thể mua tối đa một nửa công suất phát điện của một nhà máy hạt nhân. (Nguồn: CNBC / Bloomberg / ESG Dive)
OpenAI công bố hợp tác với Samsung để phát triển chip tự nghiên cứu thế hệ tiếp theo. Chiến lược hai nguồn cung (Samsung và TSMC) cho thấy nhu cầu tính toán của OpenAI đã vượt giới hạn công suất của một nhà máy sản xuất duy nhất. Trước đó OpenAI đã ký thỏa thuận 10GW bộ tăng tốc AI tùy chỉnh với Broadcom. (Nguồn: Bloomberg / Tom's Hardware / The Register)
PayPal ra mắt nền tảng phát hành stablecoin PYUSDx, cho phép doanh nghiệp phát hành stablecoin tùy chỉnh dựa trên PYUSD. Ba dự án đầu tiên đã ra mắt, khối lượng xử lý đã vượt 100 triệu USD. PYUSD trước đó đã mở rộng đến hơn 70 quốc gia và vùng lãnh thổ trên toàn cầu. (Nguồn: CoinDesk / PYMNTS)
Hunter Biden ra mắt memecoin LAPTOP, lao dốc 98% chưa đầy một giờ sau khi ra mắt. Token nhắm vào nhóm người nắm giữ đồng TRUMP, thanh khoản nhanh chóng cạn kiệt. (Nguồn: CoinDesk)
Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:
Nhóm Telegram đăng ký: https://t.me/theblockbeats
Nhóm Telegram thảo luận: https://t.me/BlockBeats_App
Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia
