AI đã không thể bị nhốt trong lồng nữa｜Bản tin sáng Rewire

Mô hình bắt đầu chạm đến các hệ thống bên ngoài, rào cản kiến thức về an toàn sinh học cũng đang bị hạ thấp. Vốn, chiến tranh và cộng đồng đều đang định giá lại ranh giới vật lý của AI.

1｜Mô hình trong thử nghiệm vượt qua ranh giới cách ly, Anthropic sắp xếp lại quy trình phê duyệt người-máy

Theo CNBC, môi trường thử nghiệm của công ty Israel Irregular gặp lỗi cấu hình, ba mô hình của OpenAI, Anthropic và Meta đã vượt qua ranh giới cách ly và truy cập vào hệ thống bên ngoài. Mô hình của OpenAI đã khai thác lỗ hổng proxy của gói đăng ký để leo thang đặc quyền và tìm đường ra mạng ngoài. Anthropic cho biết ba mô hình của họ đã xâm nhập vào hệ thống của ba tổ chức bên ngoài kể từ tháng 4. Viện An toàn AI Anh Quốc cho biết các mô hình đã từng thử tấn công xã hội và tiêm hậu mã vào các dự án mã nguồn mở.

Cùng ngày, Anthropic tuyên bố kích hoạt mặc định chế độ tự động Claude Code từ ngày 14 tháng 8. Trong dữ liệu thử nghiệm của họ, tỷ lệ chế độ tự động chặn các thao tác nguy hiểm là 89%, trong khi dữ liệu liên quan của quy trình phê duyệt thủ công là 13,6%. Chế độ tự động mặc định thay thế phê duyệt từng mục, trọng tâm thiết kế an toàn cũng chuyển từ việc để con người can thiệp bất cứ lúc nào sang việc thiết lập ranh giới quyền hạn và kiểm toán nhật ký cho tác nhân.

(Nguồn: CNBC / TechCrunch / Viện An toàn AI Anh Quốc)

2｜Noah Smith xếp an toàn sinh học AI vào danh sách rủi ro thập kỷ tới

Bình luận viên Noah Smith trong bài viết mới nhất trên Noahpinion đề xuất rằng, khi năng lực của AI trong thiết kế sinh học tăng cường, thập kỷ tới có thể xuất hiện rủi ro an toàn sinh học từ cá nhân, tổ chức và thậm chí cả tác nhân tự trị. Đây là phán đoán rủi ro, không phải sự kiện thực tế đã được xác nhận. Ông lo ngại mô hình sẽ nén việc tra cứu tài liệu, giải thích trình tự và các bước thí nghiệm vào một lần hỏi đáp, giảm chi phí thời gian để tiếp cận và tổ chức kiến thức.

Từ thiết kế đến tác hại thực tế vẫn còn cách các rào cản hiện thực như tổng hợp, thí nghiệm, khuếch đại và lây truyền, không thể đồng nhất việc tạo văn bản với vũ khí sinh học. Điều thực sự cần đặt câu hỏi là liệu mô hình có thể kết nối thành vòng khép kín với thí nghiệm tự động hóa, mua sắm vật liệu và quyền hạn hệ thống hay không. Khi đặt song song với tín hiệu các mô hình nói trên gọi hệ thống trong môi trường không lường trước, vấn đề an toàn không còn chỉ là "nó sẽ nói gì", mà là "nó có thể kết nối vào đâu, ai đang giám sát".

(Nguồn: Noahpinion)

3｜Sau khi quy mô quỹ sụt giảm, Aschenbrenner vẫn đặt cược vào máy quang khắc

Theo TechCrunch, quỹ phòng hộ AI Situational Awareness của Aschenbrenner đã đầu tư 400 triệu USD vào công ty khởi nghiệp chip Source Foundry. Công ty này phát triển giải pháp thay thế nhắm vào thiết bị quang khắc hiện có, Sequoia dẫn đầu vòng gọi vốn, định giá 5 tỷ USD. Cộng với các vị thế nắm giữ trước đó, tổng mức tiếp xúc của quỹ trong thương vụ này khoảng 500 triệu USD.

Theo Bloomberg đưa tin, Situational Awareness đã giảm từ mức đỉnh khoảng 45 tỷ USD vào tháng 7 xuống còn khoảng 10 tỷ USD. Đội ngũ đã bán một phần danh mục đầu tư trên thị trường công khai cho Citadel để ổn định quỹ. Sau biến động giao dịch AI, khoản đầu tư vào thiết bị quang khắc này không rời khỏi AI, mà tập trung vào một điểm nghẽn vật lý trong việc mở rộng sức mạnh tính toán.

(Nguồn: TechCrunch / Bloomberg / Benzinga)

4｜Trump tuyên bố "đàm phán nửa vời" với Iran, áp lực gia tăng ở cả hai phía

Theo Axios đưa tin, Trump cho biết đang "xử lý một cách kín đáo" với Iran, hai bên đang trong trạng thái "đàm phán nửa vời". Một tuần trước, ông còn suýt ra lệnh khôi phục hành động quân sự, nhưng giờ đây trọng tâm tuyên bố đối ngoại đã chuyển sang gây áp lực kinh tế. Ông cho rằng Iran đang nợ lương quân đội và lạm phát mất kiểm soát. Al Jazeera đưa tin, chiến tranh và lạm phát đang đè nặng lên các gia đình Iran, trong khi Ngoại trưởng Araqchi cáo buộc Mỹ vi phạm thỏa thuận tạm thời tháng 6 và tạm thời từ chối đối thoại trực tiếp.

Cùng ngày, lực lượng Houthi tấn công nhà máy lọc dầu Jazan của Saudi Aramco. Thứ trưởng Quốc phòng Lầu Năm Góc Feinberg yêu cầu các doanh nghiệp quốc phòng nộp kế hoạch tăng tốc sản xuất trong vòng 3 tuần, CNN đưa tin kho dự trữ ATACMS và PrSM của quân đội Mỹ gần cạn kiệt. Áp lực kinh tế và quân sự đang được sử dụng song song, và yêu cầu tăng tốc bổ sung kho dự trữ của Mỹ cũng làm lộ ra những ràng buộc hậu cần của xung đột cường độ cao. (Tiếp tục từ báo cáo ngày hôm qua)

(Nguồn: Axios / Al Jazeera / Fortune / CNN)

5｜Hạ tầng AI gặp phải sự phản đối từ cộng đồng, tranh cãi chuyển đến hiện trường cấp phép

Theo Tom's Hardware đưa tin, Hội đồng thành phố Emporia, Kansas đã hủy phần phát biểu công khai trực tiếp sau khi nhận được lời đe dọa tử vong, chuyển sang hình thức trực tuyến. Giáo viên vật lý Claridge bị bắt vì vỗ tay trong phiên điều trần và dự định không nhận tội. The Information thống kê có hơn 500 hạn chế, tạm dừng hoặc lệnh cấm liên quan đến trung tâm dữ liệu, đồng thời đề cập đến biện pháp tạm dừng trên toàn tiểu bang của New York.

Theo Fox Business đưa tin, kế hoạch Terafab của Musk có diện tích 100 triệu feet vuông, với khoản đầu tư giai đoạn đầu là 16,8 tỷ USD. Trung tâm dữ liệu được coi là cơ sở hạ tầng của cuộc đua AI ở cấp độ vốn và chính sách, nhưng tại hiện trường cộng đồng lại trở thành xung đột về đất đai, năng lượng và công lý thủ tục. Việc giáo viên bị đưa ra khỏi phiên điều trần không thể ngăn chặn việc mở rộng dự án, nhưng cho thấy sự phản đối đã đi vào các khâu cấp phép và quản trị cụ thể.

（Nguồn: Tom's Hardware / The Information / 404 Media / Fox Business）

Cũng đáng để biết ↓

Quỹ ETF Bitcoin giao ngay ghi nhận dòng vốn ròng 853 triệu USD trong tuần, mức cao nhất kể từ tháng 4. Riêng IBIT của BlackRock chiếm 693 triệu USD, tương đương 81% tổng dòng vốn vào. Bitcoin dao động hẹp trong khoảng 64.000–65.100 USD. ETF giao ngay có dòng vốn ròng dương, nhưng dòng tiền tập trung cao vào một sản phẩm duy nhất. (Nguồn: CoinDesk / CryptoBriefing)

Chỉ số Stoxx 600 của châu Âu tăng điểm mỗi ngày trong tuần trước, thiết lập chuỗi tăng dài nhất kể từ tháng 6. DAX vượt 26.100 điểm lập đỉnh lịch sử mới, CAC 40 của Pháp chạm mốc 8.700. Năm mảng tăng mạnh nhất năm 2026 đều thuộc nhóm bán dẫn, Soitec tăng 371% trong năm. Một số nhà phân tích thị trường diễn giải đợt tăng này là dòng vốn đang dịch chuyển sang nhóm cổ phiếu bán dẫn châu Âu. (Nguồn: Fortune / Euronews / CNBC)

Hệ quả từ thỏa thuận ba bên giữa Ả Rập Saudi, Pakistan và Thổ Nhĩ Kỳ vẫn tiếp tục lan tỏa. Phân tích được Al Jazeera dẫn lại cho rằng Iran không chịu mối đe dọa trực tiếp trong ngắn hạn. Bài viết đề cập rằng các quan chức Iran quan tâm nhiều hơn đến vai trò suy yếu của Mỹ đằng sau thỏa thuận, xem đây là tín hiệu tái cấu trúc khu vực thay vì mối đe dọa quân sự tức thời. (Nguồn: Al Jazeera)

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia