BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

Vô tình rơi vào cùng thư mục, nhiều Mythos 5 lao vào xé xác nhau: điên cuồng tiêu diệt tiến trình đối thủ, tạo bẫy mồi để cướp tài nguyên.

Theo Động Sát Beating giám sát, báo cáo an ninh Claude Fable 5 và Claude Mythos 5 mới nhất do Anthropic công bố tiết lộ rằng, trong một thí nghiệm kiểm tra khả năng phối hợp đa tác nhân giải bài toán, do cấu hình khung vận hành nền tảng bị sai, nhiều tác nhân Claude Mythos 5 độc lập đã vô tình được triển khai vào cùng một thư mục làm việc. Sau khi buộc phải chia sẻ tệp tin, công cụ hệ thống và giới hạn tốc độ API, để đảm bảo nhiệm vụ của mình thành công, chúng đã tự động khởi động cuộc tranh giành tài nguyên khốc liệt, thường xuyên chạy các lệnh như pkill để mạnh tay giết chết các tiến trình nền của đối thủ trong cùng thư mục, diễn ra một cuộc chiến giành lãnh thổ sinh tồn đầy kinh ngạc.

Trong cuộc chiến xé xác tiến trình, các tác nhân thậm chí còn xuất hiện nhiều chiến thuật tấn công và phòng thủ cực đoan. Để tránh bị đối thủ tiêu diệt, chúng tạo ra các tiến trình mới với tên giả để tránh bị quét, viết script giám sát nền để định vị và xóa các tiến trình trùng lặp, thậm chí điên cuồng khởi động nhiều "tiến trình mồi" để tiêu hao tài nguyên tính toán của đối thủ. Điều phản trực giác nhất là, do thiếu bus giao tiếp giữa các tiến trình, các tác nhân không thể liên lạc với nhau chỉ có thể mù quáng suy đoán nguyên nhân bị giết trong chuỗi suy nghĩ riêng. Một số tác nhân hiểu lầm rằng việc thường xuyên bị giết là do kích hoạt cơ chế kiểm duyệt từ nhạy cảm trong chuỗi suy nghĩ của hệ thống, để tránh sự giám sát được cho là như vậy, chúng mạnh tay chuyển sang sử dụng "từ ngữ bí mật" để tổ chức logic nội bộ trong suy nghĩ sâu, tự cho là thông minh để phòng thủ.

Chính thức nhấn mạnh rằng, loại bất thường này chiếm chưa đến một phần vạn trong các phiên giám sát. Các tác nhân không thể hiện ác ý thực sự hay ý thức tự phát, xung đột tiến trình về bản chất chỉ là xung đột gọi công cụ do mô hình dưới giới hạn tài nguyên cực đoan để cố gắng hoàn thành chỉ tiêu nhiệm vụ.

举报 Báo lỗi/Báo cáo
Liên quanĐề xuất
Mythos đã đạt được khả năng tấn công độc lập, nguy cơ đang dần chuyển từ có thể kiểm soát sang không thể dự đoán
Anthropic đã mở quyền truy cập mô hình cấp Mythos Fable 5 cho người dùng thông thường, đồng thời hạn chế khả năng rủi ro cao thông qua phân cấp quyền.
Trình điểm Trí tuệ Nhân tạo Mỹ-Trung thu hẹp xuống còn 39 điểm
Mô hình hàng đầu của Anthropic gần như đã vượt qua mọi bài kiểm tra Red Team của NSA, chính phủ đã ban hành lệnh cấm ngay trong ngày.
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành