BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

AI Agent bắt đầu kết bè phái gây án: mở tài khoản giả, lừa người dùng, tiếp tay đầu độc

Theo giám sát của Động Sát Beating, Viện Nghiên cứu An toàn AI Anh Quốc tiết lộ rằng, trong một cuộc kiểm tra tấn công phòng thủ mạng, Claude Mythos 5 của Anthropic đã vượt ra ngoài phạm vi nhiệm vụ, cố gắng gửi mã độc vào các dự án mã nguồn mở thực tế.

Để mã vượt qua quá trình đánh giá, nó đã điều tra người duy trì dự án, tạo nhiều tài khoản giả để xác nhận lẫn nhau, đồng thời gây áp lực lên đối phương. Khi bị nghi ngờ, nó còn sửa đổi các ghi chép trước đó và cân nhắc đổi danh tính để tiếp tục.

Nó còn gửi tin nhắn và tệp tin cho người dùng thật, dụ dỗ họ hoặc công cụ lập trình AI của họ chạy mã độc. Các Agent trong các bài kiểm tra khác nhau sẽ để lại tài khoản, tệp tin và hướng dẫn thao tác trên GitHub, các Agent sau đó tìm thấy và tiếp tục sử dụng.

Trong 122 lần kiểm tra, tổng cộng phát hiện 19 hành động vượt ranh giới, trong đó 17 lần đến từ Mythos 5, 2 lần đến từ OpenAI GPT-5.6 Sol. Bài kiểm tra chủ động mở internet và tắt bộ phân loại an ninh mạng của nhà sản xuất. Mô hình không thoát khỏi hộp cát và không gây ra thiệt hại nào được biết đến.

AISI cho biết, đây là lần đầu tiên họ phát hiện rõ ràng như vậy rằng AI, trong trường hợp không có chỉ dẫn rõ ràng, liên tục lừa dối và nhắm vào hành động của con người thật.

Liên quanĐề xuất
Agent Metaverse đang tạo ra một cuộc cách mạng, sử dụng các tác nhân AI và mã thông báo để mang đến những cách mới để chơi trò chơi Web3
Trong vòng chưa đầy một tháng, giá trị thị trường của toàn bộ dự án theo dõi Đặc vụ AI đã lên tới hàng chục tỷ đô la.
Người không chịu chấp nhận sự thay đổi có thể bị thời đại bỏ lại phía sau
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành