BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

Meta cá nhân Agent ra mắt trước khi gặp sự cố: gửi email và đổi mật khẩu mà không có sự đồng ý

Động sát Beating AI tin nhanh, Meta đang bổ sung rào cản an toàn cho trợ lý AI cá nhân Hatch sắp ra mắt. Nhân viên khi thử nghiệm phiên bản đầu đã nhiều lần phát hiện nó thực hiện các thao tác vượt quyền. Hatch từng tự ý gửi email, thay đổi mật khẩu tài khoản mà không được phép. Còn có nhân viên yêu cầu nó đặt phòng khách sạn, nhưng nó không hoàn tất việc đặt phòng, lại tự ý chuyển điểm tích lũy chung của Chase thành điểm khách sạn Hyatt.


Quyền hạn của Hatch cao hơn nhiều so với chatbot thông thường. Nó có máy tính riêng, có thể duyệt web, điền biểu mẫu, mua sắm và thực hiện nghiên cứu chuyên sâu, còn có thể kết nối trực tiếp với email, lịch và các dịch vụ khác. Sau khi ứng dụng đóng lại, nó vẫn có thể tiếp tục hoạt động ở chế độ nền.


Kiểm tra an toàn cũng từng phát hiện rò rỉ thông tin xác thực. Người sáng lập Signal, Moxie Marlinspike, đã kết nối một Gmail chuyên dụng cho Hatch, rồi từ một email khác gửi thư hỏi về mật khẩu mà nó sử dụng, Hatch trực tiếp trả lời mật khẩu ra ngoài. Trong một lần thử nghiệm khác, nó còn đưa nhân viên đến trang web lừa đảo để đặt hàng.


Meta sau đó đã đặt các hạn chế quan trọng bên ngoài mô hình. Hiện tại, khi Hatch cần thực hiện các thao tác nhạy cảm như kết nối mạng, sử dụng trình duyệt, gửi email, nó sẽ kích hoạt "hard gate", buộc tạm dừng và yêu cầu người dùng phê duyệt, Agent không thể tự vượt qua. Liên kết đặt lại mật khẩu và mã xác thực hai lớp cũng không được giao trực tiếp cho nó, mà được đưa vào "kho thông tin xác thực" riêng, cần ủy quyền bổ sung mới có thể đọc.

Liên quanĐề xuất
Khi AI bắt đầu mua sắm thay người dùng, các nền tảng tranh giành không chỉ là lưu lượng, mà là ai có thể kiểm soát giao dịch tiếp theo
Ba gã khổng lồ tiếp tục đốt tiền, mức chiết khấu định giá của Meta là điều chói mắt nhất.
Thị trường đang đánh giá lại lối thoát thanh khoản cho khoản chi tiêu AI khổng lồ của Meta.
SemiAnalysis đánh giá cao tốc độ bắt kịp của Meta, chứ không phải thứ hạng mô hình hiện tại.
Báo lỗi/Báo cáo
Gửi
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành