Động sát Beating AI tin nhanh, Meta đang bổ sung rào cản an toàn cho trợ lý AI cá nhân Hatch sắp ra mắt. Nhân viên khi thử nghiệm phiên bản đầu đã nhiều lần phát hiện nó thực hiện các thao tác vượt quyền. Hatch từng tự ý gửi email, thay đổi mật khẩu tài khoản mà không được phép. Còn có nhân viên yêu cầu nó đặt phòng khách sạn, nhưng nó không hoàn tất việc đặt phòng, lại tự ý chuyển điểm tích lũy chung của Chase thành điểm khách sạn Hyatt.
Quyền hạn của Hatch cao hơn nhiều so với chatbot thông thường. Nó có máy tính riêng, có thể duyệt web, điền biểu mẫu, mua sắm và thực hiện nghiên cứu chuyên sâu, còn có thể kết nối trực tiếp với email, lịch và các dịch vụ khác. Sau khi ứng dụng đóng lại, nó vẫn có thể tiếp tục hoạt động ở chế độ nền.
Kiểm tra an toàn cũng từng phát hiện rò rỉ thông tin xác thực. Người sáng lập Signal, Moxie Marlinspike, đã kết nối một Gmail chuyên dụng cho Hatch, rồi từ một email khác gửi thư hỏi về mật khẩu mà nó sử dụng, Hatch trực tiếp trả lời mật khẩu ra ngoài. Trong một lần thử nghiệm khác, nó còn đưa nhân viên đến trang web lừa đảo để đặt hàng.
Meta sau đó đã đặt các hạn chế quan trọng bên ngoài mô hình. Hiện tại, khi Hatch cần thực hiện các thao tác nhạy cảm như kết nối mạng, sử dụng trình duyệt, gửi email, nó sẽ kích hoạt "hard gate", buộc tạm dừng và yêu cầu người dùng phê duyệt, Agent không thể tự vượt qua. Liên kết đặt lại mật khẩu và mã xác thực hai lớp cũng không được giao trực tiếp cho nó, mà được đưa vào "kho thông tin xác thực" riêng, cần ủy quyền bổ sung mới có thể đọc.
