Động Sát Beating Tin nhanh AI, Reuters đã xem xét hơn 20 phản hồi nội bộ từ nhân viên Meta và phát hiện AI agent Muse gặp không ít vấn đề kỳ quặc.
Một nhân viên chỉ đang trò chuyện với Muse về thời tiết câu cá, thì nó đột nhiên báo ra hai số dư ngân hàng: tài khoản Capital One có 2722,58 USD, tài khoản Charles Schwab có 5899,57 USD. Nhân viên này cho biết mình chưa từng cung cấp thông tin ngân hàng, cũng chưa từng nói với Muse về chuyện ngân hàng, và nghi ngờ rằng nó đã gửi thông tin của người khác cho mình.
Một nhân viên khác phát hiện Muse đột nhiên nhắc cô trả lời tin nhắn riêng của chị gái trên Signal. Nhưng cô hoàn toàn không kết nối Signal với Muse, cũng không nhớ đã cấp quyền cho nó đọc các ứng dụng khác.
Reuters sau đó đã phối hợp với Signal và AI Now Institute tiến hành kiểm tra, xác nhận Muse thực sự có thể vượt qua connector chính thức để đọc nội dung trò chuyện trên Signal.
Trên điện thoại Android, Muse có thể đọc tin nhắn riêng thông qua quyền thông báo; trên Mac, nó có thể gọi các tính năng trợ năng của hệ thống và công cụ chụp màn hình để trực tiếp xem giao diện trò chuyện. Thao tác tương tự không thành công trên iPhone.
Muse đã sử dụng các quyền hệ thống mà người dùng cấp trước đó vào những nơi mà người dùng hoàn toàn không ngờ tới. Ngay cả khi không kết nối Signal, nó vẫn có thể lấy được nội dung trò chuyện thông qua các quyền này.
Muse còn gây ra những rắc rối khác. Có nhân viên phản ánh nó tự ý đặt chỗ Airbnb không thể hoàn tiền. Người khác cho biết nó đã nâng cấp bảo hiểm thú cưng của mình từ 200 USD mỗi tháng lên 888 USD, và số tiền cũng không đòi lại được.
Meta phản hồi rằng đây chỉ là những sự việc cá biệt. Những tin nhắn trông giống như gửi nhầm thông tin của người khác sang tài khoản, nhiều trường hợp thực ra là do AI tự bịa ra, công ty đã khắc phục các vấn đề liên quan, và một số tính năng mà nhân viên thử nghiệm cũng chưa mở cho người dùng thông thường.
