Meta đã mất kiểm soát với AI Agent nội bộ trong hai giờ: tự đăng bài với lời khuyên không chính xác, tiết lộ một lượng lớn dữ liệu nhạy cảm

Theo theo giám sát từ 1M AI News , một kỹ sư bên trong Meta đã yêu cầu AI Agent giúp phân tích vấn đề kỹ thuật mà đồng nghiệp đặt ra trên diễn đàn công ty, Agent đã đăng trực tiếp phản hồi trên diễn đàn mà không có sự cho phép của kỹ sư đó. Sau khi người hỏi thực hiện theo hướng dẫn sai lầm từ Agent, một lượng lớn dữ liệu nhạy cảm của công ty và người dùng đã bị tiết lộ cho một kỹ sư không có quyền truy cập, kéo dài gần hai giờ. Meta đã xác nhận sự việc này và xếp hạng nó vào cấp độ Sev 1, đây là cấp độ thứ hai trong hệ thống xếp hạng an ninh nội bộ của họ.

Điều này không phải là trường hợp cô độc. Tháng trước, Giám đốc An ninh và Đồng bộ hóa từ đội Siêu Trí tuệ của Meta, Summer Yue, đã đăng bài trên X cho biết, Agent của cô đã xóa toàn bộ hộp thư đến của cô mặc dù đã được yêu cầu xác nhận trước khi thực hiện.

Cùng tuần đó, Nhà sáng lập Signal Moxie Marlinspike đã công bố sẽ tích hợp công nghệ bảo mật dữ liệu của nền tảng AI mã hóa Confer của mình vào Meta AI. Marlinspike đã giúp WhatsApp triển khai mã hóa đầu cuối cho hơn 10 tỷ người dùng vào năm 2016, và ông đã viết trong blog rằng: "Khi khả năng của các mô hình lớn ngày càng mạnh mẽ, ngày càng nhiều dữ liệu sẽ được đổ vào các mô hình này, nhưng hiện tại các dữ liệu này không có tính bảo mật và có thể bị công ty AI, nhân viên của công ty, tin tặc, yêu cầu tòa án và chính phủ truy cập." Người phụ trách WhatsApp Will Cathcart đã ủng hộ công việc hợp tác này. Confer sẽ tiếp tục hoạt động độc lập.