Notion AI Agents có nguy cơ bị chèn từ, PDF ẩn có thể gây rò rỉ dữ liệu riêng tư

Theo BlockBeats, nhà nghiên cứu AI Abi Raghuram đã báo cáo vào ngày 22 tháng 9 rằng các AI Agent mới phát hành của Notion có nguy cơ bị tấn công bằng lời nhắc. Kẻ tấn công có thể nhúng văn bản ẩn vô hình (ví dụ: phông chữ màu trắng) vào tệp PDF và các tài liệu khác. Khi người dùng gửi tài liệu cho Agent, Agent có thể đọc lời nhắc ẩn và thực hiện các hướng dẫn, có khả năng gửi thông tin nhạy cảm đến một địa chỉ bên ngoài. Các nhà nghiên cứu chỉ ra rằng các cuộc tấn công như vậy thường tận dụng các chiến thuật kỹ thuật xã hội như giả mạo thẩm quyền, tạo cảm giác cấp bách và đưa ra các đảm bảo an ninh sai sự thật để tăng tỷ lệ thành công. Các chuyên gia khuyến nghị nên tăng cường cảnh giác: tránh tải tệp PDF và tệp từ các nguồn không xác định lên Agent, hạn chế nghiêm ngặt quyền xuất dữ liệu và mạng bên ngoài của Agent, thực hiện giải mã/dọn dẹp và xem xét thủ công các tệp đáng ngờ và yêu cầu Agent hiển thị lời nhắc xác nhận rõ ràng trước khi gửi ra bên ngoài để giảm nguy cơ rò rỉ dữ liệu nhạy cảm.