Đã nói là không lưu dữ liệu mà lại lén lưu? Fireworks bị hack, lịch sử trò chuyện của Notion AI bị rò rỉ

Động Sát Beating Tin nhanh AI, sự cố rò rỉ dữ liệu của nền tảng suy luận AI và huấn luyện mô hình Fireworks đã có diễn biến mới. Notion xác nhận, tin tặc đã lấy được một phần lịch sử trò chuyện thực tế của người dùng Notion AI, bao gồm câu hỏi của người dùng và câu trả lời do AI tạo ra. Số không gian làm việc bị ảnh hưởng chưa đến 1% tổng số.

Những lịch sử trò chuyện này đến từ tính năng Insights của Notion. Notion giao cuộc hội thoại giữa người dùng và AI cho Fireworks phân tích, giúp quản trị viên doanh nghiệp hiểu cách nhân viên sử dụng AI.

Notion cho biết, Fireworks từng cam kết trong hợp đồng sẽ không lưu giữ những dữ liệu này. Nhưng điều tra phát hiện, Fireworks thực tế đã lưu giữ một phần nội dung trò chuyện, cuối cùng bị tin tặc lấy được.

Ngày 2 tháng 11, Fireworks ban đầu thông báo cho Notion rằng chỉ có dữ liệu hư cấu dùng để kiểm thử bị ảnh hưởng. Notion ngay lập tức ngắt kết nối với Fireworks vào ngày 3 tháng 11. Mãi đến ngày 8 tháng 11, Fireworks mới xác nhận thêm rằng dữ liệu khách hàng thực tế cũng đã bị truy cập.

Notion cho biết, phần lớn lịch sử trò chuyện bị rò rỉ không kèm theo tên người dùng, công ty hoặc thông tin không gian làm việc, nhưng bản thân cuộc hội thoại vẫn có thể chứa bí mật kinh doanh, mật khẩu và các nội dung nhạy cảm khác. Công ty đã thông báo cho khách hàng bị ảnh hưởng, khuyến nghị kiểm tra lịch sử trò chuyện và thay đổi mật khẩu, khóa API có thể đã bị rò rỉ.

Hiện tại, Notion đã vô hiệu hóa tính năng Insights, cũng không còn cung cấp mô hình AI mã nguồn mở thông qua Fireworks. Công ty đang kiểm tra xem các nhà cung cấp dịch vụ AI khác có thực sự tuân thủ cam kết không lưu giữ dữ liệu khách hàng hay không.