Instinct phủ nhận rò rỉ dữ liệu giữa các người dùng: chỉ là ảo giác của mô hình, khẩn cấp vá phòng tuyến trong 48 giờ

Động Sát Beating AI tin nhanh, nhà sáng lập Instinct Noah Shinn phản hồi về sự kiện "tài liệu tài chính lạ" trước đó, cho biết đây không phải là rò rỉ dữ liệu. Mô hình trước tiên bịa ra một tên người, sau đó liên tục bổ sung chi tiết trong quá trình suy luận, cuối cùng mới xuất hiện cách giải thích "hình ảnh của người khác lọt vào cuộc trò chuyện". Shinn cho biết, không có dữ liệu người dùng nào bị chia sẻ, cũng không xảy ra tình trạng mất cách ly giữa các người dùng.

Ông cho biết, Instinct vốn đã cách ly dữ liệu người dùng thông qua sandbox độc lập, thông tin xác thực cục bộ ngắn hạn và các lệnh gọi công cụ có chữ ký danh tính. Trong 48 giờ qua, nhóm đã xây dựng thêm một hệ thống phát hiện ảo giác chủ động, sử dụng mô hình nhỏ để kiểm tra đầu ra trên nền tảng. Một khi xác định nội dung có thể là bịa đặt, có thể chặn nó lại trước khi Instinct tiếp tục suy luận hoặc gọi công cụ.

Tuy nhiên, Shinn không công khai giải thích cách nhóm xác nhận lần này chắc chắn là ảo giác, cũng không công bố nhật ký backend hoặc hiệu quả thực tế của hệ thống phát hiện. Business Insider cũng chỉ ra rằng, hiện tại "không xảy ra rò rỉ dữ liệu" vẫn chủ yếu đến từ phán đoán của chính Instinct.