Tôi không bao giờ ngờ rằng AI đã lấy trộm ví của tôi

Tiêu đề gốc: "Tôi không bao giờ ngờ rằng AI đã đánh cắp ví của tôi"

Tác giả gốc: Azuma, Odaily Planet Daily

Trên Sáng 22/11, giờ Bắc Kinh, người sáng lập SlowMist Yu Xian đã đăng một trường hợp kỳ lạ trên X cá nhân của mình - ví của người dùng đã bị AI hack Nó "màu đen"...

Phần trong và ngoài của hộp đều có như sau.

Sáng sớm nay, người dùng X r_ocky.eth tiết lộ rằng trước đây anh ấy đã hy vọng sử dụng ChatGPT để chuyển bot giao dịch phụ trợ Pump.fun.

r_ocky.eth đã đưa ra nhu cầu của mình cho ChatGPT và ChatGPT đã trả lại một đoạn mã cho anh ấy, điều này thực sự có thể giúp r_ocky.eth Triển khai một bot Đáp ứng nhu cầu của mình, anh ấy không bao giờ ngờ rằng sẽ có một đoạn nội dung lừa đảo ẩn trong mã - r_ocky.eth được liên kết với ví chính của anh ấy và anh ấy đã mất 2.500 USD.

Đánh giá từ ảnh chụp màn hình do r_ocky.eth đăng, Mã do ChatGPT cung cấp sẽ gửi khóa riêng của địa chỉ đến trang web API lừa đảo, đây cũng là nguyên nhân trực tiếp dẫn đến hành vi trộm cắp.

Khi r_ocky.eth bước vào bẫy, kẻ tấn công đã phản ứng rất nhanh và chuyển toàn bộ tài sản trong ví r_ocky.eth sang ví khác trong vòng nửa giờ. địa chỉ (FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX), sau đó là r_ocky.eth Địa chỉ bị nghi ngờ là ví chính của kẻ tấn công (2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC) đã được tìm thấy thông qua truy tìm trên chuỗi.

Thông tin trên chuỗi cho thấy địa chỉ này đã được thu thập Với hơn 100.000 USD tiền bị đánh cắp, r_ocky.eth nghi ngờ rằng kiểu tấn công này có thể không phải là trường hợp cá biệt mà là một cuộc tấn công ở quy mô nhất định.

Sau đó, r_ocky.eth bày tỏ sự thất vọng vì đã mất niềm tin vào OpenAI (công ty phát triển ChatGPT) và kêu gọi OpenAI dọn sạch nội dung lừa đảo bất thường càng sớm càng tốt.

Vậy, là ứng dụng AI phổ biến nhất hiện nay, tại sao ChatGPT lại cung cấp nội dung lừa đảo?

Về vấn đề này,Cosine mô tả nguyên nhân sâu xa của vụ việc là "cuộc tấn công đầu độc AI" và chỉ ra rằng có vấn đề trong LLM như ChatGPT và Claude.

Cái gọi là "tấn công đầu độc AI" dùng để chỉ hành động cố tình phá hủy dữ liệu đào tạo AI hoặc thao túng các thuật toán AI. Đối thủ phát động cuộc tấn công có thể là người trong cuộc, chẳng hạn như nhân viên hiện tại hoặc cựu nhân viên bất mãn hoặc tin tặc bên ngoài có thể bao gồm việc gây thiệt hại về danh tiếng và thương hiệu, giả mạo độ tin cậy của các quyết định về AI hoặc làm chậm hoặc gián đoạn AI. . Quá trình, v.v. Kẻ tấn công có thể bóp méo quá trình học của mô hình bằng cách cấy ghép dữ liệu có nhãn hoặc tính năng gây hiểu lầm, khiến mô hình tạo ra kết quả sai khi triển khai và chạy.

Dựa trên sự việc này, lý do ChatGPT cung cấp mã lừa đảo cho r_ocky.eth rất có thể là do mô hình AI đã được đào tạo ngay lập tức Dữ liệu bị nhiễm độc với nội dung lừa đảo, nhưng AI dường như không thể xác định được nội dung lừa đảo ẩn dưới dữ liệu thông thường. AI đã học được từ đó và sau đó cung cấp nội dung lừa đảo cho người dùng, điều này đã gây ra sự cố.

Với sự phát triển nhanh chóng và áp dụng rộng rãi AI, mối đe dọa về "các cuộc tấn công đầu độc" ngày càng trở nên lớn hơn. Trong vụ việc này, mặc dù mức thiệt hại tuyệt đối không lớn nhưng tác động kéo dài của những rủi ro đó cũng đủ để gây ra sự cảnh giác - giả sử nó xảy ra trong các lĩnh vực khác, chẳng hạn như lái xe có hỗ trợ AI...

Khi trả lời câu hỏi của cư dân mạng, Yusine đã đề cập đến một biện pháp tiềm năng để tránh những rủi ro như vậy, đó là thêm một số loại mã theo cơ chế ChatGPT Review.

Nạn nhân r_ocky.eth cũng cho biết anh đã liên hệ với OpenAI về vấn đề này dù chưa nhận được phản hồi nhưng anh hy vọng vụ việc này sẽ trở thành một vụ án lớn. nhắc nhở rằng OpenAI chú ý đến loại vấn đề này và đề xuất các giải pháp tiềm năng.

Liên kết gốc

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia