error

Động sát Beating AI tin nhanh, Cục Quản lý Không gian mạng Trung ương Trung Quốc gần đây đã triển khai giai đoạn hai của chiến dịch đặc biệt "Thanh lãng · Xử lý tình trạng hỗn loạn trong ứng dụng AI", tập trung xử lý các vấn đề như sử dụng AI để tạo và phát tán thông tin giả mạo, nội dung bạo lực và dung tục, mạo danh người khác và xâm phạm quyền lợi của trẻ vị thành niên. Tính đến nay, chiến dịch đặc biệt đã tích lũy xử lý hơn 5,61 triệu thông tin vi phạm, điều tra xử lý hơn 49.000 tài khoản, và xử lý hơn 2.400 trang web, ứng dụng vi phạm.

Trong công tác quản lý nội dung AI, các nền tảng như Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban, Taobao đã tăng cường khả năng nhận diện đa phương thức, mở rộng động cơ sở dữ liệu khuôn mặt, cơ sở dữ liệu giọng nói và cơ sở dữ liệu mẫu vi phạm, đồng thời đẩy mạnh xử lý tài khoản và thông tin vi phạm, tích lũy công bố 46 kỳ thông báo quản lý khác nhau.

Đồng thời, các nền tảng AI như Doubao, Yuanbao, Qianwen, Wenxin Yiyan đã siết chặt khâu kiểm duyệt dữ liệu gốc, hạn chế nghiêm ngặt việc xuất nội dung vi phạm, và tăng cường yêu cầu gắn nhãn nội dung do AI tạo ra; các cửa hàng ứng dụng như Huawei, Xiaomi, OPPO, vivo đã tăng cường kiểm duyệt đăng ký và đưa lên sàn đối với nhà phát triển ứng dụng, đồng thời tiến hành kiểm tra ngẫu nhiên và kiểm tra lại đối với các ứng dụng đang hoạt động.

Trong thời gian chiến dịch đặc biệt, các cơ quan quản lý không gian mạng cũng đã thông báo nhiều vụ việc điển hình, bao gồm sử dụng AI để "biến tấu" các tác phẩm kinh điển, tạo ra thông tin giả về thiên tai và các vấn đề nóng xã hội, AI đổi khuôn mặt và giọng nói để mạo danh người nổi tiếng, sản xuất hàng loạt nội dung bạo lực và dung tục, sử dụng AI để tạo ra thông tin xâm phạm quyền lợi của trẻ vị thành niên, cũng như sử dụng phần mềm "quản lý tự động" AI để thực hiện các hoạt động của "quân đội mạng". Đối với các sản phẩm và ứng dụng AI vi phạm, các cơ quan liên quan sẽ áp dụng các biện pháp như cảnh cáo, phạt tiền, gỡ xuống hoặc đóng cửa theo quy định pháp luật.