Nghiên cứu bảo mật GoPlus: Hãy cảnh giác với sự nguy hiểm của việc thay đổi khuôn mặt AI

Tiêu đề gốc: "Nghiên cứu bảo mật của GoPlus: Hãy cảnh giác với sự nguy hiểm của việc thay đổi khuôn mặt AI"

Nguồn gốc: GoPlus

1. "AI thay đổi khuôn mặt"

AI thay đổi khuôn mặt thường đề cập đến việc sử dụng công nghệ Deepfakes trong deep learning để thay thế khuôn mặt của một người Trở thành khuôn mặt của người khác. Công nghệ này có thể tạo ra video hoặc hình ảnh giả trông như thật bằng cách phân tích đặc điểm khuôn mặt của người mục tiêu rồi áp dụng nó vào video hoặc hình ảnh khác.

Công nghệ thay đổi khuôn mặt có giá trị ứng dụng nhất định trong giải trí, sản xuất phim và các lĩnh vực khác nhưng nó cũng mang đến nhiều mối nguy hiểm. Cụ thể, Deepfakes được sử dụng trong đã có. mối lo ngại rộng rãi về việc sử dụng tiềm năng trong việc sản xuất tài liệu lạm dụng tình dục trẻ em, video khiêu dâm của người nổi tiếng, khiêu dâm trả thù, tin giả, trò lừa bịp, bắt nạt và gian lận tài chính.

2. Lịch sử phát triển của “AI thay đổi bộ mặt”

Năm 2017, từ Đại học Supasorn Suwajanakorn của Washington và những trường khác đã sử dụng công nghệ học sâu để khởi động “Tổng hợp Obama” [1] (Dự án Tổng hợp Obama), được xuất bản trên Siggraph 2017. Nói một cách đơn giản, công nghệ này sửa đổi các video clip của Barack Obama để ông ấy nói những lời từ một đoạn âm thanh mới không liên quan gì đến video. Công nghệ của nó là sự ứng dụng toàn diện các công nghệ như Mạng thần kinh tái phát (RNN) và Tổng hợp miệng. Hiệu ứng rất tốt. Âm thanh và miệng trong video được kết hợp để đạt được hiệu ứng tổng hợp như thật:

Tổng quan về kỹ thuật tổng hợp obama

Một dự án tương tự khác hiện đang được thực hiện tại TU ở Giáo sư người Đức Darmstadt và anh chàng béo dễ thương Justus Thies đã đề xuất Face2Face[2] vào năm 2016 (công nghệ này là sửa đổi video clip khuôn mặt của người mục tiêu (dst: Destination) để bắt chước người đó trong thời gian thực (src: nguồn ), đăng trên CVPR2016). Vì dự án này, Justus Thies cũng đã được Thủ tướng Đức Merkel tiếp đón vào năm 2019 để thảo luận về những rủi ro và thách thức của việc giả mạo truyền thông [3].

Mũi tên chỉ vào Justus Thies

Các công nghệ trên khẳng định rằng nền tảng của công nghệ giả mạo sâu dựa trên deep learning đã có sẵn. Vậy sự ra đời cụ thể của deepfake là từ đâu?

Câu trả lời là: Reddit!

Đúng vậy, thuật ngữ deepfakes bắt nguồn từ khoảng cuối năm 2017, bởi một anh chàng tên là deepfakes” Reddit người dùng đề xuất. [4] Anh ấy nổi tiếng vì đã thành lập kênh r/deepfakes trong cộng đồng Reddit, nơi mọi người chia sẻ các video deepfakes mà họ tạo ra: những video phổ biến nhất vào thời điểm đó là thay thếnhững gương mặt nổi tiếng bằng cơ thể của các diễn viên trong video khiêu dâm.

Gần như cùng lúc, nhiều video và cộng đồng khác nhau có Mọc lên như nấm sau mưa. Mọi người chia sẻ video của mình trên diễn đàn. Trong số đó, nhiều nhân viên hậu kỳ hiệu ứng hình ảnh đang bổ sung nhiều hiệu ứng đặc biệt phức tạp và công nghệ siêu phân giải vào các video hoán đổi khuôn mặt để nâng cao chất lượng. của ảnh thật. Hiệu ứng -realistic (giả và thật) và được phổ biến rộng rãi trên các nền tảng video UGC như Youtube. Theo thống kê nghiên cứu, tổng số lượt xem các video liên quan đến Deepfakes trên Youtube, Instagram, Tik-tok và các nền tảng khác. nền tảng vượt quá 10 tỷ +. Một video từ nhà sản xuất video chất lượng cao có liên quan đã vượt quá 1 triệu lượt xem.

Đằng sau những video này, điều không thể bỏ qua chính là phần mềm thay đổi diện mạo thành công nhất trong cộng đồng nguồn mở, loạt phim DeepFaceLab [ 5,6]( Tổng cộng Github 66.000+ sao, top 0,0001% Github, một trong mười dự án nguồn mở AI hàng đầu năm 2020, lọt vào danh sách rút gọn cùng với Tensorflow & PyTorch), phần mềm được phát triển bởi Ivan Perov và Daiheng Gao (Daiheng là cũng là Cố vấn AI của GoPlus, tập trung vào Phòng ngừa và điều trị PoH) và những người khác đã phát triển

DeepFaceLab

So với các công nghệ trong giới học thuật, ưu điểm vượt trội của hàng loạt công nghệ deepfake mã nguồn mở mà DeepFaceLab và FaceSwap đại diện là dễ sử dụng và có thể sử dụng mà không cần nền tảng kỹ thuật!

Khác với các dự án Github truyền thống, DeepFaceLab cung cấp script bat chỉ bằng một cú nhấp chuột dựa trên nền tảng windows linux, nghĩa là người dùng có thể làm theo quy trình để thay đổi bộ mặt mô hình một cách ngu ngốc. Đào tạo và suy luận đã hạ thấp đáng kể ngưỡng sản xuất của công nghệ thay đổi khuôn mặt, đây cũng là chìa khóa để quảng bá và phổ biến các video thay đổi khuôn mặt!

3. Sự nguy hiểm của việc “thay đổi khuôn mặt AI”!

· Các trường hợp trong lĩnh vực tài chính truyền thống:

Trong lĩnh vực tài chính truyền thống, công nghệ thay đổi bộ mặt là được sử dụng cho các hoạt động lừa đảo. Chẳng hạn, theo báo cáo [7,8], tội phạm sử dụng thông tin cá nhân thu được trái phép để mô phỏng và tổng hợp chân dung, khuôn mặt, giọng nói của người thân, đồng nghiệp hoặc công chức của người bị lừa thông qua thuật toán máy tính và mạo danh danh tính của những người nói trên để gian lận. Sau khi chiếm được lòng tin của nạn nhân, chúng sử dụng các thủ tục được chuẩn bị trước để gửi thông tin lừa đảo như chuyển khoản thẻ ngân hàng, đầu tư ảo và quản lý tài chính cũng như giảm giá hóa đơn cho nạn nhân, đồng thời sử dụng cuộc gọi video, đánh bom bằng giọng nói và các phương tiện khác để giảm bớt thiệt hại của nạn nhân. tính phòng thủ, khiến nạn nhân khó nhận ra sự bất thường trong thời gian ngắn. Một khi kẻ lừa đảo tin vào thủ đoạn và hoàn tất việc chuyển tiền thì sẽ không có tin tức gì từ bên kia.

· Trường hợp Web3

Gần đây, mọi người lại chú ý đến "hoán đổi khuôn mặt AI". đồng tiền kỹ thuật số okx của người dùng đã được thêm vào danh sách trắng địa chỉ dưới hình thức hoán đổi khuôn mặt AI, do đó chuyển Gone là các quỹ. Trị giá hơn 3 triệu đô la Mỹ! [9]

Tin tức được đưa ra vào thứ Hai (ngày 3 tháng 6 năm 2024) khiến một lượng lớn người dùng web3 phải kinh ngạc. Những lo ngại về xác minh bảo mật nhận dạng khuôn mặt!

Trước đây, người dùng Web3 không nhạy cảm với việc xác minh khuôn mặt trong liên kết Proof-of-Human vì họ sử dụng rất ít. Sau khi vấn đề thay đổi diện mạo dẫn đến tổn thất tài chính lớn thì sự việc đã lộ diện. Nhiều người bắt đầu nghi ngờ liệu KYC và công nghệ xác minh khuôn mặt của các sàn giao dịch lớn như OKX và Binance có đáng tin cậy hay không.

Liệu có tổ chức bên thứ ba công bằng và hợp lý để xác minh và đánh giá sự an toàn của các sàn giao dịch lớn này hay không.

4. Những phát triển công nghệ mới vào năm 2024 và tác động của chúng đối với cảnh báo người dùng

Vào năm 2024, 2 tuần sau khi OpenAI xuất hiện, EMO [10] (làm việc trong nhóm Daiheng Gao) từ Học viện Alibaba Damo Lâu dài Công nghệ lái xe khuôn mặt dựa trên mô hình khuếch tán đã trưởng thành.

Điều này có nghĩa làtội phạm chỉ có thể sử dụng một bức ảnh duy nhất Make high -video giả mạo khuôn mặt chất lượng để đánh lừa các kênh xác minh trao đổi!

Ngoài ra, với sự trưởng thành của công nghệ nhân bản giọng nói (bert vits2 [11]), tội phạm có động cơ thầm kín cố tình thu thập thông tin âm thanh của người dùng để sử dụng mô hình Tái tạo liên kết giọng nói của con người cần thiết để xác minh trao đổi!

Có thể thấy rằng công nghệ của Năm 2024 Những phát triển mới đòi hỏi cả người dùng và sàn giao dịch phải cảnh giác hơn. Thật không may, ngành công nghiệp Web3 hiện tại không hiểu loại công nghệ này và thiếu những nhân tài phù hợp để đóng góp và thực hiện các thay đổi có mục tiêu nhằm bảo vệ hiệu quả lợi ích của người dùng.

Là người dùng, chúng tôi chỉ có thể đảm bảo rằng thông tin cá nhân của chúng tôi bị rò rỉ nhiều nhất có thể và chúng tôi không được ghi lại khuôn mặt video có âm thanh trên Internet Hãy thoải mái truyền lại để tránh những rủi ro tiềm ẩn.

5. GoPlus đi vào hoạt động

Kể từ tháng 3 năm 2024 và Daiheng Sau khi thành lập Hợp tác với Gao, GoPlus tiếp tục hỗ trợ nghiên cứu của Daiheng trong lĩnh vực giả mạo khuôn mặt video và tài trợ cho các phòng thí nghiệm liên quan (Viện nghiên cứu an ninh mạng USTC, v.v.).

Ở lĩnh vực hình ảnh, Daiheng đã giành vị trí thứ hai trong Thử thách phát hiện Deepfake do Meta tổ chức năm 2019. Hiện nay trong lĩnh vực video, việc phát hiện Deepfake đang là một phần đáng chú ý hơn!

Bảo mật tài sản người dùng là huyết mạch. GoPlus sẵn sàng hợp tác với người dùng để cung cấp các giải pháp tiên tiến cho sàn giao dịch, KYC, v.v. AI nâng cao công nghệ cố gắng hết sức để giảm thiểu rủi ro xảy ra!

Tài liệu tham khảo:

[1] Suwajanakorn, Supasorn, Steven M. Seitz và Ira Kemelmacher-Shlizerman. "Tổng hợp obama: học hát nhép từ âm thanh. " Giao dịch ACM trên đồ họa (ToG) 36.4 (2017): 1-13.

[2] Thies, Justus và cộng sự. "Face2face: Chụp khuôn mặt theo thời gian thực và tái hiện các video rgb." Kỷ yếu của hội nghị IEEE về thị giác máy tính và nhận dạng mẫu năm 2016.

[3] Cuộc họp nội các: Phương tiện tổng hợp - Nguy hiểm hay Cơ hội?

[4] Cole, Samantha (24 tháng 1 năm 2018) ). "We Are Truly Fucked: Mọi người hiện đang tạo ra nội dung khiêu dâm giả do AI tạo ra". /github.com/iperov/DeepFaceLab

[6] DeepFaceLive, https://github.com/iperov/DeepFaceLive

[7] Cách ngăn chặn "AI thay đổi khuôn mặt" gian lận Bộ phận giám sát tài chính nhắc nhở https://www.gov.cn/lianbo/bumen/202310/content_6907773.htm

[8] Chiều sâu丨Biết người, biết mặt, nhưng không biết lòng! Hãy cảnh giác với hành vi gian lận tài chính "thay đổi khuôn mặt AI" https://m.21jingji.com/article/20231020/herald/1f23a5a3959ab7cc544e0c0d93ed6886.html

[9] Việc thay đổi khuôn mặt AI vượt qua hệ thống đánh giá OKX, người dùng mất 300 Wandao https://x.com/BroLeonAus/status/1797553316404371967

[10] EMO: Emote Portrait Alive - Tạo video chân dung biểu cảm với Mô hình khuếch tán Audio2Video trong điều kiện yếu https://humanaigc. github.io/emote-portrait-alive/

[11] Bert Vits2 https://github.com/fishaudio/Bert-VITS2

Bài viết này là từ một bài gửi và không thể hiện quan điểm của BlockBeats.

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia