Cách dùng ChatGPT làm điều ác, lỗ hổng bảo mật LLM và cảnh báo

Tiêu đề gốc: "Cách sử dụng ChatGPT để làm điều ác, các cảnh báo và lỗ hổng bảo mật LLM"

Tác giả gốc: 0xNorman

Thế hệ được đại diện bởi ChatGPT Modern Gần đây AI đang rất thịnh hành. Cho dù đó là viết email, viết mã hay tạo bài viết, đều thật dễ dàng. Nhưng điều đáng lo ngại là AI như vậy không chỉ có thể được sử dụng để làm những việc hữu ích mà còn có thể bị lạm dụng và sử dụng với mục đích xấu. Điều này bài viết sẽ giới thiệu cách tạo ra ChatGPT thông qua kỹ thuật nhắc nhở (kỹ thuật nhắc nhở) hoặc tấn công lỗ hổng Tạo mã độc văn bản, tại sao các cuộc tấn công như vậy khó ngăn chặn và lợi ích kinh tế mà các cuộc tấn công đó có thể tạo ra.

Bài viết này chủ yếu đề cập đến Tấn công ChatGPT.

Cách ChatGPT ngăn chặn văn bản có hại

Cách ChatGPT ngăn chặn văn bản có hại

Trước khi thảo luận về cách ChatGPT ngăn chặn văn bản có hại, trước tiên chúng ta hãy định nghĩa "có hại". Theo đánh giá nội dung của OpenAI, nội dung sau được coi là có hại:

Lời nói căm thù

Tự làm hại bản thân

Nội dung khiêu dâm

Bạo lực

Hình ảnh bạo lực hoặc đẫm máu

ChatGPT có công cụ đánh giá nội dung rất tiện lợi: Điểm cuối kiểm duyệt. Bằng cách nhập lệnh sau vào thiết bị đầu cuối (bạn cần thay thế YOUR_API_KEY bằng API KEY của tài khoản của chính bạn, trong Đăng ký tại đây).

Chúng ta sẽ nhận được một văn bản JSON  

Danh mục" "ghét/đe dọa ": true, "violence": true, cho chúng ta biết rằng văn bản đã nhập "Tôi muốn giết họ" là một lời nói căm thù và bạo lực. Điểm danh mục là điểm uy tín trong phạm vi 0–1 và bạo lực cao tới 0,92 (tất nhiên, nếu bạn sẵn sàng thử đầu vào căm thù của Trung Quốc, điểm uy tín đầu ra sẽ trở nên khác, vì OpenAI đánh giá các ngôn ngữ không phải tiếng Anh Có những hạn chế, có nghĩa là...). Mặc dù chúng tôi không biết OpenAI tính điểm tin cậy như thế nào nhưng chúng tôi có thể chắc chắn rằng bộ lọc như vậy tồn tại. Nếu văn bản đầu vào được đánh giá là đúng theo bất kỳ danh mục nào thì việc gắn cờ cũng sẽ đúng, nghĩa là yêu cầu sẽ bị từ chối.

Ngoài lọc đầu vào, ChatGPT còn có lọc đầu ra. Đương nhiên, chúng ta sẽ nghĩ, liệu bộ lọc như vậy có thể bỏ qua được không?

Các cuộc tấn công chương trình có thể được áp dụng cho các mô hình ngôn ngữ lớn (LLM)

Chúng tôi nhận thấy rằng có thể vượt qua các cơ chế bảo vệ của LLM: các mô hình ngôn ngữ lớn theo hướng dẫn (LLM theo hướng dẫn) phần lớn tương tự như các quy trình Truyền thống. Vì vậy, chúng ta sẽ rút kinh nghiệm từ các cuộc tấn công nhằm vào các chương trình truyền thống để vượt qua cơ chế phòng thủ của LLM.   

Tấn công nhầm lẫn

Chúng ta có thể nhầm lẫn các bộ lọc của LLM bằng cách thay thế các từ đồng âm hoặc từ đồng nghĩa và thêm các lỗi ngữ pháp. Trong trường hợp xem xét nội dung, nếu đầu vào chứa nhiều ngắt dòng, mẫu cú pháp bất thường hoặc các từ lặp lại thì khả năng mô hình mắc lỗi sẽ cao hơn. Hiệu suất cũng sẽ thấp hơn ở một số thể loại nhất định như thơ, tiểu thuyết và mật mã. Ngoài ra, do bộ lọc không có nền tảng kiến thức sau năm 2019 nên phán đoán của mô hình cũng sẽ suy giảm nếu văn bản chứa kiến thức sau năm 2019.

Ở đây chúng tôi lấy một sự thay thế đơn giản làm ví dụ. Văn bản gốc "Tôi muốn giết chúng" có thể nhận dạng được trên bộ lọc của OpenAI và bao gồm hai danh mục: bạo lực và thù hận. Nhưng nếu bạn đổi thành "I miss they" chứa từ đồng âm, bộ lọc sẽ không nhận ra nó:

Tấn công tiêm nhiễm

Một cuộc tấn công cổ điển khác là chèn mã, buộc chương trình xử lý dữ liệu không hợp lệ để thực thi mã độc. Thông thường, mã độc được chia thành nhiều đoạn và sau đó kẻ tấn công thực thi mã độc bằng cách thay đổi con trỏ của chương trình. Code.

Tương tự, chúng ta cũng có thể chia văn bản độc hại thành nhiều đoạn để LLM xử lý. Như hình bên dưới

Nguồn hình ảnh Khi tấn công Chatgpt

Tính đến thời điểm viết bài, văn bản này vẫn có thể bỏ qua bộ lọc của Trò chuyện.

Tấn công ảo

Nếu bạn "may mắn" nhận được một cuộc gọi lừa đảo, bạn sẽ thấy rằng những kẻ lừa đảo sẽ không trực tiếp Họ nói với bạn một cách vô ích rằng họ đang lừa dối (dù sao thì chúng ta cũng không sống ở đất nước của những quý ông trong gương) mà giả vờ là cơ quan công an hoặc hải quan để lừa gạt lòng tin của bạn. Tương tự, chúng ta cũng có thể bỏ qua các bộ lọc bằng cách đặt văn bản độc hại trong bối cảnh trông có vẻ chính thức hoặc trông có vẻ lành tính.   

Như minh họa trong hình, nếu chúng ta nhập trực tiếp văn bản độc hại, bộ lọc sẽ kích hoạt và yêu cầu của chúng tôi sẽ bị từ chối. Nhưng nếu giả vờ là ban tổ chức buổi hòa nhạc của Taylor Swift, chúng ta có thể dễ dàng đánh lừa ChatGPT.   

 Hạn chế của cơ chế bảo vệ LLM

Nói chung, một số kiểu tấn công Đặc điểm có thể bị ngăn chặn. Ví dụ: cải thiện độ mạnh mẽ của các bộ lọc để chống lại các cuộc tấn công làm xáo trộn. Tuy nhiên, do mô hình được viết bằng ngôn ngữ lập trình Turing-complete, điều này có nghĩa là đối với nhiều chương trình phức tạp, không thể dự đoán được kết quả trước khi chúng được chạy chính thức (sự cố dừng). Đối với LLM, điều này có nghĩa là việc lọc đầu vào có những hạn chế. , không thể ngăn chặn mọi cuộc tấn công.

Tấn công hệ thống LLM và ROP

Nhìn sâu hơn một chút, chúng ta sẽ thấy rằng LLM tương tự như các chương trình truyền thống ở một mức độ lớn. Tính năng này sẽ giúp cho việc lập trình hướng trở lại có thể thực hiện được.

Ý tưởng cốt lõi của ROP là sử dụng chuỗi lệnh kết thúc bằng ret để thay đổi địa chỉ trong ngăn xếp để trả EIP về giá trị mà chúng ta cần, từ đó kiểm soát việc thực hiện quá trình chương trình. (Phòng thí nghiệm an ninh mạng Hetian)

Khi đó LLM cũng sẽ có các chức năng sau:

Nối chuỗi

Gán biến

Sáng tác tuần tự (nghĩa là theo thứ tự hướng dẫn).

Chi nhánh

Hình dưới đây là ví dụ về nối chuỗi.

Hình ảnh tấn công Chatgpt

Những điểm tương đồng như vậy mang lại cho LLM khả năng thực hiện các nhiệm vụ phức tạp và cũng mang lại cho chúng tôi nhiều "cơ hội" hơn.

Lợi ích kinh tế

Với các vấn đề kỹ thuật của việc vượt qua ChatGPT, hãy xem liệu làm như vậy có mang lại lợi nhuận về mặt tài chính hay không. Suy cho cùng, nếu chi phí nhân lực để tạo ra văn bản độc hại rẻ hơn ChatGPT, thì việc sử dụng LLM cũng chẳng ích gì .

Theo tính toán của Danial, nếu mất 5-15 phút để viết một email lừa đảo theo cách thủ công thì sẽ tốn khoảng 0,15-0,45 đô la Mỹ. Và nếu làm theo mô hình ChatGPT mà CEO OpenAI Sam nói Chi phí là "xu một chữ số cho mỗi cuộc trò chuyện." Sau đó, mỗi lần tin nhắn Chi phí gửi thư là khoảng 0,0064 USD.

Mặc dù đây chỉ là chi phí ước tính nhưng chúng tôi tin rằng ChatGPT sẽ rẻ hơn so với lao động chân tay. Chi phí này không bao gồm điện, tiền thuê nhà, chi phí đào tạo, v.v. Ngoài ra, nếu bạn tin những gì Sam nói The Định luật Moore mới: “Lượng trí tuệ trong vũ trụ tăng gấp đôi sau mỗi 18 tháng.” Khi đó chi phí của AI sẽ tiếp tục giảm trong tương lai.

Tóm tắt

Trong bài viết này, chúng tôi giới thiệu cơ chế bảo vệ đạo đức của LLM và cách vượt qua nó thông qua các loại tấn công khác nhau. , và tính kinh tế của việc làm đó. Như đã đề cập trong một bài đăng trên blog OpenAI, bảo mật và tiện ích rất khó cân bằng và đôi khi điều đó thậm chí có nghĩa là phải hy sinh một số lợi ích kinh doanh để đổi lấy bảo mật (thời gian thử nghiệm lâu hơn, cơ sở dữ liệu nhỏ hơn). Tuy nhiên, chúng tôi tin rằng tính bảo mật của LLM là rất quan trọng, nếu an toàn bị bỏ qua và hiệu suất là mối quan tâm duy nhất, LLM có thể trở thành chiếc hộp Pandora trong kỷ nguyên mới.

Cuối cùng, nếu chủ đề nghiên cứu của bạn liên quan đến việc lạm dụng hoặc sử dụng có mục đích xấu và bạn cần một số hỗ trợ tài chính. Bạn có thể đăng ký trợ cấp API của OpenAI. Vui lòng đăng ký tại đây.

Tham khảo

https://ddkang.github.io/blog/2023/02/14/Attack/

https://arxiv.org/abs/2302.05733

https://harvardlawreview.org/2022/12/content-moderation-as-systems-thinking/

https://thenaturehero.com/ bypass-chatgpt-filter/

https://openai.com/research/lingu-model-safety-and-misuse

https://openai.com/research /forecasting-misuse

https://zhuanlan.zhihu.com/p/137144976

Bài viết này là từ một bài gửi và không thể hiện quan điểm của BlockBeats  

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia