ChatGPT vốn quá phổ biến đang cần "phanh tuân thủ" gấp

Tiêu đề gốc: " ChatGPT vốn quá phổ biến đang cần "phanh tuân thủ" gấp 》

Tác giả gốc: Nhóm pháp lý Xiao Sa

Lời khuyên cốt lõi :

ChatGPT và AI trò chuyện khác dựa trên công nghệ xử lý ngôn ngữ tự nhiên cần được giải quyết khẩn cấp trong ngắn hạn. Có ba vấn đề tuân thủ pháp luật chính:

Đầu tiên, AI trò chuyện cung cấp câu trả lời cho các vấn đề sở hữu trí tuệ, vấn đề quan trọng nhất là Vấn đề tuân thủ là liệu các phản hồi do AI trò chuyện tạo ra có tạo ra quyền sở hữu trí tuệ tương ứng hay không? Có cần phải ủy quyền sở hữu trí tuệ không?

Thứ hai, AI trò chuyện tiến hành khai thác và đào tạo dữ liệu trên một lượng lớn văn bản xử lý ngôn ngữ tự nhiên (thường được gọi là kho văn bản) Quá trình này có yêu cầu ủy quyền sở hữu trí tuệ tương ứng?

Thứ ba, câu trả lời của AI trò chuyện như ChatGPT là một trong những cơ chế là phân tích toán học một số lượng lớn các dữ liệu tự nhiên hiện có. Thống kê, thu được một mô hình ngôn ngữ dựa trên số liệu thống kê. Cơ chế này dẫn đến khả năng AI trò chuyện sẽ "nói chuyện nghiêm túc vô nghĩa", điều này sẽ dẫn đến rủi ro pháp lý về việc lan truyền thông tin sai lệch. Trong nền tảng kỹ thuật này, làm thế nào để giảm thiểu rủi ro trò chuyện AI càng nhiều càng tốt Rủi ro phát tán thông tin sai lệch?

Nhìn chung, luật về trí tuệ nhân tạo của nước tôi vẫn đang trong giai đoạn tiền nghiên cứu và chưa có kế hoạch lập pháp chính thức hoặc liên quan Theo dự thảo, các cơ quan liên quan đặc biệt thận trọng trong việc giám sát lĩnh vực trí tuệ nhân tạo, với sự phát triển dần dần của trí tuệ nhân tạo, các vấn đề tuân thủ pháp luật tương ứng sẽ chỉ gia tăng.

一, ChatGPT không phải là "công nghệ trí tuệ nhân tạo xuyên thời đại"

ChatGPT thực chất là sản phẩm của sự phát triển của công nghệ xử lý ngôn ngữ tự nhiên .. Vẫn chỉ là mô hình ngôn ngữ.

Đầu năm 2023, khoản đầu tư khổng lồ từ gã khổng lồ công nghệ toàn cầu Microsoft đã đưa ChatGPT trở thành “đẳng cấp hàng đầu” về công nghệ trường và thoát ra khỏi vòng tròn thành công. . Với sự bùng nổ của khái niệm ChatGPT trên thị trường vốn, nhiều công ty công nghệ trong nước cũng bắt đầu triển khai trong lĩnh vực này. Bản thân ChatGPT có thể mang lại rủi ro và con đường tuân thủ pháp luật là gì?

Trước khi thảo luận về rủi ro pháp lý và lộ trình tuân thủ của ChatGPT, trước tiên chúng ta nên xem xét các nguyên tắc kỹ thuật của ChatGPT - liệu ChatGPT có tốt như tin tức đưa tin hay không , Bạn có thể đưa ra bất kỳ câu hỏi nào mà người hỏi muốn không?

Từ quan điểm của nhóm Sajie, ChatGPT dường như kém “thần thánh” hơn nhiều so với một số tin tức quảng cáo - tóm lại trong một câu, Nó chỉ là sự tích hợp của các công nghệ xử lý ngôn ngữ tự nhiên như Transformer và GPT, về cơ bản nó vẫn là một mô hình ngôn ngữ dựa trên mạng lưới thần kinh chứ không phải là một "tiến bộ AI xuyên thời đại".

Như đã đề cập trước đó, ChatGPT là sản phẩm của sự phát triển của công nghệ xử lý ngôn ngữ tự nhiên.Đánh giá từ lịch sử phát triển của công nghệ này, trải nghiệm chung của nó Nó có ba giai đoạn chính: mô hình ngôn ngữ dựa trên ngữ pháp - mô hình ngôn ngữ dựa trên thống kê - mô hình ngôn ngữ dựa trên mạng thần kinh. Giai đoạn mà ChatGPT tọa lạc là giai đoạn mô hình ngôn ngữ dựa trên mạng thần kinh. Nếu bạn muốn hiểu Nguyên tắc hoạt động của ChatGPT đơn giản hơn, cũng như những rủi ro pháp lý mà nguyên tắc này có thể gây ra, điều đầu tiên cần làm rõ là nguyên tắc hoạt động của mô hình ngôn ngữ dựa trên thống kê, tiền thân của mô hình ngôn ngữ dựa trên mạng nơ-ron.

Trong giai đoạn mô hình ngôn ngữ dựa trên số liệu thống kê, các kỹ sư AI tiến hành thống kê về số lượng lớn văn bản ngôn ngữ tự nhiên để xác định mối liên hệ tuần tự giữa từ. xác suất. Khi mọi người đặt câu hỏi, AI bắt đầu phân tích những tổ hợp từ nào có xác suất cao trong môi trường ngôn ngữ bao gồm các từ cấu thành câu hỏi. Sau đó, AI sẽ ghép các từ có xác suất cao này lại với nhau và trả về một kết quả thống kê Tìm hiểu câu trả lời . Có thể nói, nguyên tắc này đã thấm nhuần vào sự phát triển của công nghệ xử lý ngôn ngữ tự nhiên kể từ khi nó xuất hiện, ở một khía cạnh nào đó, các mô hình ngôn ngữ dựa trên mạng nơron tiếp theo cũng là sự sửa đổi của các mô hình ngôn ngữ dựa trên thống kê.

Để đưa ra một ví dụ dễ hiểu, nhóm Sajie đưa ra câu hỏi "Ở Đại Liên có điểm du lịch nào?" trong hộp trò chuyện ChatGPT như sau: Trong hình:

Bước đầu tiên của AI sẽ phân tích các hình thái cơ bản "Dalian, which, Tourism, resort" trong câu hỏi, sau đó sử dụng nó trong kho văn bản hiện có. Tìm bộ sưu tập văn bản ngôn ngữ tự nhiên nơi đặt các hình vị này, tìm cách sắp xếp thứ tự có xác suất xuất hiện cao nhất trong bộ sưu tập này, sau đó kết hợp các cách sắp xếp này để tạo thành câu trả lời cuối cùng. Ví dụ: AI sẽ thấy rằng từ "Công viên Trung Sơn" nằm trong kho ngữ liệu của ba từ "Đại Liên, du lịch, khu nghỉ dưỡng" với xác suất xuất hiện cao nên sẽ trả về "Công viên Trung Sơn". là từ "công viên" được liên kết với các khu vườn, Các từ như hồ, đài phun nước và tượng có xác suất sắp xếp cao nhất, vì vậy nó sẽ tiếp tục quay trở lại "Đây là một công viên lịch sử với những khu vườn, hồ nước, đài phun nước và tượng tuyệt đẹp ."

Nói cách khác, toàn bộ quá trình dựa trên thống kê xác suất dựa trên thông tin văn bản ngôn ngữ tự nhiên (corpus) hiện có đằng sau AI, do đó các câu trả lời sẽ được trả về cũng là một "kết quả thống kê", khiến ChatGPT phải "nghiêm túc nói nhảm" về nhiều vấn đề. Giống như câu trả lời cho câu hỏi “Ở Đại Liên có điểm du lịch nào?”, dù Đại Liên có Công viên Trung Sơn nhưng ở Công viên Trung Sơn lại không có hồ nước, đài phun nước hay tượng đài. Đại Liên từng có "Quảng trường Stalin" trong lịch sử, nhưng Quảng trường Stalin từ đầu đến cuối chưa bao giờ là quảng trường thương mại, và nó không có bất kỳ trung tâm mua sắm, nhà hàng hay địa điểm giải trí nào. Rõ ràng, thông tin mà ChatGPT trả về là sai sự thật.

2. Là một mô hình ngôn ngữ, ChatGPT hiện là kịch bản ứng dụng phù hợp nhất

Mặc dù chúng tôi đã thẳng thắn trong Phần trước minh họa rõ ràng những hạn chế của mô hình ngôn ngữ dựa trên thống kê, nhưng xét cho cùng, ChatGPT đã là một mô hình ngôn ngữ dựa trên mạng nơ-ron đã cải thiện đáng kể mô hình ngôn ngữ dựa trên thống kê. Nền tảng kỹ thuật của nó, Transformer và GPT, đều là Thế hệ mô hình ngôn ngữ mới nhất. Bản chất của ChatGPT Trên đây là kết hợp dữ liệu khổng lồ với mô hình Transformer có tính biểu cảm cao để tiến hành mô hình hóa ngôn ngữ tự nhiên rất chuyên sâu. Mặc dù các câu trả về đôi khi "vô nghĩa" nhưng chúng vẫn trông giống như " con người" ngay từ cái nhìn đầu tiên. "Trả lời", vì vậy công nghệ này có nhiều kịch bản ứng dụng trong các kịch bản đòi hỏi sự tương tác lớn giữa con người và máy tính.

Hiện tại có ba kịch bản như vậy:

Thứ nhất, công cụ tìm kiếm;

Thứ hai, ngân hàng, công ty luật và các trung gian khác nhau Tương tác giữa con người và máy tính các cơ chế trong các tổ chức, trung tâm mua sắm, bệnh viện và nền tảng dịch vụ của chính phủ, chẳng hạn như hệ thống khiếu nại của khách hàng, điều hướng chẩn đoán và hệ thống tư vấn của chính phủ ở những nơi trên;

Thứ ba, cơ chế tương tác của ô tô thông minh, nhà thông minh (như loa thông minh, đèn thông minh), v.v.

Các công cụ tìm kiếm kết hợp công nghệ trò chuyện AI như ChatGPT có thể sẽ bị thống trị bởi các công cụ tìm kiếm truyền thống + mô hình ngôn ngữ dựa trên mạng lưới thần kinh cách tiếp cận bổ sung. Hiện nay, những gã khổng lồ tìm kiếm truyền thống như Google, Baidu đã tích lũy sâu về công nghệ mô hình ngôn ngữ dựa trên mạng lưới thần kinh, ví dụ Google có Sparrow và Lamda có thể so sánh với ChatGPT. Với sự phù trợ của các mô hình ngôn ngữ này, các công cụ tìm kiếm sẽ có nhiều hơn thế. "Nhân hóa".

Ứng dụng các công nghệ trò chuyện AI như ChatGPT trong hệ thống khiếu nại của khách hàng, hướng dẫn và điều hướng y tế trong bệnh viện và trung tâm mua sắm cũng như hệ thống tư vấn chính phủ của chính phủ Chi phí nhân sự của các đơn vị liên quan có thể tiết kiệm thời gian liên lạc, nhưng vấn đề là các câu trả lời dựa trên số liệu thống kê có thể đưa ra những phản hồi nội dung sai hoàn toàn và dẫn đến rủi ro kiểm soát rủi ro có thể cần được đánh giá thêm.

So với hai kịch bản ứng dụng trên, ứng dụng ChatGPT đã trở thành sự tương tác giữa người và máy tính của các thiết bị nêu trên trong các lĩnh vực của ô tô thông minh và nhà thông minh. Rủi ro pháp lý của cơ chế nhỏ hơn nhiều, do môi trường ứng dụng trong lĩnh vực này tương đối riêng tư và nội dung phản hồi sai sót của AI sẽ không gây ra rủi ro pháp lý lớn. kịch bản không có yêu cầu cao về độ chính xác của nội dung và mô hình kinh doanh đã trưởng thành hơn.

3. Nghiên cứu sơ bộ về rủi ro pháp lý và lộ trình tuân thủ của ChatGPT

Đầu tiên, bối cảnh pháp lý chung về trí tuệ nhân tạo ở đất nước tôi

Giống như nhiều công nghệ mới nổi, công nghệ xử lý ngôn ngữ tự nhiên được đại diện bởi ChatGPT cũng đang phải đối mặt "Tình thế tiến thoái lưỡng nan Collingridge" là một tình thế tiến thoái lưỡng nan bao gồm tình thế tiến thoái lưỡng nan về thông tin và tình thế tiến thoái lưỡng nan về kiểm soát. Cái gọi là tình thế tiến thoái lưỡng nan về thông tin có nghĩa là những hậu quả xã hội của một công nghệ mới nổi không thể lường trước được trong giai đoạn đầu của công nghệ; được gọi là tình thế tiến thoái lưỡng nan về kiểm soát Vấn đề nan giải là khi phát hiện ra những hậu quả xã hội bất lợi do một công nghệ mới nổi mang lại, công nghệ đó thường trở thành một phần của toàn bộ cơ cấu kinh tế và xã hội, khiến cho những hậu quả xã hội bất lợi không thể được kiểm soát một cách hiệu quả.

Hiện nay, lĩnh vực trí tuệ nhân tạo, đặc biệt là lĩnh vực công nghệ xử lý ngôn ngữ tự nhiên đang trong giai đoạn phát triển nhanh chóng. Công nghệ này có khả năng rơi vào cái gọi là "Tình thế tiến thoái lưỡng nan của Collingridge", và sự giám sát pháp lý tương ứng dường như không "theo kịp". Hiện tại ở nước ta chưa có luật về ngành trí tuệ nhân tạo cấp quốc gia, nhưng đã có những nỗ lực lập pháp địa phương có liên quan. Mới tháng 9 năm ngoái, Thâm Quyến đã công bố luật đặc biệt quốc gia dành cho ngành trí tuệ nhân tạo, "Quy định thúc đẩy ngành trí tuệ nhân tạo của Đặc khu kinh tế Thâm Quyến", và sau đó Thượng Hải cũng thông qua "Quy định của Thượng Hải về thúc đẩy phát triển ngành trí tuệ nhân tạo". tin rằng sẽ sớm có nhiều nơi Tất cả sẽ đưa ra luật tương tự cho ngành trí tuệ nhân tạo.

Về quy định đạo đức của trí tuệ nhân tạo, Ủy ban Chuyên môn Quản trị Trí tuệ Nhân tạo Thế hệ Mới Quốc gia cũng đã ban hành "Trí tuệ Nhân tạo Thế hệ Mới" Ủy ban Chuyên môn Quản trị" vào năm 2021. "Bộ quy tắc đạo đức thông minh" đề xuất tích hợp đạo đức và luân lý vào toàn bộ vòng đời nghiên cứu, phát triển và ứng dụng trí tuệ nhân tạo. Có lẽ trong tương lai gần, "Ba định luật về người máy" tương tự như tiểu thuyết của Asimov sẽ trở thành bộ luật sắt cho việc giám sát trong lĩnh vực trí tuệ nhân tạo.

Thứ hai, rủi ro pháp lý của thông tin sai lệch do ChatGPT mang lại

Chuyển trọng tâm của bạn từ vĩ mô sang vi mô. Bỏ qua bối cảnh pháp lý tổng thể của ngành trí tuệ nhân tạo và các vấn đề về quy định đạo đức của trí tuệ nhân tạo, các vấn đề tuân thủ thực tế hiện có trong Hạ tầng trò chuyện AI như ChatGPT cũng rất cần được quan tâm.

Khó khăn hơn là vấn đề thông tin sai sự thật được ChatGPT phản hồi.Như đã đề cập ở phần 2 của bài viết này, tác phẩm của ChatGPT Lý do là câu trả lời của nó có thể hoàn toàn "vô nghĩa nghiêm trọng", loại thông tin sai sự thật tưởng như đúng nhưng thực chất lại gây phẫn nộ là cực kỳ sai lệch. Tất nhiên, những câu trả lời sai cho những câu hỏi như “Ở Đại Liên có điểm du lịch nào?” có thể không gây ra hậu quả nghiêm trọng, nhưng nếu ChatGPT được áp dụng cho các công cụ tìm kiếm, hệ thống khiếu nại của khách hàng, v.v., những thông tin sai lệch mà nó trả lời có thể gây ra hậu quả cực kỳ nghiêm trọng. rủi ro pháp lý. .

Trên thực tế, những rủi ro pháp lý như vậy đã xuất hiện, vào tháng 11 năm 2022, ngôn ngữ dịch vụ Meta trong lĩnh vực nghiên cứu khoa học gần như đã được ra mắt. cùng lúc với ChatGPT, Model Galactica đã bị ngừng hoạt động chỉ sau 3 ngày thử nghiệm do có nhiều câu trả lời đúng và sai trái ngược nhau. Với tiền đề là các nguyên tắc kỹ thuật không thể bị phá vỡ trong thời gian ngắn, nếu ChatGPT và các mô hình ngôn ngữ tương tự được áp dụng cho các công cụ tìm kiếm, hệ thống khiếu nại của khách hàng và các lĩnh vực khác, chúng phải được chuyển đổi để tuân thủ. Khi phát hiện người dùng có thể đặt câu hỏi chuyên môn, người dùng nên được hướng dẫn để tham khảo ý kiến của chuyên gia tương ứng thay vì tìm kiếm câu trả lời từ trí tuệ nhân tạo, đồng thời, người dùng cần được nhắc nhở rõ ràng về tính xác thực của các câu hỏi được trả về. bởi cuộc trò chuyện AI có thể cần xác minh thêm để giảm thiểu rủi ro về rủi ro tuân thủ tương ứng.

Thứ ba, vấn đề tuân thủ sở hữu trí tuệ do ChatGPT mang lại

Khi nhìn từ vĩ mô đến vi mô, ngoài tính xác thực của tin nhắn trả lời AI, chat AI, đặc biệt là vấn đề sở hữu trí tuệ của các mô hình ngôn ngữ lớn như ChatGPT It cũng cần được sự chú ý của nhân viên tuân thủ.

Vấn đề tuân thủ đầu tiên là liệu "khai thác dữ liệu văn bản" có cần giấy phép sở hữu trí tuệ tương ứng hay không. Như đã nêu ở trên, nguyên tắc hoạt động của ChatGPT dựa trên một lượng lớn văn bản ngôn ngữ tự nhiên (hoặc ngữ liệu lời nói). ChatGPT cần khai thác và huấn luyện dữ liệu trong kho ngữ liệu. ChatGPT cần sao chép nội dung của kho văn bản vào cơ sở dữ liệu riêng của nó. Hành vi tương ứng thường được gọi là "khai thác dữ liệu văn bản" trong lĩnh vực xử lý ngôn ngữ tự nhiên. Người ta vẫn còn tranh cãi liệu việc khai thác dữ liệu văn bản có vi phạm quyền sao chép hay không khi dữ liệu văn bản tương ứng có thể cấu thành một tác phẩm.

Trong lĩnh vực luật so sánh, Nhật Bản và Liên minh Châu Âu đã mở rộng phạm vi sử dụng hợp pháp trong luật bản quyền của họ, bao gồm cả "dữ liệu văn bản" trong AI. "Khai thác" đã được thêm vào như một tình huống sử dụng hợp lý mới. Mặc dù một số học giả ủng hộ việc thay đổi hệ thống sử dụng hợp pháp của nước tôi từ "đóng" sang "mở" trong quá trình sửa đổi Luật Bản quyền của nước tôi vào năm 2020, nhưng ý tưởng này cuối cùng đã không được thông qua. Hiện tại, luật bản quyền của nước tôi vẫn duy trì sử dụng hợp pháp Được quy định chặt chẽ, chỉ có mười ba tình huống quy định tại Điều 24 của Luật Bản quyền mới có thể được công nhận là sử dụng hợp pháp. Nói cách khác, Luật Bản quyền của nước tôi hiện không bao gồm việc “khai thác dữ liệu văn bản” trong AI trong phạm vi áp dụng hợp lý. Khai thác dữ liệu văn bản vẫn yêu cầu ủy quyền sở hữu trí tuệ tương ứng ở quốc gia của tôi.

Thách thức tuân thủ thứ hai là liệu các phản hồi do ChatGPT tạo ra có nguyên bản hay không? Về câu hỏi liệu tác phẩm do AI tạo ra có phải là nguyên bản hay không, nhóm của Sajie cho rằng tiêu chí đánh giá không được khác với tiêu chí đánh giá hiện có, nói cách khác, một câu trả lời nào đó được hoàn thành bởi AI hay bởi con người thì phải dựa trên tiêu chuẩn hiện hành về tính nguyên gốc. Trên thực tế, đằng sau câu hỏi này còn có một câu hỏi khác gây tranh cãi hơn: Nếu câu trả lời do AI tạo ra là nguyên gốc thì người giữ bản quyền có phải là AI không? Rõ ràng, theo luật sở hữu trí tuệ của hầu hết các nước, trong đó có nước ta, tác giả của một tác phẩm chỉ có thể là thể nhân, còn AI không thể là tác giả của tác phẩm.

Cuối cùng, nếu ChatGPT yêu cầu bên thứ ba thực hiện phản hồi của mình thì vấn đề sở hữu trí tuệ của họ sẽ được xử lý như thế nào? Nhóm Sajie tin rằng nếu câu trả lời của ChatGPT chứa các tác phẩm có bản quyền trong kho dữ liệu (mặc dù dựa trên nguyên tắc hoạt động của ChatGPT, xác suất xảy ra điều này là nhỏ), thì theo luật bản quyền hiện hành của Trung Quốc, trừ khi nó cấu thành việc sử dụng hợp pháp, nếu không thì việc sao chép là không được phép nếu không có sự cho phép của người giữ bản quyền.

Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia