BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Trang chủ
AI AI
Tin nhanh
Bài viết
Sự kiện
BlockBeats Pro
Thêm
Thông tin tài chính
Chuyên đề
Hệ sinh thái chuỗi khối
Mục nhập
Podcast
Data
OPRR
Partnered With:

AI đã sao chép giọng nói của tôi và cướp mất công việc của tôi.

Đọc bài viết này mất 23 phút
Vấn đề của Tiểu Ngư là trong thế giới của cậu ấy không có Như Lai.


Văn bản: Sleepy, Menmen


Tiểu Ngư phát hiện giọng nói của mình trên nền tảng video ngắn vào một buổi tối bình thường.


Giọng nói ấy đã nuôi sống anh suốt sáu năm. Âm sắc, cách phát âm, vị trí nhẹ nhàng co lại của thanh quản khi thở đều giống hệt giọng thật của anh.


Giọng nói trong video nói: "Cuộc đời này thực sự chẳng có ý nghĩa gì."


Anh nhìn màn hình, sững lại một lúc. Những lời tiêu cực như vậy, anh thường chủ động tránh khi nhận đơn. Anh sẽ không nói thế, cũng không muốn nói thế. Nhưng giọng nói ấy lại nói một cách đầy tự tin.


Người kiếm cơm bằng giọng nói


Tiểu Ngư chuyển sang làm lồng tiếng toàn thời gian vào cuối năm 2020. Đơn hàng đầu tiên đến từ một người họ hàng, người này có một dự án video khoa học phổ thông ngắn cần lồng tiếng, biết anh yêu thích công việc này nên đã giao cho anh. Sau đó, anh dần vào nghề, chủ yếu lồng tiếng cho các video ngắn và tài khoản tự truyền thông, thu nhập khoảng mười nghìn tệ một tháng.


Anh bắt kịp phần đuôi của ngành kinh doanh này. Lồng tiếng video ngắn ở Trung Quốc đã phát triển thành một dây chuyền sản xuất khổng lồ, với thị trường lồng tiếng toàn cầu năm 2022 đạt hơn 50 tỷ đô la. Nhưng lợi nhuận chảy dọc theo chuỗi, bị cắt giảm dần. Báo giá từ bên A cho nền tảng khoảng ba mươi tệ một phút, nhưng khi đến tay người lồng tiếng, thường chỉ còn một tệ rưỡi.


Tiểu Ngư đứng ở cuối chuỗi. Anh không có tác phẩm nổi bật, không thể kể ra vài nhân vật mà khán giả nhớ đến, không được coi là "diễn viên lồng tiếng" thực thụ. Theo cách nói của anh, anh là người kiếm cơm bằng giọng nói. Giọng nói không phải là tài năng, cũng không phải biểu đạt nghệ thuật, mà là công cụ kiếm sống.


Công cụ này anh giữ rất chặt. Sau một thời gian nhận đơn, anh thường nhắc nhở đối tác đừng tùy tiện chia sẻ thông tin liên lạc của anh ra ngoài. Anh sợ giọng nói bị dùng quá nhiều, quá tràn lan, mất đi sự nhận diện. Một người lồng tiếng vô danh, thứ vốn liếng có thể giữ không nhiều, sự khan hiếm là một trong số đó.


Tháng 11 năm 2023, một người bạn gửi cho anh một tin nhắn. Lúc đó anh mới biết, trên mạng đã có người dùng giọng nói của anh để tạo ra AI lồng tiếng, sử dụng một cách trắng trợn.


Anh muốn truy tìm nguồn gốc giọng nói bị rò rỉ, nhưng gần như vô ích. Những năm qua anh nhận quá nhiều đơn, bất kỳ đoạn video nào đăng lên mạng cũng có thể bị tải xuống, dùng phần mềm tách giọng nói của anh ra một cách sạch sẽ. Anh không biết đó là đoạn nào, bị ai, và lấy đi lúc nào.


Ký sinh trùng và vật chủ


Mọi chuyện ngày càng tồi tệ hơn.


Đối tác nhanh chóng học cách dùng giọng AI của anh để thương lượng giá. Tìm một người thật lồng tiếng, dù ép xuống mức cực thấp, cũng phải vài chục tệ. Còn tự triển khai một mô hình, chi phí gần như có thể giảm xuống miễn phí. Đối với những tài khoản cần đăng hàng trăm nội dung mỗi tháng, điều này có thể tiết kiệm kha khá tiền.


Tiểu Ngư thậm chí từng nghĩ cho đối phương, không cho người ta dùng cũng đồng nghĩa với việc không cho người ta kiếm tiền. Nhưng khi người ta kiếm tiền, họ chẳng thèm nghĩ rằng hành động của mình đang cắt đứt đường sống của Tiểu Ngư.



Rắc rối hơn còn ở phía sau. Giọng nói nhân bản của anh ngày càng lan tràn trên các nền tảng, hệ thống kiểm duyệt và thuật toán bắt đầu trực tiếp xếp giọng nói này vào loại AI. Nội dung bị coi là AI sẽ không được vào các bể lưu lượng lớn hơn. Đến khi giọng AI của anh tràn lan tới một mức độ nhất định, ngay cả giọng thật của anh cũng bị coi là AI, và cũng không vào được.


Một con người thật bị kéo lụi bởi bản sao của chính mình. Giọng nói của anh, như một năng lực lao động, bị tách rời khỏi cơ thể, rồi quay lại chèn ép không gian sinh tồn của chính anh.


Có cơ quan truyền thông chính thống từng chia sẻ video dùng giọng AI của anh, sau đó thậm chí tự làm vài cái. Các tổ chức càng lớn càng dùng như vậy, người thường càng tin rằng giọng nói này vốn dĩ là AI. Anh đi bảo vệ quyền lợi, đối tượng càng lớn, anh càng trông giống kẻ nói dối. Rõ ràng anh bị xâm phạm quyền lợi, nhưng nhìn lại cứ như anh muốn hưởng lợi từ một "giọng AI".


Pháp luật cũng không toàn năng như anh nghĩ. Tháng 4 năm 2024, Tòa án Internet Bắc Kinh đã xét xử vụ kiện xâm phạm bản quyền giọng AI đầu tiên trên toàn quốc. Giọng của diễn viên lồng tiếng Ân Mỗ bị một công ty lấy đi bán kiếm tiền, tòa công nhận rằng giọng nói là một phần của nhân cách, giọng AI nhân bản chỉ cần còn nghe ra được là ai, thì trước khi dùng phải có ủy quyền riêng. Ân Mỗ thắng kiện.


Nhưng Ân Mỗ thắng được là vì anh có thể truy nguồn gốc. Giọng của anh tập trung xuất hiện trên vài APP, bị đơn là một công ty cụ thể. Giọng của Tiểu Ngư phân tán trên hàng trăm tài khoản truyền thông tự thân, nguồn gốc không thể tra, bị đơn không thể tìm, mỗi lần bị đánh cắp chỉ là vài chục, vài trăm tệ vi phạm nhỏ lẻ. Pháp luật chuẩn bị câu trả lời cho "một người kiện một công ty", nhưng không chuẩn bị cho "một người bị cả Internet đánh cắp".


Tiểu Ngư từng đặt tên cho mối quan hệ này, ký sinh trùng và vật chủ. Một giọng nói bị dùng đến mức không vào được bể lưu lượng, người dùng sẽ đi tìm giọng nói tiếp theo.


"Họ sẽ chuyển sang vật chủ tiếp theo," anh nói, "không biết vật chủ tiếp theo có trụ được lâu hơn tôi không."


Roi quất vào một tôi khác


Trong phần bình luận và tin nhắn riêng của tài khoản cá nhân Tiểu Ngư, liên tục có người đến hỏi cách làm giọng nói của anh.


"Giọng này dùng thế nào?"


"Giọng của anh hay thật, làm sao để nhân bản?"


Họ hỏi một cách đầy lý lẽ, như thể hỏi cách tải một App vậy.


Sự xúc phạm này khiến Tiểu Ngư khó chịu. Anh không cho rằng giọng nói là thứ có thể bị mua đứt một cách đơn giản. Theo quan điểm của anh, nếu ngay cả khuôn mặt và giọng nói cũng có thể bị mua đứt hoàn toàn, thì một phần con người đó lại trở thành nô lệ.


Nhưng khi được hỏi liệu giọng nói được clone kia có thực sự được coi là "giọng nói của anh" hay không, câu trả lời của anh có chút mâu thuẫn. Anh thừa nhận, xét về độ tương đồng, đó chính là giọng nói của anh. Chính vì anh cảm thấy nó có liên quan đến mình, nên anh mới đi bảo vệ quyền lợi, lên tiếng. Nhưng anh cũng nói, nó không phải là "anh", bởi vì nó chưa qua sự cho phép của anh, cũng chưa qua suy nghĩ của anh.


Anh đưa ra một ví dụ. "Giống như đối phương đang cầm roi quất vào một 'tôi' khác, bắt 'tôi' ấy nói ra những lời nào đó."


Chúng tôi hỏi anh, nếu thực sự được ủy quyền, thì giọng nói AI đó có được coi là thuộc về anh không. Anh im lặng một lúc.


"So với cái không được ủy quyền," anh nói, "nó thuộc về mình hơn."


Bị lấy đi, và bị mua đứt. Cả hai việc đều không tốt, anh chỉ có thể chọn cái bớt tệ hơn.



Còn con đường ủy quyền, đã có người đi đến cuối và dò đường cho anh rồi. Tháng Sáu năm nay, hãng sản xuất "Peppa Pig" là Hasbro đã gửi hợp đồng mới cho các diễn viên lồng tiếng thiếu nhi tham gia, yêu cầu cho phép công ty sử dụng giọng nói của họ để sao chép và tạo ra bằng AI. Sau khi truyền thông đưa tin vụ việc này ra ánh sáng, các nhà quản lý diễn viên trẻ ở Anh đã gửi một bức thư ngỏ phản đối, chỉ với một lý do duy nhất: trẻ em hoàn toàn không có khả năng hiểu được hậu quả lâu dài của loại ủy quyền này. Hơn một nghìn người đã ký tên vào bức thư.


Bắt một đứa trẻ ký vào một bản ủy quyền mà nó không hiểu là lợi dụng, nhưng dù người lớn có thể hiểu hợp đồng, thì ký xong cũng có ích gì? Ngắn hạn thì đổi lấy một khoản tiền, còn dài hạn, đối phương sau này dùng giọng nói đó để nói gì, làm gì, anh ta chưa chắc đã quản được.


Hơn nữa, đến ngày giọng nói AI hoàn toàn trưởng thành, thị trường chỉ càng ưu ái những người hàng đầu. Giọng nói của các diễn viên lồng tiếng hàng đầu sẽ có được một sự trường tồn nào đó trong ngành, còn những giọng nói trẻ sẽ không thể chen chân vào được. Trong ngành đã có người làm khảo sát, sau khi giọng nói bị đánh cắp trên diện rộng, thu nhập của hơn 70% diễn viên lồng tiếng vừa và nhỏ giảm hơn một nửa, ngay cả những người hàng đầu cũng giảm trung bình 30%. Giá trị còn lại của những người hành nghề vừa và nhỏ là làm mẫu huấn luyện cho mô hình.


"Đến ngày đó," anh nói, "có lẽ giới lồng tiếng sẽ chết."


Ranh giới


Vấn đề đang làm phiền Tiểu Ngư, lại đang giải quyết nỗi phiền của những người khác.


Helen là đạo diễn phim tài liệu, cũng quay quảng cáo. Lần đầu tiên cô dùng AI lồng tiếng là vào năm ngoái khi cắt demo cho một dự án phim tài liệu. Để cho khách hàng xem phim, trước tiên phải cắt một bản ngắn 5 phút, nhưng âm thanh đồng bộ trong phim dài không thể cắt ra được một câu chuyện ngắn hoàn chỉnh, cô đành phải viết lại một đoạn kịch bản, dùng lồng tiếng để kết nối câu chuyện.


Cô ấy trước tiên tìm đến một công ty lồng tiếng. Ngân sách có hạn, nên chọn bản mẫu giá khoảng một trăm hai mươi tệ một phút. Khi nhận về nghe thử, độ ổn định, nhịp điệu và cảm xúc đều không đạt, cô ấy từng nghi ngờ đó không phải giọng người thật thu.


Sau đó, người dựng phim đề nghị, hay là thử dùng AI xem sao. Dù sao cũng chỉ là bản demo trao đổi nội bộ, không phát sóng, không dùng cho mục đích thương mại.


Kết quả là giọng AI đó còn hay hơn cả giọng người thật giá rẻ từ công ty lồng tiếng.


Đây là lần đầu tiên Helen cảm nhận rõ ràng rằng AI lồng tiếng đã đủ trưởng thành để có thể làm việc. Tuy nhiên, ranh giới của cô ấy cũng rất rõ ràng. Demo có thể dùng, nhưng thương mại chính thức thì không, phim tài liệu lại càng không. Những thứ trong âm thanh đồng thời của đối tượng quay, như khoảng dừng, hơi thở, sự do dự, sự ngập ngừng trước khi thốt ra một câu nói, bản thân chúng đã là một phần của câu chuyện. AI có thể xử lý âm thanh sạch hơn, mượt hơn, nhưng phim tài liệu không cần sự mượt mà.


Sự không hoàn hảo là bằng chứng của con người. Helen bỏ tiền ra mua chính là sự không hoàn hảo này. Thứ mà thuật toán lấy đi từ Tiểu Ngư, cũng chính là sự không hoàn hảo này. Cùng một thứ, ở bên này là chất liệu sáng tạo, ở bên kia lại là tài sản tiêu cực của lưu lượng.


Người khó từ chối nhất


AI không bắt đầu thay thế từ những giọng nói hay nhất. Nó trước tiên len lỏi vào những khe hở "không cần quá cầu kỳ". Bản demo của Helen chính là một khe hở, mở ra một cách hợp lý, trao đổi nội bộ, không phát sóng, không thương mại. Mỗi khe hở đều mở ra một cách hợp lý. Nhưng những khe hở này nối lại với nhau chính là một con đường.


Trên con đường này, người khó bảo vệ bản thân nhất, là người khó nói ra lời từ chối nhất.


Helen từ chối AI, cái giá phải trả là phải cân nhắc lại giữa ngân sách và tiến độ. Tiểu Ngư từ chối, cái giá là tiếp tục đòi quyền lợi, tiếp tục tốn thời gian tốn tiền, tiếp tục đối mặt với sự lạnh lùng và chặn tài khoản hết lần này đến lần khác. Những đứa trẻ lồng tiếng cho "Peppa Pig" từ chối, cái giá có thể là mất luôn một vai diễn.


Và một khi giọng nói đã bị sao chép, nó sẽ không chỉ dùng để lồng tiếng.



Tháng 4 năm 2023, tại Phúc Châu, có người dùng AI hoán đổi khuôn mặt kết hợp giả giọng nói, mạo danh bạn của một doanh nhân, qua một cuộc gọi video dài mười phút, lừa đảo bốn triệu ba trăm nghìn tệ. Đầu năm 2024, một nhân viên của một công ty đa quốc gia tại Hồng Kông bị kéo vào một cuộc họp video nhiều người, trên màn hình hiện ra CFO của tập đoàn và vài đồng nghiệp, anh ta làm theo chỉ thị trong cuộc họp chuyển ra hai trăm triệu HKD. Sau đó điều tra mới biết, toàn bộ cuộc họp, ngoại trừ anh ta, không một ai là người thật.


Nếu một ngày nào đó, giọng nói sao chép của Tiểu Ngư bị dùng để thực hiện một cuộc gọi như vậy thì sao. Nếu bố mẹ già của cậu ấy nhận được một cuộc gọi từ "cậu ấy", nói rằng "cuộc đời này sống thật vô nghĩa, cho tôi vay ít tiền" thì sao.


Không có Như Lai


Mỗi khi Tiểu Ngư đăng một tác phẩm, cô ấy phải làm thêm một việc trước đây không tồn tại: chứng minh rằng người đang nói thực sự là chính mình.


Một người thật, trên tài khoản của chính mình, đăng bản ghi âm của chính mình, nhưng trước tiên phải tìm cách khiến người kiểm duyệt và khán giả tin rằng lần này là cô ấy thực sự nói. Quy trình này vụng về, thừa thãi, và lẽ ra không nên tồn tại.



Tình huống này, Ngô Thừa Ân đã viết cách đây hơn 400 năm.


Trong hồi 58 của "Tây Du Ký", Lục Nhĩ Di Hầu biến thành hình dạng của Tôn Ngộ Không. Không phải là "giống" Tôn Ngộ Không, mà là từng sợi lông đều giống hệt. Gương chiếu yêu không soi ra, Quan Âm cũng không phân biệt được.


Thú cưỡi của Địa Tạng Vương Bồ Tát là Đế Thính, nằm rạp xuống đất nghe ra thật giả. Nhưng nó không dám nói. Nó sợ kẻ giả sẽ gây náo loạn ngay tại chỗ, không ai kiểm soát nổi.


Điều này giống hệt các nền tảng. Không phải là không phân biệt được, mà là việc phân biệt này chẳng mang lại lợi ích gì cho họ. Phân biệt ra một người thật thì phải trả chi phí kiểm duyệt, phải chịu rắc rối từ những sai sót. Thà rằng để tất cả đều là AI, đó là cách dễ dàng nhất.


Đỉnh điểm nhất là Đường Tăng. Ngộ Không thật bảo vệ ông suốt đường đi, nhưng tính khí nóng nảy, hay cãi lại, thường xuyên bỏ cuộc. Kẻ giả thì ngoan ngoãn, nghe lời, gọi là đến, không bao giờ nổi cáu. Vì vậy, Đường Tăng đuổi đi trước tiên là kẻ thật.


Giống như những đối tác dùng giọng nói AI để ép giá. Tiểu Ngư thật sẽ mệt mỏi, sẽ tăng giá, sẽ từ chối một số bản thảo. Tiểu Ngư AI thì không bao giờ mệt, muốn giọng điệu nào cũng có, giá cả ép rất thấp. Đứng từ phía nhu cầu, ai mà không muốn giữ lại kẻ ngoan ngoãn hơn?


Ngô Thừa Ân cuối cùng vẫn sắp xếp một Như Lai, trong tam giới chỉ có ông phân biệt được thật giả, một câu nói là kết luận, kẻ giả hiện nguyên hình, kẻ thật trở về vị trí.


Rắc rối của Tiểu Ngư là, thế giới của cô ấy không có Như Lai.


Ngoài ra, dân gian đọc "Tây Du Ký" đã suy ra một thuyết âm mưu, rằng cú đánh ở Lôi Âm Tự thực ra đã giết chết Ngộ Không thật, lý do là từ đó về sau Ngộ Không không bao giờ nổi cáu nữa. Thuyết này lưu truyền nhiều năm, vì người đọc trong lòng hiểu rõ, khi thật giả chỉ còn một câu nói của quyền uy để phân biệt, ai dám chắc rằng cú đánh đó thực sự không sai?


Dù Tiểu Ngư thắng mọi vụ kiện bảo vệ quyền lợi, vài năm sau, giọng nói mà mọi người nhớ đến chưa chắc đã là do chính cô ấy nói ra.


Tài liệu tham khảo
[1] Vụ kiện "xâm phạm bản quyền giọng nói AI" đầu tiên của Trung Quốc được tuyên án sơ thẩm, Tòa án Internet Bắc Kinh / Mạng Tòa án Trung Quốc
[2] Vụ kiện xâm phạm giọng nói do AI tạo ra đầu tiên của Trung Quốc và bảo vệ quyền nhân thân, China Justice Observer
[3] Hasbro yêu cầu diễn viên nhí 'Peppa Pig' ký chuyển nhượng giọng nói cho AI, gây phản ứng dữ dội, Deadline

[4] Hasbro bị cáo buộc ép diễn viên Peppa Pig ký quyền giọng nói AI, TheGamer / MSN
[5] Kẻ lừa đảo dùng AI giả làm bạn của doanh nhân, lừa 4,3 triệu nhân dân tệ, TechNode
[6] Nhân viên tài chính trả 25 triệu đô la sau cuộc gọi video với 'giám đốc tài chính' deepfake, CNN
[7] Công ty Hong Kong mất 200 triệu đô la Hong Kong sau khi nhân viên bị lừa bởi cuộc họp video deepfake, South China Morning Post
[8] Quy mô thị trường lồng tiếng và thuyết minh, Fortune Business Insights / tóm tắt nghiên cứu thị trường



Chào mừng bạn tham gia cộng đồng chính thức của BlockBeats:

Nhóm Telegram đăng ký: https://t.me/theblockbeats

Nhóm Telegram thảo luận: https://t.me/BlockBeats_App

Tài khoản Twitter chính thức: https://twitter.com/BlockBeatsAsia

Chọn thư viện
Thêm mới thư viện
Hủy
Hoàn thành
Thêm mới thư viện
Chỉ mình tôi có thể nhìn thấy
Công khai
Lưu
Báo lỗi/Báo cáo
Gửi