Đằng sau vụ việc xóa màn hình “AI Stefanie Sun”, AIGC đối mặt với nỗi đau vi phạm như thế nào?

Giới thiệu: Ứng dụng ban đầu của công nghệ AIGC đã trở nên phổ biến trên Internet gần đây, nhưng công nghệ thay đổi giọng nói bằng AI đã bị cảnh báo về tình trạng xâm phạm. Tác giả nói về vấn đề bản quyền cần lưu ý khi ứng dụng công nghệ AI và chỉ ra rằng chỉ khi chú ý đến những vấn đề này thì sự phát triển thực sự lành mạnh của AIGC mới được đảm bảo.

Ca sĩ không được ưa chuộng Stefanie Sun sắp “nghỉ hưu”, nhưng AI Stefanie Sun đã âm thầm trở thành mã giao thông cho toàn bộ mạng lưới.

"Trong một đêm, số lượt xem đã đạt hơn 100.000. Sau khi đăng liên tiếp chưa đến mười video, số lượng người hâm mộ đã vượt quá 1.000." Xiao Su, người dẫn chương trình UP trên Bilibili chưa đầy một tháng, là một trong những người đứng sau AI Stefanie Sun. Rõ ràng là cô ấy rất hài lòng với dữ liệu nội dung của mình. "Thật tuyệt vời khi một tài khoản mới đạt được cấp độ này."

"Trong bốn giờ, số lượt xem trên mọi nền tảng đã vượt quá 500.000."

Qiqi cũng tạo nội dung cho ca sĩ AI trên các nền tảng như Bilibili và Video Account. Sự phát triển của dữ liệu nội dung tiếp tục kích thích nhiệt huyết sáng tạo của cô.

Những thay đổi về công nghệ do ChatGPT thúc đẩy đã lan rộng nhanh chóng, tác động trực tiếp đến lĩnh vực sáng tạo nội dung và thậm chí biến AIGC thành một phần quan trọng của nền tảng nội dung. Sự xuất hiện của AI Stefanie Sun và AI Jay Chou trên Bilibili và TikTok đang cho thấy dấu hiệu hồi sinh nền âm nhạc Trung Quốc. Không thể phủ nhận rằng sự thay đổi của các công cụ kỹ thuật đã một lần nữa hạ thấp ngưỡng sáng tạo nội dung và nội dung mang tính tương tác nhiều hơn và thậm chí gây tò mò này đã nhanh chóng lan truyền trên toàn bộ Internet.

Tuy nhiên, đằng sau cơn sốt toàn quốc, nội dung do AI tạo ra luôn có những vấn đề cố hữu lớn - tranh chấp bản quyền và bảo mật nội dung.

Li Yan, người sáng lập Kuaiyin, đã lấy AI Stefanie Sun làm ví dụ để giải thích, "Bạn sẽ thấy AI Stefanie Sun hát các bài hát của Jay Chou trên các nền tảng nội dung, nhưng loại nội dung này không chỉ xâm phạm giọng hát của Stefanie Sun mà còn liên quan đến hành vi vi phạm bản quyền các bài hát. Vấn đề này vẫn rất nghiêm trọng trong ngành công nghiệp âm nhạc."

Vào ngày 9 tháng 5, Douyin đã ban hành sáng kiến ​​chống lại nội dung do AI tạo ra, cấm sử dụng công nghệ AI tạo ra để tạo và xuất bản nội dung vi phạm, bao gồm nhưng không giới hạn ở quyền chân dung, quyền sở hữu trí tuệ, v.v. và sẽ áp dụng các hình phạt nghiêm khắc khi bị phát hiện; ngoài ra, nó còn yêu cầu các nhà xuất bản phải đánh dấu rõ ràng nội dung do AI tạo ra và thêm "hình mờ" chính thức thống nhất.

AIGC đang phát triển mạnh mẽ sắp phải đối mặt với thử thách đầu tiên về tính kỷ luật trong ngành.

01 AI Stefanie Sun trở nên nổi tiếng một cách lặng lẽ

"Trong một hoặc hai tháng qua, việc tạo ra loại nội dung này rất dễ trở nên phổ biến. Video của AI Stefanie Sun thậm chí còn trở nên phổ biến trên Bilibili."

Ngoài Bilibili, xu hướng ca sĩ AI cũng đang phát triển trên các nền tảng video ngắn như Douyin và Kuaishou.

Xiao Su đã tóm tắt logic đằng sau các bản hit của ca sĩ AI, "thường là sự kết hợp mạnh mẽ của các siêu sao, chẳng hạn như bản cover Jay Chou của AI Stefanie Sun và các bài hát kinh điển của David Tao." Phiên bản song ca "Peninsula Iron Box" của AI Stefanie Sun và Jay Chou đã được phát hơn 800.000 lần trên Bilibili. Ngoài ra, Xiao Su còn cho biết, việc cover những bài hát Tik Tok đang thịnh hành theo phong cách hát của các siêu sao cũng có thể dễ dàng trở nên phổ biến vì tính mới lạ và tương phản. Bản cover ca khúc “Wumeizijiang” của AI Jay Chou là một ví dụ.

300 lượt xem trực tuyến, nguồn hình ảnh: ảnh chụp màn hình từ trạm B

AI cover không phải là một khái niệm mới, nhưng sự chuyển đổi của công nghệ AIGC thực sự đã tiếp thêm động lực cho sự bùng nổ của các ca sĩ AI. Guo Jing, Tổng giám đốc điều hành của Time Domain Technology, đã giải thích với người dẫn chương trình về quá trình tạo ra ca sĩ AI, "Ca sĩ AI chủ yếu liên quan đến hai công nghệ: tổng hợp giọng hát (SVS) và chuyển đổi giọng hát (SVC). Tổng hợp giọng hát là để ca sĩ AI hát trực tiếp bản nhạc do người dùng nhập, còn chuyển đổi giọng hát là nhập giọng hát của "ca sĩ gốc" và chuyển đổi ca sĩ gốc thành giọng hát của ca sĩ mục tiêu, tương tự như phiên bản giọng nói của AI thay đổi khuôn mặt. Hiện tại, các mô hình nguồn mở để tổng hợp và chuyển đổi giọng hát không khó tìm. Xiao Su sử dụng dự án ở nước ngoài "so-vits-svc".

Trong số tất cả các ca sĩ AI, lý do khiến AI Stefanie Sun nổi bật không chỉ vì giọng hát độc đáo của Stefanie Sun mà còn vì logic kỹ thuật. Li Yan tiết lộ rằng giọng nói của Stefanie Sun là giọng nói đầu tiên được mã nguồn mở. "Người lập trình mã nguồn mở đầu tiên đã sử dụng giọng nói của Stefanie Sun để trình diễn giải pháp của riêng mình, và điều này đã thu hút một nhóm người dùng làm theo." Ông cho biết cuộc thảo luận về ca sĩ AI đã bắt đầu từ ngày 11 tháng 3 và có người đã mở mã nguồn giọng hát của Stefanie Sun vào đầu tháng 4.

Tuy nhiên, mặc dù video của AI Stefanie Sun rất được ưa chuộng, Xiao Su vẫn không cảm thấy an toàn. "Cần phải nêu rõ trong mỗi mô tả video rằng nội dung video được tạo ra bằng công cụ AI, không nhằm mục đích thương mại và sẽ bị xóa ngay lập tức nếu vi phạm." Ngoài việc dán nhãn chủ động của người sáng tạo, một số nền tảng cũng sẽ đưa ra cảnh báo bên dưới video để nhắc nhở người dùng xác định nội dung AI. Nguyên nhân đằng sau việc này tất nhiên là do lo ngại về bản quyền và bảo mật. "Yêu cầu giám sát bản quyền ngày càng nghiêm ngặt và tôi rất lo rằng một ngày nào đó nền tảng này sẽ xóa toàn bộ nội dung của tôi."

Tuyên bố miễn trừ trách nhiệm trong phần giới thiệu video Nguồn hình ảnh: Ảnh chụp màn hình từ Station B

Đồng thời, làm sao để duy trì được sự nổi tiếng của AI Stefanie Sun cũng là một vấn đề mà những người sáng tạo phải đối mặt. Theo quan điểm của Guo Jing, sự phổ biến của AI Stefanie Sun chủ yếu là do việc tiếp nhận khái niệm AI. "Đối với hầu hết người dùng, việc AI có thể khiến Stefanie Sun hát những bài hát của Jay Chou quan trọng hơn việc bản thân những bài hát đó có hay không. Việc hiện thực hóa loại 'một lần trong đời' này trong thế giới AI rất hấp dẫn đối với người dùng và kết quả phổ biến của nó là điều đương nhiên được mong đợi."

Đồng thời, Guo Jing cũng khẳng định, xét về góc độ dài hạn, AI Stefanie Sun đã xác minh được tầm quan trọng của công nghệ AI như một công cụ năng suất. "Tổng hợp giọng nói cùng với chuyển đổi âm thanh có thể cho phép nhiều giọng hát hát nhiều bài hát hơn, do đó mở rộng đáng kể sự đa dạng của không gian nội dung."

Ngoài những lo ngại về bản quyền ở cấp độ người sáng tạo, các nền tảng đương nhiên cũng cần phải đảm nhận những trách nhiệm tương ứng đối với nội dung AI. "Cả công ty thu âm lẫn ca sĩ đều không nhắm vào người dùng thông thường, vì hành vi của người dùng mang tính giải trí cao, và một số người trong số họ thậm chí còn là người hâm mộ ca sĩ. Tuy nhiên, ca sĩ có thể yêu cầu các nền tảng nội dung chịu trách nhiệm." Người đứng đầu một sản phẩm âm nhạc đã giải thích lý do tại sao Douyin lại quản lý chặt chẽ nội dung AIGC.

Theo logic này, các nền tảng nội dung khác chắc chắn sẽ tăng tốc để theo kịp tốc độ quản lý và giai đoạn tăng trưởng mạnh mẽ của nội dung AIGC cuối cùng sẽ kết thúc.

02 Cần cảnh báo về việc thêm hình mờ và gắn nhãn, nội dung do AI tạo ra

Trong làn sóng trí tuệ nhân tạo này, nguồn gốc của cảm giác khủng hoảng của nhân loại chính là sự tiến hóa nhanh chóng của AI, thậm chí AI còn có khả năng biến cái giả thành cái thật.

Bức tranh AI bị chỉ trích vì chi tiết bàn tay chưa hoàn thiện cách đây 2 tháng đã được nâng cấp trong thời gian ngắn. Nó không chỉ có thể cạnh tranh với các người mẫu trên Taobao về việc làm mà thậm chí còn có thể ngụy trang thành một blogger làm đẹp. Otaku không thể phân biệt được bộ mặt thật của AI và lại bị nó mê hoặc.

Trong quá trình phát triển của AI, khái niệm "cuộc sống số" cũng bắt đầu hình thành. Đầu tiên, câu chuyện về một con vượn kỹ thuật sử dụng AI để hồi sinh người thân đã khuất đã trở thành chủ đề nóng, sau đó là cuộc trò chuyện xuyên thời gian và không gian giữa AI Musk và AI Jobs, và cuộc tranh luận thơ giữa AI Li Bai và AI Lin Daiyu.

Nguồn hình ảnh: Tài khoản video AI.Talk

Những nội dung khá khó hiểu này vừa mang tính sáng tạo về hình thức nội dung vừa mang tính đổi mới về công nghệ và tự nhiên trở thành "quy tắc giao thông" của toàn bộ nền tảng.

Kuaiyin đã tính mức độ nhận diện của người dùng đối với nội dung AIGC. Lý Yến giới thiệu rằng Kuaiyin sẽ kết hợp nội dung âm nhạc phiên bản AI và phiên bản gốc, sau đó phân phối đến người dùng theo cách thống nhất. Đánh giá từ dữ liệu phía người dùng, 30-40% người dùng nội dung có chỉ số tốt hơn phiên bản gốc.

"Với sự hỗ trợ của công nghệ hiện tại, chất lượng nội dung do AI tạo ra đã đủ cao. Đồng thời, nội dung do AI tạo ra vẫn còn hiếm và sẽ mang lại cảm giác mới mẻ cho người dùng. Do đó, người dùng sẽ có phản hồi cao về nội dung do AI tạo ra."

Tuy nhiên, trong môi trường mà truyền thông Internet đang phát triển bùng nổ, nội dung do AI tạo ra khó phân biệt giữa thật và giả đã khiến môi trường thông tin trở nên phức tạp hơn. Khi công nghệ đã thâm nhập vào bối cảnh của toàn bộ dân số, các yếu tố không thể kiểm soát cũng gia tăng. Có thể nói rằng nội dung do AI tạo ra càng phổ biến thì mối lo ngại mà nó gây ra càng lớn và tác động lên ranh giới quyền riêng tư và bảo mật nội dung sẽ là chưa từng có. Do đó, việc giám sát các nền tảng nội dung trở nên đặc biệt quan trọng.

Hiện tại, giải pháp mà Douyin cung cấp là thêm hình mờ và thống nhất nhãn. Cụ thể về hình thức nội dung, nội dung văn bản cần được đánh dấu rõ ràng bằng dòng chữ “AI generated”, đồng thời nội dung video cũng cần có thêm hình mờ theo tỷ lệ nhất định vào canvas để làm nổi bật logo AI. Trong quá trình đẩy, nền tảng cũng sẽ thêm nhãn thông báo như "Nội dung này được tạo bởi AI" vào luồng thông tin, trang chi tiết video, v.v.

Nguồn hình ảnh: Tài khoản chính thức của Trung tâm quy tắc Douyin

Dấu mờ rõ ràng đã trở thành "người gác cổng" đầu tiên trong chuỗi phát tán nội dung do AI tạo ra, nhắc nhở người dùng dưới dạng nhận dạng để xử lý nội dung một cách thận trọng, điều này có thể tránh được sự hỗn loạn do AIGC gây ra trong lĩnh vực nội dung ở một mức độ nào đó.

Liên quan đến logo AI, Li Yan đã đưa ra một nhận xét. Ông phát hiện rằng sau khi thêm các từ như "AI creation" hoặc "AI generation" vào tiêu đề hoặc văn bản, dữ liệu người dùng giảm đáng kể. Đối với những người sáng tạo nội dung, cách xử lý tác động của hình mờ này lên nội dung là vấn đề cần phải cân nhắc.

Đối với nền tảng này, trước khi quá trình giám sát nội dung của AIGC hình thành các điều khoản rõ ràng, "dấu mờ" nhận dạng này đã chấm dứt sự phát triển man rợ của quá trình sáng tạo nội dung của AIGC và hình thành một môi trường sáng tạo nội dung tương đối an toàn trong nền tảng. Đồng thời, điều này cũng có thể được coi là một lời từ chối trách nhiệm trá hình của nền tảng, nhằm tránh xa những rủi ro từ nội dung do AI tạo ra.

03 AIGC đang tăng tốc trên con đường đúng đắn

TikTok đã nổ phát súng đầu tiên trong hoạt động giám sát nội dung của AIGC.

Vào ngày 9 tháng 5, nền tảng nội dung video ngắn Douyin đã đưa ra sáng kiến ​​chống lại nội dung do AI tạo ra, yêu cầu các nhà xuất bản phải đánh dấu rõ ràng nội dung do AI tạo ra và thêm "hình mờ" chính thức thống nhất. Douyin cũng đã thắt chặt các hạn chế đối với người dùng ảo, yêu cầu họ phải đăng ký trên nền tảng này và phải có "thẻ căn cước" riêng. Đồng thời, người dùng công nghệ con người ảo cũng cần xác thực tên thật.

Là một ngành công nghiệp đã phát triển đến quy mô đáng kể, việc giám sát người ảo của Douyin có thể được coi là kịp thời. Sự bùng nổ của con người ảo có thể bắt nguồn từ năm 2020. Sự phát triển của các công nghệ như AI, điện toán đám mây và 5G đã mở khóa giá trị nội dung, giá trị tiếp thị và thậm chí là giá trị phát triển công nghiệp của con người ảo.

Tuy nhiên, như một hiện tượng mới nổi, một loạt các vấn đề không thể tránh khỏi đã nảy sinh trong quá trình con người ảo chuyển sang phát triển công nghiệp. Ngoài ra, khi công nghệ AI tạo ra đạt đến mức độ phổ biến, việc quản lý con người ảo trở nên phức tạp hơn.

Đầu tiên là quyền cá nhân chung của người ảo, chẳng hạn như chân dung và giọng nói. Với sự hỗ trợ của công cụ vẽ AI, ngưỡng kỹ thuật lại được hạ xuống lần nữa, việc thiết kế một hình ảnh ảo dành riêng cho người dùng thông thường không còn khó khăn nữa. Tuy nhiên, sự tiện lợi của công nghệ đã làm mờ đi ranh giới của quyền lợi. Công nghệ AI đã trở thành một công cụ và nội dung được cá nhân hóa cho người dùng, sẵn có trên Internet, đã trở thành tài liệu. Cuối cùng, đã xảy ra tình trạng hỗn loạn trong việc lạm dụng hình ảnh và bảo mật dữ liệu của người khác, trở thành vấn đề đi kèm với tính cởi mở của công nghệ.

Đồng thời, khi kỷ nguyên mà mọi người đều có con người ảo xuất hiện, ngưỡng tham gia của người sáng tạo nội dung sẽ bị hạ thấp, điều này dễ dẫn đến chất lượng không đồng đều của các chương trình phát sóng trực tiếp, video và nội dung khác của con người ảo.

"Nhìn chung, việc kiểm soát Douyin chủ yếu sẽ ảnh hưởng đến một số công ty nhỏ và người dùng bình thường hoạt động trong vùng xám", người điều hành ảo Bo Ming nói với Douzhu. "Để tiết kiệm chi phí, các công ty nhỏ và người dùng thông thường sẽ cắt giảm công nghệ và giám sát, thậm chí cố gắng nổi bật về nội dung. Đây là cách chơi phổ biến."

Theo quan điểm của Bo Ming, "xác thực tên thật sẽ không có nhiều tác động đến những người ảo đã hình thành mô hình hoạt động trưởng thành. Ngược lại, nó sẽ làm sạch hiệu quả môi trường phát triển của người ảo, loại bỏ các yếu tố ác tính ảnh hưởng đến sự phát triển của ngành và cho phép người ảo phát triển lành mạnh".

Sáng kiến ​​xác thực tên thật thực chất đang tận dụng sức mạnh của nền tảng để sàng lọc những nhà sản xuất con người ảo, quản lý ngành công nghiệp con người ảo với rào cản gia nhập ngày càng thấp và hình thành một vòng tuần hoàn lành mạnh trong hệ sinh thái nội dung.

Từ sự phổ biến ban đầu do những thay đổi về công nghệ đến sự tò mò của công chúng muốn dùng thử, và sau đó là sự ra đời cuối cùng dưới dạng nội dung mới với sự phát triển lành mạnh, AIGC chắc chắn sẽ phải trải qua giai đoạn phát triển khó khăn và bị hạn chế bởi quyền lực giám sát trước khi có thể chuyển sang con đường phát triển chính thức.

Tác giả: Bukong

Nguồn: Tài khoản công khai WeChat "Dou Jiao TMT"