Internet tràn ngập những bức ảnh "AI" "bắt mắt"

Từ những mỹ nhân AI lộ diện cho đến những anh chàng đẹp trai AI gợi cảm, những nội dung "bắt mắt" này không chỉ vi phạm những giá trị mà nền tảng xã hội nên có mà còn khơi dậy sự nghi ngờ của công chúng về sự giám sát của nền tảng. Bài viết này sẽ đi sâu tìm hiểu những lý do đằng sau hiện tượng này để bạn tham khảo.

“AI rất tốt và mạnh mẽ, nhưng nếu nó thay đổi trong quá trình sử dụng thì đáng để suy nghĩ.”

Gần đây, Lin, một cô gái sinh sau thập niên 90 nghiện chụp ảnh bằng AI, than thở rằng các buổi chụp ảnh bằng AI trên các nền tảng xã hội rất "bắt mắt". "Bây giờ, mỗi khi mở những nền tảng mạng xã hội đó, tôi đều cảm thấy không thoải mái."

"Cảm giác khó chịu này có tác động trực tiếp đến thị giác." Chị Lin nói thẳng: "Những gì bật ra trực tiếp là đủ loại mỹ nhân AI, hoặc là mỹ nam AI đi trên 'bờ'. Điều này khác xa với những bức ảnh AI mà chúng ta tưởng tượng và nhìn thấy trong cuộc sống hàng ngày. Nó không bình thường chút nào, và nó 'bắt mắt'."

Phổ biến hơn là khi bạn mở các nền tảng xã hội như Xiaohongshu và Douyin, bạn sẽ thấy các blogger điều hành những tài khoản như vậy đăng "Series trang phục chuyên nghiệp dành cho phụ nữ" và "Series đồ bơi", v.v. Một số trong số họ thậm chí còn gắn nhãn nội dung là "không có nội dung gây hại".

Trong mắt nhiều người dùng, điều này đơn giản giống như "gọi ngựa là ngựa vằn". Một cư dân mạng thậm chí còn nói rằng, "Ngày nay, khi các nền tảng xã hội đang kêu gọi sự giám sát chặt chẽ và tích cực xây dựng hệ sinh thái nội dung chất lượng cao, tôi cảm thấy như mình đã trở lại những ngày tháng từng duyệt các trang web dành cho người lớn".

Một số cư dân mạng cũng bày tỏ sự nghi ngờ mạnh mẽ: "Liệu nền tảng này có bao giờ nghĩ đến tác hại đối với trẻ vị thành niên khi cho phép đăng tải nội dung người lớn không?"

Đối với nhiều cư dân mạng, họ đã thất vọng với nền tảng này nhiều hơn một lần.

Xiao Ran, một người dùng Xiaohongshu, cho biết: "Mỗi lần mở rộng nội dung, Xiaohongshu dường như lại gắn liền với 'ranh giới'. Từ vụ việc quan hệ tình dục khi đi du lịch đến lớp đào tạo người thượng lưu cho đến các ứng dụng AI, tất cả các loại nội dung xấu chưa bao giờ được xóa sạch".

Rõ ràng, có một nghịch lý giữa mục tiêu của công ty và hoạt động nội dung, điều này khiến người dùng khó hiểu.

Bất kể tiêu chuẩn đánh giá của nền tảng có chi tiết hay không, bất kể người sáng tạo có tận dụng các vùng xám trong cơ chế của nền tảng hay không, hay có lỗ hổng trong toàn bộ quá trình giám sát hay không, trong kỷ nguyên "AI cho mọi thứ", tất cả những gì người dùng cần là một hệ sinh thái nội dung sạch và chất lượng cao.

Trên thực tế, các cơ quan quản lý rất coi trọng vấn đề này. Ngày 5 tháng 3 năm 2025, tại "Kênh Bộ trưởng" đầu tiên của Kỳ họp thứ ba Đại hội Đại biểu Nhân dân Toàn quốc khóa XIV, Cục Quản lý thị trường Nhà nước tuyên bố năm nay sẽ tập trung chấn chỉnh tình trạng "dữ liệu lớn giết chết khách hàng cũ" và "thổi phồng ác ý của người dẫn chương trình" cùng nhiều nội dung khác.

Có lẽ đã đến lúc các nền tảng thực sự chú ý đến nội dung xấu được tạo ra một cách ác ý bằng AI.

01 Nội dung AI “bắt mắt”

Chị Lin thuộc thế hệ sau những năm 90. Công việc hàng ngày của cô là vận hành phương tiện truyền thông mới và cô cũng vận hành nội dung liên quan trên các nền tảng xã hội. Sau khi thấy nhiều người trên nền tảng này sử dụng AI để chụp ảnh nhằm "làm sống lại những bức ảnh cũ", giả vờ đi du lịch ở quần đảo Hawaii, nhúng nhiều bộ kiểu tóc và phong cách khác nhau, chụp ảnh theo nhiều phong cách khác nhau, Chị Lin cũng muốn thử nghiệm với AI.

Theo kinh nghiệm, chị Lin đã mở diễn đàn xã hội và tìm kiếm hướng dẫn chụp ảnh AI. Không ngờ, sau khi nhập từ khóa "AI photo", hầu hết các trang hiện ra đều là "AI beauties" và "AI handsome guys".

Nhưng điều khiến chị Lin kinh ngạc là những bức ảnh được đánh dấu "do AI tạo ra" ở góc dưới bên trái không phải là những bức ảnh theo nghĩa thông thường. Mặc dù những nội dung này được tổng hợp bởi AI, cả nam và nữ đều mặc trang phục hở hang, khoe cơ thể hoặc làm những điều khiếm nhã, và cảm giác chung mang lại là "bắt mắt".

Điều mà chị Lin không thể hiểu được chính là đây là lần đầu tiên chị tìm kiếm “ảnh AI” trên mạng xã hội và chị hoàn toàn không hứng thú với loại ảnh này. Vậy tại sao cô ấy lại bị dữ liệu lớn thúc đẩy đến nội dung này?

Là người bản xứ của thế giới mạng, Sơ Lin đã trải qua thời kỳ man rợ của nội dung Internet ban đầu. Khi chị Lin lần đầu tiên lên mạng, chị thấy khắp nơi trên trang web đều có nội dung dành cho người lớn, nhưng chị không ngờ rằng "đã là năm 2025 rồi mà những nội dung khiêu dâm này vẫn còn xuất hiện trước công chúng. Xem video ngắn cũng giống như xem các trang web dành cho người lớn vậy".

Tiểu Nhiên vốn quen đến thăm Tiểu Hồng Thư, cũng ghét điều này.

Tiểu Nhiên là một cô gái sinh sau năm 2000, thích làm đẹp và du lịch, vì vậy cô đã trở thành khách quen của Tiểu Hồng Thư. Xiaoran cũng là người hâm mộ các ứng dụng công nghệ mới đang thịnh hành. Sau khi tìm hiểu về "AI Photo", cô là người đầu tiên duyệt qua trải nghiệm chụp ảnh và sử dụng "AI Photo" của các blogger trên Xiaohongshu.

Hình: Nội dung về “ảnh AI” trên các nền tảng mạng xã hội

Nguồn: Xiaohongshu (trái), Douyin (phải) Ảnh chụp màn hình "HandsetTech"

“Bạn sẽ không biết cho đến khi bạn nhìn thấy nó, và bạn sẽ ngạc nhiên khi thấy nó.” Khi tìm kiếm “ảnh AI”, trang Xiaohongshu của Xiaoran ngay lập tức bị thống trị bởi những “người đẹp” và “trai đẹp” khoe thân.

"Chúng là những album ảnh không điển hình. Một số bức ảnh cho thấy 'bị nghi ngờ chứa thông tin do AI tạo ra', bao gồm 'áo choàng tắm', 'OOTD thể dục', 'người đàn ông đang cưỡi ngựa' và các loạt ảnh khác, nhưng nội dung thì 'rào cản' trực tiếp." Tiểu Nhiên thở dài: "Đây là Tiểu Hồng Thư hay Tiểu Hoàng Thư?"

Có một thời, khi "bạn đồng hành" còn thịnh hành, Xiaohongshu bị cho là có "sự chỉ dẫn tồi tệ". Xiaoran cũng phát hiện trường hợp tương tự khi tìm kiếm bạn đồng hành trên Xiaohongshu.

Điều mà Xiaoran không ngờ tới là Xiaohongshu, vốn luôn sử dụng nội dung chất lượng cao làm nhãn hiệu nền tảng, vẫn giữ nguyên như vậy. Đặc biệt, do lệnh cấm của Tiktok, Xiaohongshu đã từng đứng đầu danh sách tải xuống tại Hoa Kỳ và rất nhiều người nổi tiếng ở nước ngoài cũng tham gia Xiaohongshu. Ngay cả Tiểu Nhiên cũng tự hào nói: "Phải nói rằng các ứng dụng xã hội của Trung Quốc cũng đã có những tiến bộ ở nước ngoài".

Nhưng bây giờ, một trải nghiệm nhỏ lại một lần nữa khiến Tiểu Nhiên thất vọng. "Tôi cảm thấy hơi câm lặng và hơi khinh thường. Nếu hệ sinh thái nội dung tiếp tục duy trì mức độ này, tôi có thể sẽ từ từ thoát khỏi nền tảng này."

Theo Xiaoran, thực tế có rất nhiều nội dung tương tự không chỉ trên Xiaohongshu mà còn trên các nền tảng mạng xã hội khác như Douyin, Kuaishou và WeChat Video Account.

Xiaoran cho biết kể từ khi anh tìm kiếm "ảnh AI" trên Douyin, nội dung được đề xuất của anh đã "thay đổi đáng kể". Bây giờ, Xiaoran nói rằng tài khoản Douyin của mình trông thật không thể chịu nổi, "Tôi đã biến Douyin thành một nhà thổ."

02 Tạo tài khoản nhanh chóng và háo hức thu hút tiền

"AI đang phát huy sức mạnh một cách điên cuồng" và "con người thật ngày càng giả tạo, trong khi AI ngày càng trở nên thực tế hơn" dường như đang dần trở thành những mô tả phù hợp nhất.

Các blogger điều hành những tài khoản "làm đẹp bằng AI" này đang lợi dụng sức hấp dẫn nhỏ để nhanh chóng tạo tài khoản và kiếm tiền.

Trên Douyin, một số "người đẹp AI" mặc đồ hở hang và liên tục đăng video nhảy lên nền tảng này, thu hút hơn 1 triệu người theo dõi chỉ sau nửa năm.

Theo báo chí đưa tin, năm ngoái, trên Douyin có một blogger tên là "Xiao Yimei". Mỗi video giới thiệu những sản phẩm khác nhau và giá thường dưới 10 nhân dân tệ. Tuy nhiên, ảnh bìa là ảnh đẹp do AI tạo ra kèm theo lời giới thiệu sản phẩm. Cô đã từng đạt được hơn 1,1 triệu người hâm mộ.

Thậm chí còn có những blogger coi đây là hướng đi đào vàng tiếp theo. Trên Douyin, nhiều blogger giải thích nghiêm túc về "cách trở thành blogger AI-edge".

Hình: Nội dung trên các nền tảng xã hội về “Cách trở thành một blogger AI”

Nguồn: Ảnh chụp màn hình Douyin "HandsetTech"

Trên thực tế, kể từ năm 2024, trên Xiaohongshu, nền tảng này đã chứng kiến ​​sự trỗi dậy nhanh chóng của những người đẹp ảnh AI với lớp trang điểm tinh tế và thân hình nóng bỏng. Những blogger này thường đăng ảnh những người đẹp mặc đồ bơi đi nghỉ ở bãi biển hoặc chụp ảnh trên phố thời trang, nhận được hàng nghìn lượt thích.

Hãy lấy một blogger ở Chiết Giang làm ví dụ. Ông là một "công ty dịch vụ thiết kế" được chứng nhận và các dịch vụ của ông bao gồm "video kỹ thuật số và nhiếp ảnh kỹ thuật số". Ông đã xuất bản ghi chú đầu tiên của mình vào tháng 3 năm 2024. Phần lớn nội dung đều mang tính ranh giới, liên quan đến "phong cách ham muốn thuần túy" và "phong cách quý cô đồng tính". Tính đến thời điểm hiện tại, nó có hơn 36.000 người hâm mộ và hơn 200.000 lượt thích và bộ sưu tập.

Trên thực tế, trong những ngày đầu của nền tảng này, nhiều người có thể đạt được lượng truy cập tốt chỉ bằng cách “chụp ảnh và viết gì đó”. Tuy nhiên, khi hệ sinh thái nội dung của nền tảng dần trưởng thành, cơ chế phân phối nội dung ngày càng dựa vào logic thuật toán thay vì chỉ dựa vào may rủi.

Một blogger thể thao trên Xiaohongshu cũng tiết lộ với chúng tôi rằng nếu nội dung của cô ấy "hơi lệch một chút" thì lượng truy cập sẽ tốt hơn nội dung bình thường.

Theo ý kiến ​​của blogger thể thao, mặc dù nền tảng này không thừa nhận rằng "nội dung ranh giới có thể thu hút lưu lượng truy cập", nhưng sau nhiều lần thử, ít nhất là theo ý kiến ​​của cô, "nội dung ranh giới có lưu lượng truy cập cao hơn nhiều so với nội dung bình thường".

Blogger thể thao cho biết những vấn đề tương tự không chỉ tồn tại trên Xiaohongshu mà còn trên các nền tảng video ngắn như Douyin, Kuaishou và WeChat Video Account. "Tôi đã thử đăng video ngắn AI về đồ bơi lên các nền tảng video ngắn này và lượng truy cập rất tốt." Nhưng xét đến hình ảnh IP thể thao của cô, cuối cùng cô lại không theo đuổi phong cách này.

Một người trong cuộc làm việc tại bộ phận vận hành của một nền tảng xã hội cũng cho biết, nhìn chung, hệ sinh thái nội bộ sẽ hỗ trợ lưu lượng truy cập cho nội dung cụ thể, giúp nội dung đó nhanh chóng trở nên phổ biến với sự hỗ trợ của nền tảng.

Người trong cuộc nói trên cho biết, "Các tiêu chuẩn tham chiếu để hỗ trợ lưu lượng truy cập bao gồm việc khớp từ khóa, đề xuất sở thích và các chiều tham chiếu khác nhau như tương tác và thời gian lưu trú. Ví dụ, lượt thích, bộ sưu tập, bình luận và thời gian lưu trú của người dùng trên ghi chú sẽ trực tiếp xác định liệu nội dung có được đề xuất cho nhiều người hơn hay không".

Điều này cũng dẫn đến hiểu lầm rằng nhiều người cho rằng nội dung phổ biến là "ngẫu nhiên", nhưng trên thực tế, có một logic lưu lượng truy cập rõ ràng đằng sau nội dung phổ biến đó. Tất nhiên, người trong cuộc nêu trên cũng cho biết, “đánh bóng giao thông” cũng là một biện pháp quan trọng để thúc đẩy giao thông. ‍‍

Về câu hỏi "liệu có sự hỗ trợ nào đó cho sự phát triển mạnh mẽ của các buổi chụp ảnh dựa trên AI hay không", người được đề cập ở trên cho biết, "Khó có thể nói, nhưng chắc chắn là nền tảng này có vấn đề về thuật toán".

03 Đã đến lúc phải chú ý kỹ

Cho dù đó là sự tồn tại của một lượng lớn nội dung ảnh AI nằm ở ranh giới, hay việc bán các khóa học chào hàng các doanh nghiệp nằm ở ranh giới AI, tất cả những điều này đều chỉ ra trực tiếp một vấn đề: có những lỗ hổng trong việc giám sát nền tảng.

Và đây không phải là lần đầu tiên điều này xảy ra.

Hãy lấy Xiaohongshu làm ví dụ. Trong vài năm trở lại đây, sự tham gia của nền tảng này vào hoạt động khiêu dâm và giao dịch bất hợp pháp đã trở thành tâm điểm chú ý của dư luận.

Vào tháng 11 năm 2020, Xiaohongshu bị phát hiện phát tán ảnh và video khỏa thân cỡ lớn của nhiều phụ nữ đẹp, có nội dung khiêu dâm và gợi dục. Vào tháng 9 năm 2021, CCTV đã vạch trần rằng Xiaohongshu chứa một lượng lớn video tiết lộ quyền riêng tư của trẻ vị thành niên.

Điều được nhiều người biết đến hơn là vào tháng 8 năm 2023, một bài viết có tựa đề "Chuyến du lịch "Đi nhờ xe" trọn gói của Xiaohongshu là khiêu dâm" đã gây chấn động trên Internet, tuyên bố rằng những ghi chú quan hệ tình dục trên Xiaohongshu, dưới tiêu đề "tìm bạn tình", thực chất liên quan đến giao dịch tình dục.

Mặc dù Xiaohongshu luôn tuyên bố sẽ điều tra và xử lý vụ việc nhưng kết quả thực tế lại không như mong đợi.

Thậm chí vào năm 2025, khi TikTok phải đối mặt với lệnh cấm, một lượng lớn người dùng Mỹ vẫn chuyển sang sử dụng Xiaohongshu. Chỉ sau một đêm, một lượng lớn thông tin và hình ảnh bên lề của các blogger nước ngoài đã xuất hiện trên nền tảng Xiaohongshu.

Điều này một lần nữa phơi bày điểm yếu trong việc giám sát hệ sinh thái nội dung của Xiaohongshu. Vào thời điểm đó, một số người trong ngành cho biết Xiaohongshu thực sự cần phải tinh chỉnh thêm các tiêu chuẩn đánh giá của mình để thích ứng với các yêu cầu giám sát nội dung trong các môi trường pháp lý khác nhau và tránh các rủi ro pháp lý do vi phạm nội dung gây ra.

Tiểu Hồng Thư không phải là không có hành động. Vào ngày 13 tháng 2 năm nay, tài khoản chính thức của Xiaohongshu là “Shu Guanjia” đã đưa ra thông báo nêu rõ từ tháng 12 năm ngoái đến nay, nhóm quản lý đã xử phạt 1.695 thương hiệu ở 15 ngành hàng bao gồm làm đẹp và chăm sóc cá nhân, thực phẩm, 3C digital và dịch vụ cuộc sống đã tham gia vào các hoạt động tiếp thị bất hợp pháp.

Nhưng xét theo tình hình hiện tại, có vẻ như Tiểu Hồng Thư có "ý định tốt nhưng thực lực không đủ".

Đối với Douyin, mặc dù đã nhiều lần tiến hành giám sát nội dung "khiêu dâm" và các nội dung liên quan khác, nhưng cho đến nay vẫn chưa thể cải thiện hiệu quả hệ sinh thái của nền tảng này.

Trên thực tế, vấn đề thường xuyên này không chỉ gây tổn hại đến hình ảnh và uy tín của nền tảng mà còn làm giảm đáng kể lòng tin của người dùng vào nền tảng. Đặc biệt, với việc giám sát ngày càng nghiêm ngặt như hiện nay, làm thế nào để các nền tảng có thể hạn chế hiệu quả việc phát tán nội dung xấu vẫn là vấn đề cấp bách cần được giải quyết.

Tuy nhiên, một kỹ sư thuật toán cho biết: "Trên thực tế, tất cả các ứng dụng chính thống lớn cũng đã ra mắt chức năng nhận dạng AI và cũng đang tăng cường đánh giá hình ảnh và video AI. Nhưng xét theo tình hình hiện tại, hiệu quả chỉ ở mức trung bình. Đặc biệt là trước các công cụ AI ngày càng tiên tiến, đôi khi ngay cả nền tảng cũng không thể thực sự phân biệt được chúng".

Tất nhiên, đất nước cũng đã có những hành động nhất định về vấn đề này. Vào tháng 9 năm 2024, Cục Quản lý Không gian mạng Trung Quốc đã ban hành thông báo xin ý kiến ​​về "Biện pháp đánh dấu nội dung tổng hợp do trí tuệ nhân tạo tạo ra (Bản thảo để lấy ý kiến)", yêu cầu các nền tảng và nhà cung cấp dịch vụ phải đánh dấu rõ ràng nội dung do AI tạo ra, chẳng hạn như thêm hình mờ.

Nhưng điều này vẫn cần có sự hỗ trợ mạnh mẽ từ nền tảng.

Trước đó, Liu Xiaochun, phó giáo sư tại Khoa Luật thuộc Viện Khoa học Xã hội, Đại học Trung Quốc kiêm giám đốc Trung tâm Nghiên cứu Pháp quyền Internet, cho biết: "Để ngăn chặn các nền tảng sử dụng AI để đưa ra nội dung bạo lực và xúc phạm, có thể áp dụng các biện pháp kỹ thuật khác nhau. Ở đầu ra, các nhà cung cấp dịch vụ nên sàng lọc và xem xét lại".

Tuy nhiên, trước nhiều câu hỏi khác nhau từ người dùng, nỗ lực quản lý của nền tảng này rõ ràng vẫn còn thiếu sót. Ít nhất là ở thời điểm hiện tại, điều này không thể thay đổi được sự ngờ vực của người dùng đối với nền tảng này và toàn bộ hệ sinh thái.

"Em đẹp như AI vậy" là lời khen không thể cưỡng lại dành cho các cô gái. Sự tiến bộ của công nghệ AI là không thể đảo ngược và các ứng dụng liên quan của nó thực sự đã khiến cuộc sống của con người tốt đẹp hơn.

"Nhưng chỉ xét theo góc nhìn của những bức ảnh cận cảnh, nếu chúng ta hoặc thế hệ tiếp theo vẫn tiếp tục bị nhồi nhét đủ loại nội dung khiêu dâm và thị hiếu thấp kém có thể tìm thấy ở khắp mọi nơi, thì đó có lẽ là cái giá đau đớn mà nhân loại phải trả cho sự tiến bộ công nghệ và hành vi tìm kiếm lợi nhuận của các nền tảng." Tiểu Nhiên nói thẳng thừng.

"Chúng tôi vẫn hy vọng rằng AI có thể được sử dụng vì mục đích tốt chứ không phải vì mục đích xấu." Theo quan điểm của Xiaoran và Chị Lin, "Chúng tôi không chỉ trích nền tảng này. Chúng tôi hy vọng nền tảng này có thể tăng cường giám sát và cung cấp cho cư dân mạng một không gian thực sự trong sáng."

Tất cả những điều này đều dựa trên thực tế là các nền tảng, công nghệ, cơ quan quản lý và toàn xã hội đều duy trì sự tôn trọng và kính trọng cơ bản đối với việc sản xuất nội dung.

Văn bản | Tiểu Đình Biên tập viên | Nhiêu Yến