Sáng tạo hay tưởng tượng? Đừng hoảng sợ khi đối mặt với những người lập kế hoạch ảo ảnh AI

Gần đây, Xiao Ai đã nắm bắt được câu trả lời cho dự đoán bằng cách lấy câu trả lời do thông tin từ công cụ tìm kiếm tạo ra, thu hút được rất nhiều sự chú ý. Trí tuệ nhân tạo cố ý hoặc vô tình bịa ra những câu chuyện, mà ngành công nghiệp này gọi là ảo giác AI. Là một người lập kế hoạch tiếp thị, bạn nên xử lý tình huống này như thế nào?

Trong thời đại mà những tiết lộ thường bị lật ngược, việc vạch trần tin đồn không còn là điều ngạc nhiên nữa, nhưng sự việc đảo ngược giá của Xiaomi vẫn thu hút được rất nhiều sự chú ý. Gần đây, một ảnh chụp màn hình về giá của các mẫu xe hơi Xiaomi đã được lan truyền trên Internet. Hình ảnh rò rỉ cho thấy mẫu xe của Xiaomi có giá từ 149.900 nhân dân tệ và có phạm vi hoạt động tối đa là 800 km. Tuy nhiên, không lâu sau đó, giám đốc quan hệ công chúng của Xiaomi đã đăng bài trên Weibo để bác bỏ tin đồn.

Thì ra đây chính là câu trả lời được Tiểu Ái tạo ra bằng cách lấy thông tin từ công cụ tìm kiếm. Trên thực tế, thông tin này là thông tin phỏng đoán do phương tiện truyền thông tự đưa tin vào tháng 5 năm 2022. Khi có người hỏi Tiểu Ái một câu hỏi, Tiểu Ái chỉ đơn giản là nắm bắt thông tin phỏng đoán này.

Là trợ lý trí tuệ nhân tạo của Xiaomi, không có gì ngạc nhiên khi những câu trả lời của Xiao Ai lại thu hút được sự chú ý. Quả thực, Tiểu Ái không thể xác định được tính xác thực của thông tin và đã vô tình làm như vậy. Tuy nhiên, sự cố này khiến tôi nhớ đến hiện tượng bịa đặt có chủ đích của trí tuệ nhân tạo, được gọi trong ngành là ảo ảnh AI.

Liệu AI có thể gây ảo giác không? Kỷ nguyên trí tuệ nhân tạo đã thúc đẩy sự giải phóng năng suất, nhưng đằng sau đó, cuộc khủng hoảng do quá phụ thuộc vào trí tuệ nhân tạo dường như đã xuất hiện!

1. Ảo giác AI là gì?

Bạn đã bao giờ gặp một công cụ AI nói những điều vô nghĩa một cách nghiêm túc chưa?

Trong lĩnh vực trí tuệ nhân tạo, "ảo giác" AI thường được định nghĩa là "nội dung được tạo ra không có ý nghĩa hoặc không đáng tin cậy so với nội dung nguồn được cung cấp". Nghĩa là, khi mô hình có "ảo giác", nội dung và dữ liệu mà nó đưa ra có thể gây hiểu lầm và dữ liệu đào tạo mà nó sử dụng không thể chứng minh được tính hợp lý của kết quả đầu ra.

Nói một cách đơn giản, AI đôi khi tạo ra những con người hoặc sự vật hư cấu và duy trì sự tin cậy nhất quán. Thông tin sai lệch này có tính gây hiểu lầm và lừa đảo cao.

Ngay cả CEO của OpenAI cũng công khai tuyên bố trên Twitter rằng "ChatGPT thực sự biết rất nhiều thứ, nhưng điều nguy hiểm là nó thường xuyên sai trong một phần đáng kể thời gian".

Tuy nhiên, từ "ảo giác" luôn mang lại cho mọi người ấn tượng rằng AI có sức sống và khả năng tư duy. Vì lý do này, khi ngày càng có nhiều người chú ý đến hiện tượng này, nhãn hiệu này ngày càng gây tranh cãi. Tôi tin rằng "ảo giác" AI thực chất là một dạng hư cấu thông tin, dựa trên mô hình AI chứ không phải khả năng tư duy chủ quan hay khả năng sáng tạo của AI.

Bất kể được gọi là gì, hiện tượng tự lừa dối và bịa đặt trong trí tuệ nhân tạo không còn là trường hợp cá biệt nữa. Dưới làn sóng của AIGC, việc sử dụng các công cụ AI dường như đã trở thành chuẩn mực mới trong kỷ nguyên mới.

2. Các bệnh mà AI có thể dễ dàng phát hiện

Hiện tượng AI mắc lỗi hoặc sai lệch, dẫn đến kết quả không chính xác, sai lệch hoặc thậm chí vô lý, có thể xảy ra ở nhiều cấp độ, chẳng hạn như bịa đặt văn bản, bịa đặt sự thật sai lệch, tạo ra mã vô dụng hoặc thậm chí cung cấp cho bạn tài liệu tham khảo bịa đặt.

Tờ Washington Post đưa tin về một giáo sư luật phát hiện ra rằng ChatGPT đã đưa ông vào danh sách những học giả luật có hành vi quấy rối tình dục người khác. Ngoài ra còn có báo cáo rằng ChatGPT đã bịa đặt một thị trưởng Úc, người đã bị kết tội hối lộ và bị kết án tù! Có đáng sợ không? Với sự trỗi dậy của AIGC, nếu ảo tưởng AI này không được giải quyết hiệu quả, chúng ta có thể bị cuốn theo đủ loại thông tin bịa đặt.

3. Tại sao AI lại tạo ra ảo ảnh này?

Như tôi đã đề cập ở trên, việc hiểu được bản chất của mô hình ngôn ngữ lớn (LLM) có thể giúp chúng ta tìm ra câu trả lời. Thiết kế của các mô hình ngôn ngữ quy mô lớn dựa trên "xác suất thống kê" của ngôn ngữ, nghĩa là AI không có "trải nghiệm thực tế" nào cả và không thể đưa ra phán đoán dựa trên tính đúng hay sai của sự thật. Vì vậy, AI không biết điều gì đúng và điều gì sai, nó chỉ có thể duy trì tính nhất quán về mặt thống kê với các từ được nhắc.

"Ngay cả những mô hình AI tiên tiến nhất cũng có xu hướng nói dối, thường có xu hướng bịa đặt sự thật vào những thời điểm không chắc chắn", các nhà nghiên cứu OpenAI viết trong báo cáo. "Những ảo giác này đặc biệt nghiêm trọng trong các lĩnh vực đòi hỏi lý luận nhiều bước, trong đó chỉ cần một lỗi logic cũng đủ để phá hoại một giải pháp lớn hơn."

Tuy nhiên, xét theo góc độ khác, ảo ảnh này chính là biểu hiện của sự sáng tạo của AI. Bởi vì chính khả năng phản ứng sáng tạo này khiến AI trở thành một công cụ mạnh mẽ để tạo ra những ý tưởng mới hoặc giải quyết những rào cản trong tư duy. Nó có thể hữu ích khi bạn sử dụng để động não và khơi nguồn cảm hứng, nhưng bạn cần phải thận trọng khi sử dụng nó như một tài liệu tham khảo thực tế.

Là những nhà tiếp thị, chúng ta nên thận trọng và lạc quan khi sử dụng những công cụ này. Bởi vì phần lớn công việc chúng ta làm là sáng tạo hoặc đổi mới, nên ảo giác AI có thể mang lại nhiều cảm hứng và sự khai sáng hơn, nhưng vẫn còn rất nhiều công việc dựa trên các sự kiện khách quan, đòi hỏi phải xác minh chéo hoặc xác minh thay vì để hoàn toàn tùy thuộc vào may rủi.

Có thể thấy từ đây, các công cụ AI thực sự đã giải phóng năng suất về mặt hiệu quả, nhưng về mặt tính xác thực của nội dung, chúng ta vẫn cần có khả năng nhận dạng và phán đoán cơ bản khi sử dụng chúng. Suy cho cùng, công cụ luôn được con người sử dụng chứ không phải thay thế hoàn toàn con người. Bạn có cảm thấy sự nghiệp của mình ổn định không?

Tôi hy vọng những điều trên có thể truyền cảm hứng cho bạn.

Tác giả: Tiểu hòa thượng Kunkun, Tài khoản WeChat chính thức: Trung tâm Thiền Marketing Zen