Hãy cẩn thận với trò lừa đảo “AI thay đổi khuôn mặt”! Sau khi đọc bài viết này, bạn sẽ không còn bị lừa nữa!

Với sự phát triển của công nghệ AI khiến việc phân biệt thật giả trở nên khó khăn hơn, việc phát hiện gian lận trực tuyến trở nên khó khăn hơn nữa. Với việc tiết lộ một vụ gian lận AI liên quan đến số tiền cực lớn, mọi người đều tỏ ra khinh thường những vụ việc như vậy. Bài viết này cung cấp cho bạn phần giới thiệu chi tiết về trò lừa đảo AI và cách phát hiện nó.

"Bẫy" có ở khắp mọi nơi và rất khó để biết được đâu là "mặt nạ" thật! Bạn đã nghe chưa? Một vụ lừa đảo thay đổi khuôn mặt bằng AI khác đã bị truyền thông vạch trần vào ngày 25 tháng 5! Lần này, số tiền gian lận lên tới 2,45 triệu và toàn bộ quá trình gian lận thậm chí còn ngắn hơn, chỉ 9 giây! Thật sự rất kinh ngạc! Phải chăng sự an toàn tài sản của chúng ta đang bị đe dọa ở khắp mọi nơi? ! Tìm hiểu về những trò lừa đảo mới này trước khi bạn trở thành nạn nhân tiếp theo!

Sau vụ việc trước đó là "lừa đảo 4,3 triệu nhân dân tệ bằng công nghệ AI thay đổi khuôn mặt trong 10 phút" thu hút sự chú ý rộng rãi của dư luận, một vụ lừa đảo bằng công nghệ AI thay đổi khuôn mặt khác đã bị phát hiện vào ngày 25 tháng 5, thậm chí còn đáng sợ hơn. Có thông tin cho biết số tiền lừa đảo lên tới 2,45 triệu nhân dân tệ. Điều đáng sợ hơn nữa là toàn bộ quá trình chỉ diễn ra trong 9 giây.

Hai sự cố này một lần nữa nhắc nhở mọi người rằng cùng với việc sử dụng rộng rãi công nghệ trí tuệ nhân tạo, các phương thức lừa đảo trực tuyến cũng không ngừng được nâng cấp. Mọi người cần cảnh giác và thận trọng hơn, nắm vững và nhận diện được cái bẫy “AI đổi diện mạo” để không trở thành nạn nhân tiếp theo.

01 Thói quen vẫn như vậy: "Bạn bè quen thuộc + giọng nói quen thuộc"

Gần đây, Cục Công an thành phố Bao Đầu đã báo cáo một vụ lừa đảo viễn thông sử dụng trí tuệ nhân tạo (AI). Trưa ngày 20 tháng 4 năm 2023, anh Guo, đại diện pháp lý của một công ty công nghệ tại Phúc Châu, nhận được cuộc gọi video WeChat từ một người bạn. Bên kia nói rằng cần đặt cọc 4,3 triệu nhân dân tệ và yêu cầu chuyển tiền vào tài khoản công-tư.

Vì quá tin tưởng bạn mình, cộng thêm đối phương sử dụng công nghệ AI thông minh đổi khuôn mặt và lồng tiếng nên chỉ trong vòng 10 phút, anh Quách đã chuyển 4,3 triệu nhân dân tệ vào thẻ ngân hàng của đối phương thành hai đợt. Sau đó, ông Guo gọi điện cho một người bạn và nhận ra mình đã bị lừa, nhưng đã quá muộn để lấy lại số tiền đã mất. Sau đó, cảnh sát Phúc Châu và Bao Đầu đã nhanh chóng kích hoạt cơ chế dừng thanh toán và đã dừng thanh toán thành công 3,3684 triệu nhân dân tệ, nhưng vẫn còn 931.600 nhân dân tệ được chuyển đi.

Đây không phải là trường hợp cá biệt. Theo báo cáo của The Paper ngày 25 tháng 5, anh He ở An Khánh, An Huy cũng gặp phải một vụ lừa đảo tương tự vào ngày 22 tháng 5. Vào ngày hôm đó, anh He nhận được một cuộc gọi video từ một người quen nhờ anh chuyển giúp một số tiền. Nhưng 9 giây sau, đầu dây bên kia nhanh chóng cúp máy, nói rằng "Tôi đang họp" và "Tôi không thể sử dụng WeChat hoặc điện thoại, vui lòng thêm QQ".

Sau đó, "người bạn" này nói với anh Hà trên QQ rằng có một dự án đấu thầu cần vốn lưu động và hy vọng anh Hà sẽ giúp trả tiền trước. " Vì đó là cuộc gọi video và người gọi là người quen", "Tôi không nghĩ nhiều và chuyển tiền luôn". Dựa vào sự tin tưởng vào “người quen”, ông Hà không ngần ngại mà lập tức yêu cầu gia đình chuyển 2,45 triệu nhân dân tệ vào tài khoản mà đối phương chỉ định. Phải đến khi anh gọi lại cho bên kia sau đó, anh mới nhận ra mình đã bị lừa.

Ảnh chụp màn hình WeChat của anh He, nạn nhân ở An Khánh, An Huy (Nguồn: Da Wan)

May mắn thay, sau khi phát hiện mình bị lừa, ông He đã nhanh chóng gọi cảnh sát. Cảnh sát đặc nhiệm đã ngay lập tức đóng băng các tài khoản có liên quan và nhanh chóng đến Bắc Kinh ngay trong đêm để bắt giữ ba nghi phạm liên quan đến vụ lừa đảo và thu hồi 1,32 triệu nhân dân tệ mà ông He đã bị lừa.

Nhìn lại hai vụ việc, chúng ta có thể thấy rằng khi kẻ lừa đảo sử dụng công nghệ AI thông minh thay đổi khuôn mặt và công nghệ tượng thanh giọng nói, chúng có thể bắt chước giọng nói và hình ảnh của bạn bè hoặc thành viên gia đình quen thuộc để khiến nạn nhân cảm thấy tin tưởng. Loại "gian lận danh tính" này rất dễ xảy ra vì mọi người thường có xu hướng tin tưởng những người họ quen biết.

Trong cả hai trường hợp, những kẻ lừa đảo đều sử dụng một thủ thuật tương tự: chúng tham gia vụ án thông qua các cuộc gọi điện thoại WeChat và danh tính bạn bè, sau đó sử dụng công nghệ AI để ngụy trang thành những người quen thuộc với nạn nhân , qua đó chiếm được lòng tin và hướng dẫn nạn nhân chuyển tiền. Chiến thuật này khiến nạn nhân khó phân biệt được đâu là người thật, đâu là người giả vì công nghệ AI thông minh thay đổi khuôn mặt và công nghệ tượng thanh giọng nói có thể khiến ngoại hình và giọng nói của kẻ lừa đảo rất giống với những người quen thuộc với nạn nhân.

Bản đồ: Đánh giá ngành công nghiệp văn hóa Shi Xinyi

Vì vậy, trong cuộc sống hàng ngày, chúng ta nên cảnh giác, không dễ tin người lạ trên WeChat hoặc các mạng xã hội khác và chú ý xác nhận danh tính thực sự của đối phương. Nếu bạn nghi ngờ có gian lận, hãy gọi cảnh sát và tìm kiếm sự giúp đỡ ngay lập tức. Đồng thời, Chính phủ và các ban ngành liên quan cần tăng cường giám sát và phòng ngừa kỹ thuật để chống gian lận viễn thông bằng công nghệ AI thông minh thay đổi khuôn mặt và giọng nói tượng thanh.

02 Bốn đặc điểm nổi bật của công nghệ AI thay đổi diện mạo gian lận

Công nghệ thay đổi khuôn mặt bằng AI chủ yếu sử dụng phần mềm để chuyển các đặc điểm khuôn mặt, biểu cảm, chuyển động và thông tin khác của một người sang ảnh hoặc video của người khác để đạt được hiệu ứng thay đổi khuôn mặt thực sự.

Hiện nay, công nghệ thay đổi khuôn mặt bằng AI đã được ứng dụng rộng rãi trong sản xuất phim và truyền hình, giải trí kỹ thuật số, thực tế ảo và nhiều lĩnh vực khác, mang đến cho mọi người trải nghiệm nghe nhìn đầy màu sắc hơn. Tuy nhiên, công nghệ này cũng tạo cơ hội cho một số tội phạm lợi dụng, trở thành công cụ đắc lực cho các hoạt động tội phạm như gian lận trực tuyến và trộm cắp danh tính. So với gian lận viễn thông truyền thống, gian lận thay đổi khuôn mặt bằng AI có bốn đặc điểm quan trọng sau:

1. Đầu tư chi phí thấp hơn

Lừa đảo viễn thông truyền thống thường đòi hỏi một số chi phí về con người và vật chất, chẳng hạn như tuyển dụng nhân viên bán hàng qua điện thoại, thuê văn phòng, v.v., và cũng cần một khoảng thời gian và không gian nhất định để lập kế hoạch và lừa đảo. Ngược lại, gian lận thay đổi khuôn mặt bằng AI có thể được thực hiện thông qua điện thoại di động hoặc máy tính và một số phần mềm, có chi phí thấp và có thể thực hiện nhanh chóng. Điều này cũng có nghĩa là những kẻ lừa đảo có thể kiếm được lợi nhuận nhanh hơn và khó bị theo dõi.

Bản đồ: Đánh giá ngành công nghiệp văn hóa Shi Xinyi

2. Cơ hội thành công cao hơn

Các hình thức lừa đảo viễn thông truyền thống thường sử dụng các phương thức như mạo danh công an, tư pháp, dịch vụ khách hàng ngân hàng hoặc nền tảng đổi thưởng để đe dọa hoặc lừa đảo, và có tỷ lệ thành công tương đối thấp; Lừa đảo bằng công nghệ AI thay đổi khuôn mặt sử dụng các phương tiện cảm xúc để khiến trò lừa trở nên thực tế hơn và khiến nạn nhân dễ rơi vào bẫy hơn. Chiến thuật này thường đánh vào điểm yếu tình cảm của đối phương, chẳng hạn như nói rằng người đó bị bệnh và cần được điều trị, hoặc công ty cần hỗ trợ để đấu thầu một dự án lớn, v.v., để nạn nhân cảm thấy thông cảm và bị lừa dối. Điều này cũng dẫn đến tỷ lệ thành công cao hơn trong các vụ lừa đảo thay đổi khuôn mặt bằng AI, khiến nạn nhân dễ bị lừa hơn.

Bản đồ: Đánh giá ngành công nghiệp văn hóa Shi Xinyi

3. Thêm nhiều nhân vật ngụy trang

Ngoài việc sử dụng công nghệ thay đổi khuôn mặt AI đã đề cập ở trên để mạo danh người quen hoặc bạn bè để thực hiện hành vi lừa đảo, một số tội phạm còn sử dụng công nghệ AI để ngụy trang thành tài khoản QQ hoặc WeChat của lãnh đạo để thực hiện hành vi lừa đảo. Sau khi chiếm được lòng tin bằng cách thêm cấp dưới hoặc đối tượng dịch vụ, chúng nói rằng người thân hoặc gia đình mình đang cần tiền gấp và yêu cầu bên kia hỗ trợ chuyển tiền hoặc chuyển tiền vào một tài khoản được chỉ định. Các nạn nhân rất kính sợ cấp trên và không dám thắc mắc về chỉ dẫn, khiến họ dễ bị lừa. Gần đây, Cục Công an huyện Tam Đô, tỉnh Quý Châu đã phá thành công một vụ lừa đảo trên WeChat trong đó có người mạo danh là thủ lĩnh và thu hồi được 190.000 nhân dân tệ tiền lừa đảo.

Trên đây là hình ảnh tham khảo về lừa đảo WeChat (Nguồn: Internet)

4. Khó ngăn ngừa hơn

Trong những năm gần đây, chính quyền tiểu bang và địa phương đã đưa ra một số biện pháp phòng ngừa hiệu quả đối với gian lận viễn thông truyền thống. Đặc biệt, các tổ chức tài chính đã áp dụng nhiều biện pháp đa dạng hơn để phòng ngừa gian lận viễn thông truyền thống và nhận thức phòng ngừa ở cấp độ xã hội cũng liên tục được nâng cao. Tuy nhiên, hiện tại vẫn chưa có giải pháp tốt nào cho tình trạng gian lận bằng AI. Vì kẻ lừa đảo có thể sử dụng nhiều nền tảng mạng xã hội khác nhau để thực hiện hành vi lừa đảo và rất khó để phân biệt tính xác thực thông qua phán đoán đơn thuần nên rất khó để theo dõi và bắt giữ chúng trong thời gian ngắn.

Bản đồ: Đánh giá ngành công nghiệp văn hóa Shi Xinyi

03 Nhận diện và cảnh giác 6 chiêu trò lừa đảo mới của AI

Tóm lại, so với gian lận viễn thông truyền thống, gian lận thay đổi khuôn mặt bằng AI có đặc điểm là chi phí thấp hơn, tốc độ nhanh hơn, nhiều ký tự hơn, xác suất cao hơn và khó ngăn chặn hơn, đồng thời gây hại lớn hơn cho xã hội. Do đó, chúng ta phải hết sức cảnh giác với sáu thủ đoạn lừa đảo mới dựa trên AI.

1. Lừa đảo âm thanh giả

Sử dụng công nghệ AI để tạo ra tin nhắn thoại giả và mạo danh người thân, bạn bè, v.v. để thực hiện hành vi lừa đảo. Ví dụ, tội phạm đã sử dụng công nghệ AI để tạo ra tin nhắn thoại giả từ người thân, nói rằng nhà có chuyện khẩn cấp và cần chuyển tiền gấp. Nạn nhân nghe thấy tiếng nói của người thân khiến họ hoảng loạn, lo lắng nên đã chuyển tiền mà không suy nghĩ nhiều.

Nguồn hình ảnh: Xinhuanet

2. Lừa đảo video giả mạo

Sử dụng công nghệ AI để tạo ra các video giả chân thực hơn và tạo ra các nhân vật hoặc tình huống chân thực hơn, khiến nạn nhân dễ bị lừa hơn. Ví dụ, trong những năm gần đây, tội phạm đã thay thế khuôn mặt người thật bằng khuôn mặt của một ngôi sao điện ảnh và phát tán qua mạng xã hội, dụ dỗ người dùng và người hâm mộ nhấp vào liên kết để tải xuống phần mềm độc hại hoặc nhập thông tin cá nhân.

3. Lừa đảo đe dọa giả mạo

Theo Guangming Online, nhiều cư dân mạng gần đây đã nhận được tin nhắn đe dọa và lừa đảo giả mạo tương tự. Tin nhắn văn bản khẳng định rằng bên kia đã bị cơ quan thực thi pháp luật phát hiện vì tội gian lận tín dụng và yêu cầu phải trả hết mọi khoản nợ chưa thanh toán trước 2 giờ chiều. ngày hôm đó, nếu không anh ấy sẽ bị “bắn” ngay tại cửa nhà. Tuy nhiên, phương pháp gian lận "IQ thấp" này rất có thể sẽ được AI sử dụng để sàng lọc những người dễ bị lừa nhất, đặc biệt là những nhóm dễ bị tổn thương, trình độ học vấn thấp và ít kinh nghiệm xã hội.

Nguồn hình ảnh: Xinhuanet

4. Lừa đảo dịch vụ khách hàng giả mạo

Sử dụng công nghệ AI để tạo hộp thoại dịch vụ khách hàng giả mạo, mạo danh ngân hàng, tổ chức thanh toán, v.v. để thực hiện hành vi lừa đảo. Ví dụ, trong một vụ lừa đảo, kẻ lừa đảo đã giả làm nhân viên chăm sóc khách hàng của ngân hàng, liên lạc với nạn nhân qua WeChat, nói dối rằng tài khoản ngân hàng của bên kia không bình thường và yêu cầu nạn nhân nhập mật khẩu thẻ ngân hàng, dẫn đến việc thẻ ngân hàng của nạn nhân bị đánh cắp.

Kẻ lừa đảo giả danh là đại diện dịch vụ khách hàng của JD để thực hiện hành vi gian lận (Nguồn: Trung tâm chống gian lận Thâm Quyến)

5. Lừa đảo qua mạng

Sử dụng công nghệ AI để tạo ra các trang web, email giả mạo, v.v. nhằm lừa người dùng nhập thông tin cá nhân hoặc tải xuống phần mềm độc hại. Ví dụ, trong một vụ lừa đảo, tin tặc đã sử dụng công nghệ AI để tạo ra một trang web ngân hàng giả mạo và yêu cầu bên kia mở trang web ngân hàng thông qua tin nhắn văn bản, yêu cầu nạn nhân nhập số thẻ ngân hàng và mật khẩu để xác minh, dẫn đến việc thẻ ngân hàng của nạn nhân bị đánh cắp.

6. Thực hiện các cuộc tấn công có mục tiêu

Tin tặc có thể sử dụng công nghệ AI để phân tích đặc điểm hành vi và thông tin cá nhân của người dùng mục tiêu, thực hiện các cuộc tấn công có mục tiêu chính xác và đánh cắp thông tin cá nhân nhạy cảm. Ví dụ, trong một cuộc tấn công có chủ đích, tin tặc đã sử dụng công nghệ AI để tạo một tài khoản mạng xã hội giả mạo và gửi các liên kết lừa đảo qua tài khoản đó, đánh cắp thành công thông tin cá nhân của người dùng mục tiêu.

Những trò lừa đảo mới này có thể bí mật và hiệu quả hơn, gây ra mối đe dọa lớn hơn cho công chúng. Do đó, chúng ta cần tăng cường giám sát và quản lý công nghệ AI, nâng cao nhận thức về an toàn của cộng đồng và cùng nhau ứng phó với các loại hình gian lận mới có thể xuất hiện trong tương lai.

04 Hướng dẫn và biện pháp phòng ngừa gian lận bằng AI và thay đổi khuôn mặt

Vào ngày 24 tháng 5, Hiệp hội Internet Trung Quốc đã ra thông báo nêu rõ rằng với số lượng sản phẩm và dịch vụ tổng hợp sâu ngày càng tăng, các hành vi bất hợp pháp như gian lận và phỉ báng bằng âm thanh và video giả mạo như "AI thay đổi khuôn mặt" và "AI thay đổi giọng nói" đang trở nên phổ biến. Công chúng cần phải cảnh giác và thực hiện các biện pháp phòng ngừa.

Về vấn đề này, Cultural Industry Review (ID: whcypl) tin rằng việc ngăn ngừa và ứng phó với các thủ đoạn gian lận như thay đổi khuôn mặt bằng AI đòi hỏi những nỗ lực đồng thời từ nhiều khía cạnh như cá nhân, chính sách và công nghệ để ngăn ngừa hoặc giảm thiểu hiệu quả các trường hợp gian lận tương tự xảy ra.

1. Ở cấp độ cá nhân, hãy tuân theo “tám điều không nên” và “ba điều không nên”

Đối với cá nhân, ngoài việc giữ mình tỉnh táo trước đủ loại "mặt nạ da người" và tránh rơi vào tuyên truyền sai sự thật, điều quan trọng hơn là phải duy trì tinh thần cảnh giác trước những trò lừa đảo AI luôn thay đổi và thực sự "không nghe, không tin và không chuyển tiền".

(1) Bảo vệ thông tin cá nhân và thực hiện “tám điều không nên”

Đầu tiên, không cung cấp thông tin sinh trắc học cá nhân như khuôn mặt và dấu vân tay một cách dễ dàng; Thứ hai, không dễ dàng tiết lộ CMND, thẻ ngân hàng, mã xác thực và các thông tin khác; thứ ba, không lưu trữ ảnh CMND, thẻ ngân hàng trực tiếp trên điện thoại di động; thứ tư, không nhấp vào các liên kết lạ; thứ năm, không tải phần mềm lạ (APP); Thứ sáu, không nên tùy tiện kết bạn với người lạ; thứ bảy, không quét mã QR lạ một cách tùy tiện; thứ tám, không cho phép chia sẻ màn hình điện thoại di động với người lạ.

Bản đồ: Đánh giá ngành công nghiệp văn hóa Shi Xinyi

(2) Nhận dạng danh tính giả và tránh ba điều sau đây:

Nếu có người tự nhận là "người thân", "thầy", "cấp trên", v.v. liên lạc với bạn qua WeChat, điện thoại, video hoặc phần mềm mạng xã hội như QQ và yêu cầu bạn chuyển tiền với lý do như "khẩn cấp", "chuyện riêng của lãnh đạo", "xui xẻo", v.v., hãy cảnh giác ngay từ đầu. Trong mọi trường hợp, bất kể đối phương là ai, bạn cũng không được sợ phiền phức, mất lòng người khác hoặc làm chậm trễ công việc. Bạn phải xác minh danh tính của bên kia thông qua nhiều kênh và không bao giờ chuyển tiền tùy ý. Xin hãy nhớ rằng, "Thà đi một trăm bước còn hơn là thực hiện một bước đi mạo hiểm."

Nguồn hình ảnh: Xinhuanet

2. Ở cấp độ chính sách, chúng ta cần tăng cường bốn phương diện sau:

Vào tháng 12 năm 2022, Cục Quản lý Không gian mạng Trung Quốc và ba bộ phận khác đã ban hành "Quy định về quản lý tổng hợp sâu dịch vụ thông tin Internet", trong đó hạn chế rõ ràng việc tạo, thay thế, thao túng khuôn mặt, tổng hợp giọng nói của con người và bắt chước giọng nói. Tuy nhiên, xét đến tình hình hiện tại và phương pháp gian lận thay đổi diện mạo bằng AI, công tác phòng ngừa và quản trị cần phải được tăng cường hơn nữa.

(1) Tăng cường giám sát công nghệ thay đổi diện mạo AI

Tiếp tục làm giàu và hoàn thiện các luật và quy định có liên quan, chuẩn hóa khoa học các biện pháp phát triển, sử dụng và quản lý công nghệ AI thay đổi diện mạo, làm rõ phạm vi pháp lý sử dụng công nghệ AI thay đổi diện mạo và nghiêm trị các hoạt động bất hợp pháp như gian lận, bạo lực mạng và xâm phạm quyền riêng tư sử dụng công nghệ AI thay đổi diện mạo.

(2) Tăng cường phát triển các biện pháp phòng ngừa kỹ thuật

Tăng cường nghiên cứu kỹ thuật về công nghệ AI thay đổi khuôn mặt và phát triển các biện pháp phòng ngừa, nâng cao tính bảo mật và độ tin cậy của công nghệ AI thay đổi khuôn mặt, phát triển các hệ thống nhận dạng thông minh hơn để phân biệt tính xác thực và thu hẹp không gian tồn tại của các hoạt động gian lận này.

(3) Tăng cường sự hợp tác liên phòng ban

Các cơ quan công an, sở an ninh mạng, tổ chức tài chính và các sở khác cần tăng cường trao đổi thông tin và hợp tác, hình thành lực lượng chung, cùng nhau duy trì hệ sinh thái Internet, sự hài hòa và ổn định xã hội. Ví dụ, các tổ chức tài chính phải tiến hành xác minh nhiều lần thông qua ID khách hàng, số điện thoại di động, địa chỉ email và các thông tin khác để phát hiện và xử lý kịp thời các giao dịch bất thường.

(4) Tăng cường giáo dục nhận thức về an toàn công cộng

Khuôn mặt và âm thanh, video giả được tổng hợp bằng AI thường có một số đặc điểm như hình ảnh không chân thực và giọng nói không mạch lạc. Các sở, ngành liên quan cần tăng cường công tác tuyên truyền các vụ án liên quan đến tội phạm sử dụng công nghệ AI thay đổi khuôn mặt để nâng cao nhận thức của người dân về an toàn và ý thức tự bảo vệ bản thân, tránh trở thành nạn nhân của lừa đảo.

Nguồn hình ảnh: Xinhuanet

Nói tóm lại, gian lận thay đổi khuôn mặt bằng AI là một loại tội phạm mạng mới gây ra tác hại nghiêm trọng cho xã hội. Để đạt được mục tiêu này, ngoài việc nâng cao nhận thức phòng ngừa của cá nhân, cần có các biện pháp toàn diện về công nghệ, chính sách, thực thi pháp luật, giáo dục... để tăng cường giám sát công nghệ AI và trấn áp các hoạt động tội phạm, nhằm giảm thiểu hiệu quả các vụ việc tương tự xảy ra, bảo vệ quyền và lợi ích hợp pháp của công chúng cũng như an ninh, ổn định xã hội.
Tác giả: Xiaojunge Biên tập: Time Biên tập: Peninsula

Nguồn tài khoản công khai: Cultural Industry Review (ID: whcypl), phương tiện truyền thông mới hàng đầu của Trung Quốc về ngành công nghiệp văn hóa.