Người tố giác AI bị cấm khỏi toàn bộ mạng lưới! OpenAI và 25 tổ chức khác đã tung ra một thủ thuật lớn để nhận dạng robot AI chỉ trong nháy mắt

Các tác nhân AI được phân bổ khắp toàn bộ mạng lưới. Làm thế nào chúng ta có thể ngăn ngừa bị lừa đảo trong tương lai? Làm thế nào để bảo vệ quyền riêng tư? OpenAI, Microsoft, MIT và 25 tổ chức khác đã cùng nhau đề xuất một "giấy chứng nhận tính cách" có thể chứng minh rằng một người là người thật mà không tiết lộ bất kỳ thông tin cá nhân nào.

Trong nửa tháng qua, toàn bộ Internet đã bị lừa bởi một "người tố giác AI" từ OpenAI.

Tôi tin rằng mọi người đều quen thuộc với tài khoản "Strawberry Brother" @iruletheworldmo và thỉnh thoảng sẽ bắt gặp những bài đăng gây sốc của anh ấy.

Cho đến thứ Tư tuần này, không ai chờ đợi mô hình lớn GPT-4o mà ông dự đoán, nhưng đã bị người sáng lập công ty khởi nghiệp AI MultiOn vạch trần.

"Strawberry Brother" là một đặc vụ AI.

Trong một thời gian, nhiều nền tảng trên Internet đã ban hành lệnh cấm đăng lại nội dung liên quan đến "Strawberry Brother".

Trong subreddit r/singularity, lệnh cấm đã được áp dụng đối với tất cả thành viên của subreddit này nhằm ngăn họ đề cập đến nội dung liên quan.

Một số người thậm chí còn trực tiếp "chặn" @iruletheworldmo.

Người tố giác thực sự của OpenAI Jimmy Apples cũng tin vào những gì tác nhân AI nói

Sau đó, tác nhân AI này đã tiến hành bỏ phiếu trực tuyến - xem tôi có vượt qua bài kiểm tra Turing hay không. Không ngờ, hơn một nửa số người đã đưa ra câu trả lời là có.

Và đây chỉ là một AI.

Zuckerberg đã từng nói: "Trong tương lai, mọi người sẽ có một trợ lý AI và chẳng mấy chốc sẽ có hàng tỷ tác nhân AI lướt Internet thay chúng ta".

Nếu điều này thực sự xảy ra một ngày nào đó trong tương lai, làm sao mọi người có thể biết ngay được liệu một tài khoản mạng xã hội có phải là robot hay không? Làm sao tôi có thể chứng minh danh tính của mình là “người thật” mà không cần cung cấp bất kỳ thông tin cá nhân nào?

Các học giả từ 25 tổ chức bao gồm OpenAI, Microsoft, MIT và UCB đã cùng nhau đề xuất một công nghệ xác minh - "Personhodd Credentials" (PHC).

PHC có thể bảo vệ quyền riêng tư của người dùng đồng thời chứng minh trên Internet rằng "bạn là bạn", một con người thực sự chứ không phải AI.

Địa chỉ bài báo: https://arxiv.org/pdf/2408.07892

Nhà khoa học trưởng và giám đốc nhân sự của Microsoft cho biết: "Việc thiết lập danh tính con người trực tuyến trong khi vẫn đảm bảo quyền riêng tư là một trong những thách thức quan trọng của kỷ nguyên AI".

Một cư dân mạng khác cho biết nghiên cứu này rất kịp thời và đáng suy ngẫm.

Tại sao bạn lại nói thế?

1. Dữ liệu của 3 tỷ người bị rò rỉ, liệu có giải pháp nào để bảo vệ quyền riêng tư?

Ngoài vụ việc "Strawberry Brother" lúc đầu, mới đây, dữ liệu của gần 3 tỷ người dùng đã bị rò rỉ, lan rộng khắp nước Mỹ, đây là một trong những vụ việc dữ liệu lớn nhất trong lịch sử.

Bao gồm thông tin cá nhân chi tiết của cư dân, chẳng hạn như tên, email, địa chỉ, số điện thoại, số an sinh xã hội và địa chỉ gửi thư.

Điều thậm chí còn đáng sợ hơn là dữ liệu địa chỉ có thể được truy ngược lại 30 năm trước và thậm chí thông tin của những người thân đã mất hơn 20 năm cũng có thể được đào lại.

Do đó, ẩn danh luôn là biện pháp được nhiều người coi trọng quyền riêng tư áp dụng để bảo vệ bản thân.

Nhưng đôi khi, vì một số mục đích xác minh quan trọng, bạn phải cung cấp thông tin cá nhân của mình.

Hiện nay, ngày càng có nhiều AI mạnh mẽ liên tục xuất hiện, phương thức mà tội phạm sử dụng để lừa đảo và phát tán thông tin sai lệch ngày càng trở nên bí mật hơn và có thể dễ dàng mở rộng ra quy mô lớn hơn.

Hơn nữa, ngưỡng và chi phí thấp hơn của AI giúp việc tiếp cận dễ dàng hơn.

Khi hình ảnh/video/âm thanh do AI tạo ra ngày càng trở nên chân thực hơn, ví dụ như trên các ứng dụng hẹn hò, làm sao bạn có thể chắc chắn rằng người kia là người thật?

Các giải pháp hiện tại như mã xác minh rõ ràng là không đủ.

Điều này cũng có nghĩa là phương pháp xác minh giữa con người và máy móc truyền thống đang trên đà thất bại.

Xét cho cùng, cách tiếp cận này ngày càng kém tin cậy hơn khi AI tiến bộ trong các lĩnh vực như nhận dạng hình ảnh.

Bây giờ, điều cực kỳ cần thiết là tìm ra sự cân bằng có thể ngăn chặn hiệu quả sự lừa dối của AI mà không ảnh hưởng quá mức đến quyền riêng tư của người dùng và tính toàn diện của Internet.

Đây cũng là hiệu quả mà các nhà nghiên cứu từ OpenAI, Microsoft và các tổ chức khác hy vọng sẽ thấy được thông qua nghiên cứu và cuối cùng là ứng dụng thực tế.

2. Chứng minh rằng bạn là con người, không phải là AI

Theo nhà nghiên cứu Steven Adler giải thích, công cụ bảo vệ quyền riêng tư “Personality Credentials” (PHC) có thể chứng minh rằng bạn là một con người, nhưng nó không tiết lộ “bạn là ai”.

Cụ thể, “chứng chỉ nhân cách” được hỗ trợ bởi hai yếu tố mà AI không thể làm giả:

"Xác minh thực tế" và "công nghệ mã hóa an toàn"

Nghĩa là, dù AI có tốt đến đâu thì cũng không thể thoát khỏi hai điểm này.

Nói tóm lại, PHC là chứng chỉ kỹ thuật số cho phép người dùng chứng minh với các dịch vụ trực tuyến rằng họ là người thật chứ không phải AI mà không cần tiết lộ bất kỳ thông tin cá nhân nào.

Chứng chỉ này có thể được cấp bởi một tổ chức đáng tin cậy, chẳng hạn như chính phủ.

Hơn nữa, theo định nghĩa của tác giả, PHC có thể là hệ thống cục bộ hoặc toàn cầu và không nhất thiết phải dựa trên công nghệ sinh trắc học.

3. Các tác nhân AI có mặt ở khắp mọi nơi trên Internet, chiến lược chống gian lận mới nhất

Hai đồng tác giả của bài báo, Nouran Soliman và Tobin South, cả hai đều là sinh viên sau đại học tại MIT, gần đây đã trả lời phỏng vấn với MIT News để giới thiệu ngắn gọn về công nghệ này, thảo luận về tính cần thiết, rủi ro và cách áp dụng PHC một cách an toàn và công bằng.

1. Sự cần thiết của “giấy chứng nhận nhân thân”

Mặc dù nhiều cuộc thảo luận công khai về AI đều xoay quanh các chatbot như ChatGPT, nhưng khả năng của trí tuệ nhân tạo rõ ràng còn hơn thế nữa.

Sự tham gia của AI trên Internet thể hiện hai đặc tính: không thể phân biệt được và khả năng mở rộng, thúc đẩy sự phát triển liên tục của sự lừa dối do AI thúc đẩy.

AI có thể tạo tài khoản trên mạng xã hội, đăng nội dung sai sự thật, cải trang thành con người hoặc khuếch đại một số nội dung nhất định thông qua thuật toán, thậm chí thực hiện các cuộc tấn công trên diện rộng, gây ra rất nhiều rủi ro.

Điều này sẽ thay đổi trải nghiệm duyệt mạng xã hội của chúng ta và sẽ ngày càng khó phân biệt giữa AI phức tạp và con người, tương tự như vấn đề "sao chép kỹ thuật số" mà không có sự đồng ý.

"Thông tin xác thực về tính cách" cung cấp một giải pháp tiềm năng, chẳng hạn như được sử dụng để lọc nội dung trực tuyến và xác định mức độ tin cậy của thông tin nhận được.

2. Giấy chứng nhận nhân thân là gì? Làm thế nào để đảm bảo an ninh?

Như đã đề cập trước đó, “giấy tờ tùy thân” có thể chứng minh bạn là con người mà không cần tiết lộ bất kỳ thông tin nào về danh tính của bạn.

Các tác giả tuyên bố rằng dù AI có tiên tiến đến đâu thì nó cũng không thể làm được hai việc mà con người có thể làm - lấy thông tin xác thực ngoại tuyến, trong thế giới thực và làm giả hoặc bẻ khóa các hệ thống mã hóa tiên tiến.

Vì vậy, thông tin xác thực về nhân cách kết hợp hai ý tưởng này - tính bảo mật đạt được thông qua mật mã, nhưng cũng là thực tế rằng con người vẫn có một số khả năng mà AI không có, để thực sự chứng minh mạnh mẽ rằng bạn là con người.

Để có được "giấy chứng nhận nhân thân", người dùng cần phải có mối quan hệ với chính phủ, chẳng hạn như mã số thuế hoặc giấy phép lái xe, và phải tham gia ngoại tuyến.

Thông qua công nghệ bảo mật, người dùng có thể chứng minh điều này mà không cần chia sẻ bất kỳ thông tin nhạy cảm nào về danh tính của họ.

"Thông tin xác thực cá nhân" tương đối dễ triển khai và dựa trên cơ sở hạ tầng và công nghệ bảo mật đã tồn tại trong nhiều thập kỷ, chẳng hạn như sử dụng các mã định danh như tài khoản email để đăng nhập vào các dịch vụ trực tuyến. PHC có thể đóng vai trò bổ sung cho các phương pháp hiện có.

Tuy nhiên, việc người dùng sử dụng "thông tin xác thực cá nhân" nên là tùy chọn thay vì bắt buộc và nhà cung cấp dịch vụ có thể cho phép mọi người lựa chọn có sử dụng chúng hay không.

Tính tùy chọn có nghĩa là chúng ta vẫn chưa thể cho phép người dùng chỉ tương tác trực tuyến với con người thật đã được xác minh và loại trừ hoàn toàn sự tham gia của AI trên Internet.

Tuy nhiên, trong những tình huống như mua sắm trực tuyến hoặc đàm phán giao dịch, nếu bạn muốn đảm bảo rằng bên kia là một thực thể con người, thì "thông tin xác thực về tính cách" có thể hữu ích.

3. Những rủi ro là gì? Làm thế nào để giảm thiểu những rủi ro này?

Một trong những rủi ro nằm ở cách thực hiện. Nếu một thực thể cụ thể là đơn vị duy nhất phát hành “giấy chứng nhận nhân thân” hoặc hệ thống được thiết kế theo cách trao toàn bộ quyền lực cho một thực thể, điều này có thể khiến một số người lo ngại về sự tập trung quyền lực quá mức.

Nếu bạn đang ở trong một môi trường chính trị xã hội khó khăn hoặc nguy hiểm, việc phải đến một địa điểm ngoại tuyến để lấy giấy chứng nhận nhân thân có thể đáng sợ và khiến mọi người không muốn chia sẻ thông tin trực tuyến.

Một giải pháp khả thi là thành lập nhiều đơn vị phát hành "giấy chứng nhận nhân thân".

Bài báo của chúng tôi nhằm khuyến khích các chính phủ, nhà hoạch định chính sách, nhà lãnh đạo và nhà nghiên cứu đầu tư nhiều nguồn lực hơn vào việc xem xét các hướng triển khai khác nhau và khám phá những tác động rộng hơn mà công nghệ này có thể mang lại cho cộng đồng, đảm bảo các chính sách và quy định phù hợp được đưa ra.

AI đang phát triển rất nhanh, nhanh hơn nhiều so với khả năng thích ứng của chính phủ. Vì vậy, các chính phủ và các công ty lớn nên bắt đầu suy nghĩ ngay bây giờ về việc điều chỉnh các hệ thống kỹ thuật số để sẵn sàng chứng minh rằng người dùng là con người trong khi vẫn bảo vệ quyền riêng tư và bảo mật, để chúng ta có thể chuẩn bị cho tương lai với AI tiên tiến hơn.

4. Giới thiệu kỹ thuật

Công nghệ "chứng nhận nhân thân" được thực hiện như thế nào? Bài báo dài 63 trang này cung cấp cho chúng ta câu trả lời rất chi tiết.

Địa chỉ bài báo: https://arxiv.org/pdf/2408.07892

Đầu tiên, “thông tin xác thực nhân thân” được lưu trữ kỹ thuật số trên thiết bị của người sở hữu. Để đảm bảo uy tín và quyền riêng tư, hệ thống PHC cần đáp ứng hai điều kiện tiên quyết:

– Mỗi người chỉ được giữ một “chứng minh nhân dân” và cần phải xác minh lại thường xuyên để tránh bị mất cắp

– Người dùng sở hữu PHC tương tác ẩn danh với nhà cung cấp dịch vụ. Ngay cả khi các nhà xuất bản PHC và nhà cung cấp dịch vụ thông đồng, họ cũng không thể theo dõi các hoạt động số của người dùng, chứ đừng nói đến việc kết nối các hoạt động của họ trên nhiều nền tảng.

Quy trình đăng ký và sử dụng hệ thống PHC được thể hiện ở Hình 3:

Khi người dùng đưa ra yêu cầu, họ chỉ cần cung cấp cho đơn vị phát hành thông tin tối thiểu cần thiết. Bên phát hành có trách nhiệm xác minh rằng người dùng là con người và người dùng chưa từng đăng ký với PHC trước đó. Ngoài ra, bên phát hành có quyền thu hồi hoặc khôi phục PHC.

Khi sử dụng dịch vụ kỹ thuật số của bên thứ ba, người dùng có thể hoàn tất xác thực danh tính bằng cách cung cấp PHC và trải qua "kiểm tra không thông tin".

Ngoài PHC, nhà cung cấp dịch vụ không thể có được bất kỳ thông tin bổ sung nào. Mỗi chứng thực chỉ giới hạn ở một ứng dụng cụ thể, do đó không thể liên kết nhiều nền tảng khác nhau với cùng một người dùng thông qua PHC.

Bài báo cho rằng việc thiết kế nhiều đơn vị phát hành cho hệ thống PHC là một kế hoạch triển khai lý tưởng hơn. Người dùng có thể chọn đăng ký PHC từ nhiều đơn vị phát hành, nhưng mỗi đơn vị phát hành chỉ có thể nhận được một chứng chỉ, giúp giảm thiểu gian lận trên diện rộng đồng thời đảm bảo quyền riêng tư của người dùng.

Hệ thống PHC này có ba lợi thế dự kiến:

• Giảm tác động của người dùng "bù nhìn" và cho phép đầu vào thực tế và sự tham gia thực tế trên quy mô lớn của những người thực trên Internet
• Giảm thiểu các cuộc tấn công của bot
• Khiến trợ lý AI thực sự đại diện cho người dùng đáng tin cậy, thay vì bị người dùng có ý đồ xấu thao túng

Đồng thời, để triển khai CSSKBĐ một cách công bằng, an toàn trong thực tế cần giải quyết bốn thách thức sau:

1. Tiếp cận công bằng

Việc xác minh PHC thường xuyên có thể gây ra sự khó chịu và bực bội trong quá trình sử dụng, ảnh hưởng đến những người dùng không quen với công nghệ, đặc biệt là người cao tuổi. Ngoài ra, cần phải đảm bảo rằng người dùng không có PHC vẫn có thể sử dụng các dịch vụ số.

2. Tự do ngôn luận

Người dùng có thể lo ngại rằng PHC sẽ liên kết các hoạt động số của họ với danh tính ngoại tuyến thực sự của họ, do đó làm giảm mong muốn bày tỏ ý kiến ​​chân thực của họ trực tuyến.

3. Kiểm tra nguồn điện

Một thách thức lớn đối với hệ sinh thái PHC là sự tập trung quyền lực ở một số ít tổ chức, đặc biệt là các đơn vị phát hành PHC và các nhà cung cấp dịch vụ lớn, những người có quyết định liên quan đến việc sử dụng PHC sẽ có tác động đáng kể.

4. Khả năng chống lại các cuộc tấn công và lỗi

Giống như bất kỳ hệ thống kỹ thuật số nào, hệ thống PHC dễ bị tấn công và khai thác bởi nhiều bên, chẳng hạn như đơn vị cấp chứng chỉ, nhà cung cấp dịch vụ và người dùng có mục đích xấu. Hãy cân nhắc sử dụng các biện pháp thực hành tốt nhất trước đây về an ninh mạng, chẳng hạn như phòng thủ DoS và chặn kẻ tấn công truy cập vào các hồ sơ nhạy cảm.

Cuối bài viết, tác giả đề xuất các bước tiếp theo cần thực hiện.

Đầu tiên, hãy điều chỉnh hệ thống mạng kỹ thuật số hiện có để chuẩn bị cho tác động của trí tuệ nhân tạo.

Cụ thể hơn, chúng ta cần suy nghĩ lại về cách AI sẽ thay đổi Internet và truyền thông.

Thứ hai, ưu tiên “chứng chỉ nhân cách” như một giải pháp cần được giải quyết khẩn cấp.

Hình ảnh cuối cùng tóm tắt tất cả các điểm chính của bài viết này.

Điều đáng nói là để ngăn chặn các nền tảng Internet thu thập thông tin quá mức dưới chiêu bài "hệ thống tên thật", Bộ Công an và Cục Quản lý không gian mạng Trung Quốc mới đây đã ra mắt "Thẻ căn cước Internet".

Tất cả những gì bạn cần là một chiếc điện thoại di động có chức năng NFC, sau khi thực hiện nhận dạng thẻ căn cước, nhận diện khuôn mặt và liên kết số điện thoại di động, bạn có thể nhận được "thẻ căn cước trực tuyến" ảo.

"Số mạng" ở trên bao gồm các chữ cái và số và không chứa bất kỳ thông tin nhận dạng văn bản thuần túy nào. Có thể sử dụng trực tiếp để xác thực tên thật trên các ứng dụng như Taobao và WeChat mà không cần phải nhập thông tin như tên và số CMND.

Tham khảo: https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html