Tại sao toàn thể nhân loại lại kêu gọi “điều chỉnh” trí tuệ nhân tạo nói chung?

Bài viết này đặt ra câu hỏi tại sao chúng ta cần quản lý trí tuệ nhân tạo, phân tích bức thư ngỏ có chữ ký của Musk và sử dụng góc nhìn khách quan và khoa học để gợi ra suy nghĩ và thảo luận về các chủ đề quản lý, cách quản lý và lý do cần quản lý. Dành cho sinh viên quan tâm đến lĩnh vực trí tuệ nhân tạo.

Vào cuối tháng 3, nhiều người nổi tiếng bao gồm cả Musk đã cùng ký một bức thư ngỏ, hy vọng rằng các tổ chức bao gồm OpenAI sẽ tạm dừng nghiên cứu và phát triển AGI mạnh mẽ hơn trong ít nhất 6 tháng, để xã hội loài người có thể đạt được một số loại thỏa thuận dựa trên mối đe dọa của AGI (trí tuệ nhân tạo tổng hợp).

Mặc dù nội dung của bức thư này không dài nhưng nó bao hàm rất nhiều nội dung và chứa đựng nhiều vấn đề phong phú.

Ví dụ, con người nên giải quyết vấn đề này như thế nào - AGI lấp đầy các kênh thông tin bằng tuyên truyền và thậm chí là cả lời nói dối; nếu đó là công việc mà con người đã yêu thích và hài lòng, liệu nó có nên bị thay thế bằng AI không? Những cải thiện hiệu quả này có đáng để đánh đổi bằng nguy cơ "mất quyền kiểm soát nền văn minh" không? Con người nên thiết lập hệ thống quản lý AGI như thế nào?

Kết quả cuối cùng của lá thư này là nó đã gây ra một cuộc tranh luận ở Thung lũng Silicon với quy mô chưa từng có và gây ra nhiều ý kiến ​​trái chiều. Xét cho cùng, nếu chúng ta lấy GPT3.5 làm điểm khởi đầu cho tầm nhìn của xã hội loài người, thì con người vẫn còn quá nhiều điểm mù cần giải quyết và quá nhiều tranh cãi mà chưa đạt được sự đồng thuận liên quan đến sự phát triển của AGI. Nhưng trong khi con người vẫn còn đang tranh cãi, AGI đã bắt đầu gây ra rắc rối trên toàn thế giới, với thông tin sai lệch và rò rỉ thông tin như một hộp đen khổng lồ, đáng lo ngại.

Do đó, trong thời gian gần đây, nhiều quốc gia phát triển thông tin như Châu Âu, Hoa Kỳ, Nhật Bản và Hàn Quốc đã bắt đầu thảo luận về mô hình quản lý quy mô lớn. Ngày 11 tháng 4, Cục Quản lý Không gian mạng Trung Quốc cũng đã ban hành "Biện pháp quản lý dịch vụ trí tuệ nhân tạo (Bản thảo để lấy ý kiến)" (sau đây gọi là "Biện pháp"). Ý nghĩa của "Biện pháp" này nằm ở chỗ nó có thể được coi là một trong những văn bản chính thức sớm nhất mà xã hội loài người phải đối mặt trong việc quản lý AGI.

Quan điểm pháp lý thường là góc nhìn rất độc đáo trong cách mọi người hiểu về AGI: khác với quan điểm của các nhà khoa học, AGI có nhiều hệ thống giải thích phức tạp về các tham số và nhiều khuôn khổ mô hình phức tạp. Cơ quan quản lý là người phát ngôn cho lợi ích xã hội và thường suy nghĩ theo góc nhìn của toàn thể xã hội. Do đó, suy nghĩ của các nhà quản lý thường gần hơn với trực giác đơn giản của hầu hết mọi người. Nhưng nó cũng đại diện cho suy nghĩ của nhóm chuyên gia cốt lõi, do đó cũng có thể phản hồi một phần cho nhiều cuộc thảo luận về những điều mới mẻ.

Do đó, "Biện pháp" này thực sự có thể trở thành cánh cửa giúp nhiều người bình thường hiểu được về AGI. Nó có thể giúp chúng ta hiểu rõ hơn và tham gia tốt hơn vào các cuộc thảo luận về AGI. Bởi vì AGI không phải là thiên thần cũng không phải là ác quỷ. Và AGI vỡ mộng cũng sẽ trở thành một phần quan trọng trong đời sống công cộng của chúng ta.

1. “Tôi là ai”: Trí tuệ nhân tạo tạo ra

Theo quan điểm của Thung lũng Silicon, AGI gần như tương đương với một mô hình lớn. Đây là một chương trình máy tính kết hợp các mô hình được tối ưu hóa, các tập hợp dữ liệu có cấu trúc và sức mạnh tính toán khổng lồ, đồng thời có một số đặc điểm của tư duy thông minh. "Tài liệu" phân loại "loài mới" này vào ngành "trí tuệ nhân tạo tạo sinh", tức là "công nghệ tạo ra văn bản, hình ảnh, âm thanh, video, mã và nội dung khác dựa trên thuật toán, mô hình và quy tắc". Rõ ràng, đây là góc nhìn về mối quan hệ giữa AI và xã hội.

Xét cho cùng, các tính năng kỹ thuật trong tương lai của AGI sẽ thay đổi và quy mô mô hình sẽ dao động, nhưng mục tiêu cốt lõi cuối cùng của nó là tương tác với xã hội sẽ không thay đổi. Cho dù một mô hình được phát triển trong môi trường khép kín bao lâu thì mục tiêu cuối cùng của nó vẫn là đưa nội dung ra xã hội. Đây thực sự là sự khác biệt cốt lõi giữa AI theo chiều dọc và AGI, chẳng hạn như hỗ trợ ra quyết định, truy xuất, bảo mật và thanh toán.

Theo góc độ công nghệ, bất kỳ "AI tạo sinh" nào có lượng người dùng rộng rãi rất có thể sẽ là sản phẩm có khả năng cơ bản của AGI. Nhưng đối với người bình thường, thuật ngữ AGI (trí tuệ nhân tạo tổng quát) thực sự có vẻ hơi "quyến rũ". Nhiều người so sánh AGI với trí thông minh của con người, như thể họ đang nhìn thấy một "linh hồn mạng", hoàn toàn quên rằng AGI chỉ là một phần nhỏ của trí thông minh và sự phát triển trong tương lai của nó thực sự vẫn còn rất nhiều điều không chắc chắn.

Vì vậy, thay vì nói rằng tương lai của chúng ta là một "xã hội AGI" như trong "Westworld", thì tốt hơn là nói rằng chúng ta sẽ mở ra một thế giới "trí tuệ nhân tạo có khả năng tạo ra", có thể gần hơn với thực tế công nghệ của thế hệ chúng ta.

2. “Tôi thuộc về ai”: Nhà cung cấp dịch vụ

Có một câu hỏi kinh điển trong cuộc thảo luận về đạo đức AGI: Đối với nội dung do mô hình lớn tạo ra, bản quyền thuộc về công ty mô hình lớn hay người dùng đã bỏ công sức để viết lời nhắc?

Mặc dù các Biện pháp này không quy định rõ quyền sở hữu bản quyền, nhưng chúng xác định trách nhiệm và nghĩa vụ trong giám sát và có thể dùng làm tài liệu tham khảo cho nhiều người hơn. Theo Biện pháp: "Các tổ chức và cá nhân (sau đây gọi là 'nhà cung cấp') sử dụng sản phẩm AI tạo sinh để cung cấp dịch vụ trò chuyện và văn bản, hình ảnh, tạo âm thanh và các dịch vụ khác, bao gồm hỗ trợ người khác tạo văn bản, hình ảnh, âm thanh, v.v. bằng cách cung cấp giao diện có thể lập trình, sẽ chịu trách nhiệm của nhà sản xuất nội dung do sản phẩm tạo ra".

Nếu suy nghĩ theo hướng này thì người chịu trách nhiệm thực chất không phải là nhân viên R&D của mô hình lớn hay người dùng mà là nhà cung cấp dịch vụ kết nối mô hình lớn và người dùng. Tất nhiên, trong hầu hết các trường hợp, nhà phát triển AGI và nhà cung cấp API phải là cùng một thực thể. Nhưng khi hệ sinh thái công nghệ phát triển, các thực thể ở các cấp độ khác nhau có thể trở nên đa dạng hơn.

Việc làm rõ trách nhiệm của các nhà cung cấp dịch vụ trung gian thực chất phù hợp với định nghĩa chính thức về "trí tuệ nhân tạo tạo ra". Đồng thời, sự phân chia quyền lực và trách nhiệm như vậy thực sự buộc chuỗi công nghiệp thượng nguồn phải đạt được sự tin tưởng lẫn nhau về nội dung trong tương lai.

3. “Quyền nội dung” của AGI: cần phải xác định

Một cuộc tranh luận tương tự về vấn đề bản quyền là: Nội dung AGI có thể có “quyền tương tự” như nội dung mà con người được hưởng hay không?

Các Biện pháp này đặt ra rõ ràng các hạn chế đối với nội dung AGI, xuất hiện ở hai nơi: "Theo Quy định về Quản lý Tổng hợp sâu Dịch vụ thông tin Internet, hình ảnh, video và nội dung khác được tạo ra phải được đánh dấu". "Các nhà cung cấp phải cung cấp thông tin cần thiết có thể ảnh hưởng đến sự tin tưởng và lựa chọn của người dùng theo yêu cầu của cơ quan quản lý không gian mạng quốc gia và các cơ quan có thẩm quyền liên quan, bao gồm mô tả về nguồn, quy mô, loại, chất lượng, v.v. của dữ liệu đào tạo được đào tạo trước và tối ưu hóa, quy tắc gắn nhãn thủ công, quy mô và loại dữ liệu được gắn nhãn thủ công, thuật toán cơ bản và hệ thống kỹ thuật, v.v."

Luôn có tranh cãi về nội dung của AGI. Đặc biệt trong giai đoạn beta nội bộ của GPT, hệ thống đôi khi hoạt động giống như một ông già đang chơi điện thoại di động ở lối vào làng. Đôi khi nó trực tiếp cung cấp cho người dùng một số ý kiến ​​có chứa các phán đoán giá trị mà không có đủ thông tin thuyết phục để hỗ trợ. Nếu các Biện pháp được triển khai, AGI sẽ hoàn toàn nói lời tạm biệt với nội dung đầu ra "bằng lời" và không bằng lời, thay vào đó sẽ đưa ra một số thuộc tính công cụ giống như tìm kiếm. Và những việc như sử dụng các tác phẩm tổng hợp bằng AI để giành giải thưởng trong các cuộc thi nghệ thuật sẽ hoàn toàn trở thành một "lịch sử đen tối".

Điều này thực sự phù hợp với tinh thần của luật pháp. AI có thế mạnh tuyệt đối trong việc tạo nội dung, do đó, nó cần phải chịu nhiều gánh nặng chứng minh hơn. Tuy nhiên, các định dạng nội dung đa phương thức có thể tiềm ẩn những rủi ro lớn về nội dung và tất nhiên đòi hỏi các cơ chế kiểm soát tương ứng. Ngược lại, nếu nội dung AGI được trao các quyền giống hệt như nội dung của con người, nó có thể tác động đến hệ sinh thái nội dung của con người theo cách khó có thể đánh giá được.

IV. “Sinh thái học điều tiết”: Nguyên tắc Asilomar

Có một chi tiết nhỏ trong bức thư ngỏ gửi OpenAI ở phần đầu, đề xuất rằng nên có một hệ sinh thái kiểm toán thay vì một hệ thống. Bức thư ngỏ cũng đề cập đến Nguyên tắc AI của Asilomar, trong đó nêu rằng tác động của AI tiên tiến đối với con người sẽ ở cấp độ văn minh, do đó, các nguồn lực cần thiết cho việc lập kế hoạch và quản lý AI phải tương ứng với các nguồn lực mà AI tự tiêu thụ.

Nói cách khác, nếu AI tạo ra một hệ thống khổng lồ thì nó không thể được điều chỉnh hoàn toàn chỉ bởi một liên kết hoặc một thực thể. Ngoài việc tiếp tục nhấn mạnh tình trạng quản lý của luật hiện hành, các Biện pháp này cũng nhấn mạnh đến việc giám sát toàn bộ quy trình của AI tạo ra.

Ví dụ, ngữ liệu ("dữ liệu tiền đào tạo") phải hợp pháp và tuân thủ, nhãn dữ liệu phải được đào tạo theo "quy tắc dán nhãn rõ ràng, cụ thể và mang tính vận hành", các tình huống sử dụng phải tuân thủ các quy định và đảm nhận các trách nhiệm tương ứng, bản thân nội dung cần được dán nhãn và phải có các kênh báo cáo và phản hồi rõ ràng trong quá trình người dùng sử dụng, v.v.

Vì AGI sẽ trở thành nền tảng sinh thái to lớn, các cơ quan quản lý thực sự cần sử dụng nhiều phương pháp đa dạng hơn để thực hiện nhiệm vụ quản lý. Do đó, mặc dù mô hình lớn có một số thuộc tính hộp đen nhất định, nhưng thông qua toàn bộ các cú đấm kết hợp, đủ để suy ra ngược lại khả năng tuân thủ đằng sau hộp đen kỹ thuật, do đó đạt được mục đích "mở hộp".

Để làm rõ hơn trách nhiệm của nhà phát triển, điều khoản sau đã được thêm vào Biện pháp: "Đối với nội dung được tạo ra mà được phát hiện trong quá trình vận hành hoặc được người dùng báo cáo và không tuân thủ các yêu cầu của Biện pháp này, ngoài việc thực hiện các biện pháp như lọc nội dung, cần ngăn chặn việc tạo lại nội dung đó trong vòng ba tháng thông qua đào tạo tối ưu hóa mô hình và các biện pháp khác". Nói cách khác, nếu cơ quan quản lý chỉ muốn sử dụng "lọc nội dung" để trốn tránh trách nhiệm tối ưu hóa mô hình thì đó là hành vi vi phạm Biện pháp - AGI cần một linh hồn tuân thủ, chứ không chỉ là một API tuân thủ.

5. Thuần hóa lửa

Nhiều người so sánh việc phát minh ra AGI với "lửa". Con người đã học cách tạo ra lửa và tận hưởng thành quả của nền văn minh từ lửa, nhưng đồng thời cũng mất nhiều thời gian hơn để "thuần hóa lửa".

Trong bức thư ngỏ được đề cập ở trên, có đề xuất rằng một AGI tốt phải đáp ứng ít nhất một số tiêu chuẩn: chính xác, an toàn, dễ hiểu, minh bạch, mạnh mẽ, phù hợp, đáng tin cậy và trung thành.

Nói cách khác, AGI không được trở thành một hộp đen thuật giả kim siêu hình như hiện nay. Nó chắc chắn sẽ mang lại lợi ích lớn hơn cho nhân loại. Do đó, bức thư ngỏ đề xuất nhiều ý tưởng quản lý kỹ thuật dài hạn hơn, chẳng hạn như thiết lập một hệ thống quản lý theo chiều dọc chuyên nghiệp với quy mô sức mạnh tính toán lớn, đạt được một số loại quy ước mã cơ bản, v.v. Việc những đề xuất này có đáng triển khai hay không vẫn cần có thêm nhiều cuộc thảo luận trong ngành.

Nhưng có một điều tương đối chắc chắn là: cũng giống như con người hiểu "lửa" tốt hơn trong quá trình "thuần hóa lửa", xã hội loài người chỉ có thể hiểu AGI tốt hơn thông qua tương tác và cạnh tranh liên tục với AGI.

Tác giả: Guo Haiwei

Nguồn: Tài khoản công khai WeChat: "Pinwan (ID:pinwancool)"