Write a paragraph about AI governance.
Cuộc đua vũ trang AI đang gia tăng và những bước đột phá đang diễn ra với tốc độ chóng mặt.

Việc phát hành ChatGPT bởi OpenAI đại diện cho một bước nhảy vọt sâu sắc trong cách con người tương tác với máy móc, cho thấy sự tiến bộ đáng kinh ngạc trong các mô hình ngôn ngữ lớn. Trong khi đó, các khả năng AI sinh tạo như Dall-E, Stable Diffusion, và Midjourney có thể tạo ra hình ảnh thực tế và chi tiết từ mô tả văn bản, thể hiện một cấp độ sáng tạo và trí tưởng tượng mà trước đây được cho là chỉ thuộc về con người.

Con người dường như được lập trình cơ bản để liên tục tiến bộ công nghệ và cải thiện tri thức cũng như khả năng của chúng ta. Hơn nữa, bộ não con người có xu hướng suy nghĩ theo kiểu tuyến tính, khiến chúng ta đánh giá thấp sự tiến bộ theo cấp số nhân của công nghệ. Các công ty và quốc gia bị thúc đẩy bởi các lực lượng thị trường và lý thuyết trò chơi địa chính trị để theo đuổi trí tuệ tốt hơn thông qua sự phát triển của AI.

Viện Tương lai của Sự sống gần đây đã công bố thư mở có tiêu đề "Dừng lại các thí nghiệm AI khổng lồ: Một bức thư mở". Bức thư - với các người ký nổi bật như Elon Musk, Steve Wozniak và Andrew Yang - đã gây ra sự chấn động, kêu gọi tạm dừng phát triển AI tiên tiến trong 6 tháng:

"Vì vậy, chúng tôi kêu gọi tất cả các phòng thí nghiệm AI ngay lập tức tạm dừng ít nhất 6 tháng việc đào tạo các hệ thống AI mạnh mẽ hơn GPT-4. Việc tạm dừng này nên là công khai và có thể xác minh, và bao gồm tất cả các bên liên quan chính. Nếu việc tạm dừng như vậy không thể được thực hiện nhanh chóng, chính phủ nên can thiệp và thiết lập một lệnh cấm."

Phần lớn phương tiện truyền thông và cuộc thảo luận công cộng phản hồi bức thư này đã tập trung vào ai đã ký nó và phản đối ý tưởng rằng nhân loại đang đối mặt với một mối đe dọa tồn vong tức thì từ trí tuệ siêu nhân tạo. Những tuyên bố phi lý về trí tuệ nhân tạo không kiểm soát có vẻ như quá cường điệu đối với nhiều người, và việc kêu gọi một lệnh cấm 6 tháng là không thực tế. Chúc bạn may mắn thuyết phục Trung Quốc "tạm dừng" nỗ lực của họ trong cuộc đua vũ trang AI.

Nhưng không có giới hạn nào sao? Chúng ta có nên tiếp tục mà không có hướng dẫn?

Chẳng hạn như …

Chúng ta có thoải mái việc ủy quyền các quyết định cho các hệ thống AI hòm đen thiếu minh bạch và giải thích, khiến con người không hiểu được lý do phía sau các quyết định không?
Liệu chúng ta có nên lo lắng về sự phát triển của các vũ khí tự động điều khiển bởi AI, mà đưa ra quyết định về việc sử dụng lực lượng sát thương mà không có sự can thiệp của con người?
Liệu chúng ta có nên lo lắng về khả năng các tác nhân xấu sẽ sử dụng AI cho những mục đích xấu, như các chiến dịch tuyên truyền tinh vi?
Có phải các luật, quy định và hệ thống chính trị hiện tại của chúng ta có đủ khả năng để xử lý những câu hỏi về sự đồng bộ AI mà xã hội sẽ phải đối mặt trong tương lai rất gần không?
Khi AI trở nên tiên tiến hơn, có thể sẽ trở nên khó hiểu, điều này có thể dẫn đến những kết quả không mong muốn. Các hệ thống AI có thể hành động theo những cách không lường trước được và khó kiểm soát. Vấn đề đồng bộ AI là một thách thức xã hội đòi hỏi sự hợp tác giữa các nhà nghiên cứu, kỹ sư, doanh nhân, những người làm chính sách và công chúng. Nó cũng sẽ cần sự hợp tác quốc tế giữa chính phủ và khu vực tư nhân. Đây không chỉ là một thách thức kỹ thuật, mà còn là một thách thức triết học và đạo đức.

Bức thư mở đã đề cập ở trên tiếp tục khuyến nghị:

"Việc nghiên cứu và phát triển AI nên được định hướng lại vào việc làm cho các hệ thống hiện tại mạnh mẽ, tiên tiến hơn có độ chính xác, an toàn, có thể diễn giải, minh bạch, mạnh mẽ, đồng bộ, đáng tin cậy và trung thành hơn."

Đây chắc chắn là một mục tiêu đáng giá, và nó có thể đạt được bằng cách thực hiện AI một cách công khai. Điều mà chúng ta hiện đang thiếu là một khuôn khổ. Xã hội cần một bộ quy trình và quy định để biến lời khuyên từ Viện Tương lai của Sự sống thành hành động.

Chúng ta cần xem xét và tranh luận về những lợi ích và bất lợi của nhiều ý tưởng, bao gồm nhưng không giới hạn đến:

- Công bố bắt buộc chi tiết mô hình, bao gồm cả tập dữ liệu đào tạo, phương pháp đánh giá và những thiên lệch đã biết
- Phát triển một khuôn khổ thiết lập yêu cầu giám sát và kiểm toán mô hình cho các hệ thống AI tiên tiến
- Thực hiện các luật áp đặt trách nhiệm cho những thiệt hại do AI gây ra
- Thành lập một cơ quan quản lý để giám sát và theo dõi các hệ thống AI có khả năng cao

Bước đầu tiên trong việc đạt được một khuôn khổ sản xuất cho phát triển AI an toàn là một cuộc đối thoại cởi mở giữa nhiều bên liên quan, bao gồm tất cả mọi người. Chúng ta phải vượt qua cuộc tranh luận chính trị quá khích mà truyền thông bất lương và hỏng hóc thường áp đặt lên chúng ta. Chủ đề này quá quan trọng và những tác động của nó quá sâu sắc. Hãy cùng tôi thúc đẩy một cuộc trò chuyện thông minh và tôn trọng về AI — một cuộc trò chuyện thu hút ý kiến và tranh luận cởi mở từ nhiều tiếng nói khác nhau để giúp đảm bảo con đường tiến lên là vì lợi ích chung của chúng ta.