Một trong những lo ngại hàng đầu chính là việc bảo vệ người dùng cũng như bản quyền. Theo đó, người dùng có thể bị xâm phạm thông tin cá nhân, kiểm soát hoạt động của con người. Việc ứng dụng AI trong quản lý các hệ thống cung cấp điện hay nước, vốn có ý nghĩa quan trọng trong cuộc sống, hay việc áp dụng AI trong dịch vụ y tế cũng bị đánh giá là có rủi ro cao. Về vấn đề bản quyền, quá trình cung cấp dữ liệu để máy học để xây dựng các mô hình AI tạo sinh đang hàm chứa nguy cơ vi phạm bản quyền, xâm phạm nguồn tài nguyên của các tổ chức, cá nhân và doanh nghiệp.
Hơn thế nữa, một nguy cơ đang hiển hiện chính là việc AI thao túng con người. Cuối năm ngoái, Tổ chức RAND (Mỹ) đã có báo cáo về nguy cơ AI tạo sinh thao túng thông tin và quan điểm dư luận. Theo báo cáo này, việc AI tạo sinh thao túng mạng xã hội đã chuyển sang thế hệ thứ 3. Ở thế hệ này, các robot ảo (thường được gọi là bot) đăng ký tài khoản trên mạng xã hội rồi lan truyền các tin giả. Một mạng bot khổng lồ trông giống và hoạt động như con người, đồng thời tạo ra văn bản, hình ảnh cũng như video và âm thanh hỗ trợ tính xác thực cho thông tin của bot lan truyền. Khi được giao một nhiệm vụ, bot có thể tự lập kế hoạch cho các hành động, thực hiện các hành động đó, sửa đổi và quyết định khi nào nhiệm vụ được hoàn thành.
Về tính xác thực thì các bot có thể hành động theo những cách trông giống con người đích thực. Ví dụ, các bot có thể thu thập thông tin để nắm bắt đặc điểm đối tượng nhằm tương tác trực tiếp như nhắn tin trao đổi ngắn, viết bình luận. Người lan truyền tin giả có thể tận dụng AI tạo sinh giúp có thể tự động tạo ra các hình ảnh, video giả mạo nhưng có tính chân thực cao hơn. Ví dụ, chỉ cần đặt ra vài yêu cầu, AI tạo sinh có thể tạo hình ảnh, video độ nét cao để giả mạo mà người xem khó nhận ra. Ngoài ra, nhờ ưu thế tự động xây dựng nội dung mà việc thao túng mạng xã hội sẽ đỡ tốn chi phí hơn. Mô hình ngôn ngữ lớn (LLM) sẽ giúp nhân rộng ra nhiều ngôn ngữ để nhằm vào nhiều đối tượng mang đặc tính quốc gia, dân tộc, quan điểm khác nhau.
Bên cạnh đó, nhiều tập đoàn công nghệ hàng đầu thế giới như Amazon, Alphabet (sở hữu Google), Microsoft, Intel… đã mở ra các chương trình đào tạo miễn phí cũng như chia sẻ nhiều nền tảng cho các nhà phát triển độc lập, lẫn doanh nghiệp có thể phát triển, huấn luyện các mô hình AI. Kèm theo đó, những dịch vụ điện toán đám mây như cho thuê máy chủ, cho thuê GPU (bộ xử lý tác vụ đồ họa) cùng nhiều dịch vụ hỗ trợ khác càng tạo điều kiện thuận lợi để tự phát triển các công nghệ, mô hình AI. Điều này giúp AI phát triển bùng nổ, nhưng đồng thời cũng khó kiểm soát các mô hình AI được phát triển vì mục đích gì, quy mô ra sao và có tác động thế nào…