Việc tạo ra những video có thời lượng ngắn giả mạo hình ảnh và giọng nói bằng công nghệ trí tuệ nhân tạo (tức deepfake) đã làm dấy lên nỗi lo lắng về nguy cơ công nghệ này có thể can thiệp vào cuộc tổng tuyển cử đang diễn ra ở Ấn Độ.
Deepfake là công nghệ trí tuệ nhân tạo (AI) có khả năng tạo video với gương mặt và giọng nói giống hệt một người có thật.
Trong video dài 30 giây xuất hiện hình ảnh được cho là diễn viên Aamir Khan nổi tiếng của điện ảnh Bollywood (Ấn Độ). Trong đó, video phát ra giọng nói có nội dung thể hiện sự bất bình đối với những thành tựu kinh tế đất nước dưới thời Thủ tướng Narendra Modi và kêu gọi cử tri bỏ phiếu cho đảng Quốc đại đối lập chính.
Một đoạn video khác dài 41 giây xuất hiện hình ảnh giống với khuôn mặt của diễn viên tên tuổi khác ở Bollywood là Ranveer Singh, với nội dung phát đi tương tự.
Cả hai đoạn video ngắn này đều kết thúc bằng biểu tượng và khẩu hiệu của cuộc tổng tuyển cử của Ấn Độ. Hai video này cũng đã được lan truyền mạnh mẽ trên mạng xã hội từ tuần trước, với hơn nửa triệu lượt xem.
Một số phiên bản của hai video này đã bị chặn trên mạng xã hội song ít nhất 14 bản vẫn xuất hiện trên mạng xã hội X vào ngày 20/4.
Các quy định được Chính phủ Ấn Độ soạn thảo dựa trên 4 trụ cột bao gồm phát hiện Deepfake, ngăn chặn Deepfake, xây dựng cơ chế khiếu nại, báo cáo và nâng cao nhận thức.
Facebook đã gỡ bỏ hai video sau khi xác định những nội dung như vậy vi phạm các chính sách của công ty công nghệ này.
Cả hai diễn viên trên đều xác nhận những video có hình ảnh giống khuôn mặt họ là giả mạo. Các mạng xã hội như Facebook và X cùng với ít nhất 8 trang web xác minh dữ kiện, cũng đưa ra xác nhận tương tự.
Lâu nay, các chiến dịch tranh cử ở Ấn Độ thường sử dụng biện pháp tiếp xúc cử tri ở từng cộng đồng dân cư và vận động cử tri tại những sự kiện công cộng.
Đến năm 2019, ứng dụng tin nhắn WhatsApp và mạng xã hội Facebook bắt đầu được sử dụng là công cụ vận động bầu cử. Lần đầu tiên các nội dung do AI tạo ra xuất hiện trong cuộc tổng tuyển cử năm nay ở Ấn Độ.
Sự lan truyền rộng rãi này cho thấy những nội dung do AI tạo ra có thể tác động đến tiến trình tổng tuyển cử kéo dài 7 giai đoạn trên khắp đất nước, bắt đầu từ ngày 19/4 vừa qua và kéo dài đến tận tháng 6.
Các cuộc bầu cử ở những nước khác trên thế giới như Mỹ, Pakistan và Indonesia cũng đã ghi nhận hiện tượng phát tán tràn lan những nội dung thông tin và hình ảnh giả mạo do AI tạo ra.
Cuộc tổng tuyển cử năm nay ở Ấn Độ chứng kiến sự cạnh tranh của hơn 2.700 đảng phái, trong đó có 6 đảng cấp quốc gia và hơn 70 đảng cấp bang.
Cuộc bầu cử cũng sẽ chủ yếu chứng kiến sự cạnh tranh giữa Liên minh Dân chủ quốc gia (NDA) do đảng Nhân dân Ấn Độ (BJP) của Thủ tướng đương nhiệm Narendra Modi lãnh đạo và Liên minh toàn diện phát triển quốc gia Ấn Độ (INDIA) do đảng Quốc đại dẫn đầu./.