Theo 9to5Mac, Apple gần đây loại bỏ một số ứng dụng tạo hình ảnh AI khỏi App Store. Đó là những ứng dụng được thiết kế đặc biệt để tạo những hình ảnh khỏa thân gây ra tranh cãi, gây lo ngại cho nhiều người, đặc biệt là các thanh thiếu niên.
Hành động của Apple được thực hiện sau khi trang 404 Media tiến hành cuộc điều tra nêu bật bản chất có vấn đề của các ứng dụng tạo ảnh AI này. Các cuộc điều tra ban đầu của 404 Media đã phát hiện ra một xu hướng đáng lo ngại khi các ứng dụng AI được quảng cáo trên Instagram với những tuyên bố như "cởi đồ miễn phí cho bất kỳ cô gái nào". Những quảng cáo này thường hướng người dùng đến App Store, nơi chúng được mô tả là "công cụ tạo tác phẩm nghệ thuật". Cuộc điều tra không chỉ tiết lộ sự tồn tại của những ứng dụng này mà còn nêu bật khả năng truy cập của chúng thông qua các nền tảng quảng cáo chính thống.
Mặc dù Apple không trả lời ngay lập tức các câu hỏi ban đầu từ 404 Media, tuy nhiên công ty đã nhanh chóng có hành động khi nhận được thông tin chi tiết, bao gồm các liên kết trực tiếp đến ứng dụng và quảng cáo của họ. Cách tiếp cận chủ động này giúp công ty xóa ngay lập tức các ứng dụng vi phạm khỏi App Store để ngăn chặn việc lạm dụng công nghệ để tạo nội dung có hại.
Trong thực tế, những ứng dụng tạo ảnh AI nói trên đã nhận được nhiều sự quan tâm trong những tháng gần đây sau khi nó được dùng để tạo hình ảnh khỏa thân giả của thanh thiếu niên tại các trường học ở Mỹ và trên khắp châu Âu. Để hạn chế các ứng dụng có hại trực tuyến này, các nền tảng như Meta đã thực hiện các bước để xóa những quảng cáo như vậy, mặc dù vẫn còn những thách thức trong việc kiểm soát hiệu quả nội dung này một cách nhất quán.
Mặc dù hành động của Apple là một bước đi đúng hướng nhưng họ cũng nêu bật những thách thức đang diễn ra trong việc kiểm duyệt nội dung số. Các công ty như Google cũng phải đối mặt với sự giám sát chặt chẽ khi hướng người dùng đến các trang web như "MrDeepFakes", được biết đến với nội dung deepfake khiêu dâm liên quan đến những người nổi tiếng và nhân vật của công chúng.
Apple biết rằng đây không phải là một cuộc chiến dễ dàng và các ứng dụng đã xóa vẫn có thể được thay thế bằng các ứng dụng tạo ảnh khỏa thân mới. Quả thực, đây là một xu hướng cần phải ngăn chặn để bảo vệ sự an toàn và quyền riêng tư của người dùng trên mạng xã hội.