Trong thế giới AI phát triển nhanh chóng, Apple đang khá thận trọng nhằm đảm bảo môi trường an toàn cho App Store.
Với sự gia tăng của việc tạo hình ảnh AI trên web và trong các ứng dụng độc lập, có vẻ như một số ứng dụng nguy hại đã vượt qua được cơ quan kiểm duyệt của Apple khi chúng có thể tạo ra ảnh khỏa thân mà không có sự đồng ý của chủ nhân trong bức ảnh.
Một hình ảnh được xử lý bởi công cụ lột đồ từ điện thoại Huawei Pura 70.
Theo 404 Media, những ứng dụng này được quảng cáo là có khả năng "tạo hình ảnh khỏa thân vô điều kiện" và có thể bị lạm dụng cho mục đích xấu. Ngay sau khi tiếp nhận thông tin, Apple đã xóa ít nhất 3 ứng dụng này khỏi App Store.
Vấn đề ở đây là Apple chỉ xóa 3 ứng dụng khỏi App Store sau khi nhận thông tin về mối nguy hiểm của chúng. Cụ thể, 404 Media đã phát hiện ra các ứng dụng này thông qua quảng cáo trực tuyến bên ngoài App Store, mà cụ thể là trên Instagram. Đặc biệt, rất nhiều quảng cáo trong thư viện quảng cáo của Meta có liên kết đến 5 ứng dụng khác nhau, với 2 là ứng dụng web và 3 là ứng dụng có sẵn trên App Store.
Nội dung quảng cáo công khai ứng dụng có thể cởi đồ trên Instagram.
Điều đó có nghĩa bản thân Apple không thể tìm thấy các ứng dụng vi phạm chính sách của mình mà chỉ dựa vào báo cáo bên thứ ba. Báo cáo không đi sâu vào chi tiết về bản chất của 3 ứng dụng này, nhưng nó có thể giống với một ứng dụng hoán đổi khuôn mặt deepfake mà Google đã xóa khỏi Play Store gần đây sau lời quảng cáo về khả năng "Tạo bất kỳ nội dung khiêu dâm nào mà bạn muốn" trên một số trang web người lớn.
Quan trọng hơn, đây không phải là vấn đề mới. Hai năm trước, cả Apple và Google đều có vẻ thoải mái khi để yên các ứng dụng này miễn là chúng không quảng cáo trắng trợn về khả năng deepfake của mình. Những ứng dụng như vậy là nguyên nhân gây ra một số tác hại tồi tệ nhất mà người dùng gặp phải, đặc biệt là các thanh thiếu niên thường xuyên sử dụng ảnh của bạn cùng lớp để đăng tải những thông tin quấy rối và bắt nạt trên mạng.
Các công cụ AI gây nguy cơ cho phép kẻ xấu tạo ảnh khỏa thân để đe dọa của người khác.
Để qua mặt Apple, những nhà phát triển ứng dụng này sử dụng các chiến thuật đánh lừa. Ví dụ, chúng được liệt kê đơn giản là "trình tạo ảnh nghệ thuật" mà không đề cập đến khả năng tạo ảnh khỏa thân của ứng dụng đó. Nhưng trên Instagram, chúng lại được quảng bá là có thể "xóa bất kỳ quần áo nào" và "cởi đồ miễn phí cho bất kỳ cô gái nào" kèm hình ảnh cho thấy những người phụ nữ trẻ ở nhiều trạng thái cởi quần áo do AI tạo ra.
Mặc dù hành động mới đây của Apple là tốt nhưng sẽ tốt hơn nếu công ty tìm cách cải thiện quy trình đánh giá ứng dụng của mình để kiểm tra chặt chẽ hơn các ứng dụng AI và xóa chúng trên App Store trước khi chờ phản hồi từ các chuyên gia bảo mật.