Apple ha eliminado tres aplicaciones de la App Store de iPhone después de descubrir que podrían usarse para crear imágenes no consensuadas de desnudos usando la potencia de generación de imágenes de IA. La decisión se produce cuando se rumorea con fuerza que Apple está trabajando en nuevas funciones generativas de IA, probablemente para debutar en iOS 18 durante el evento de la WWDC en junio.
Las aplicaciones fueron detectadas originalmente a principios de esta semana y parece que Apple solo las eliminó después de que fueran cubiertas en línea. De hecho, un informe detallando la noticia también dice que Apple no pudo encontrar las aplicaciones en cuestión y requería ayuda para identificarlas antes de que pudieran ser eliminadas.
Es poco probable que ninguna de las funciones de IA generativa en las que se rumorea que Apple está trabajando pueda hacer algo similar a lo que estas aplicaciones estaban haciendo, pero aún plantea un interesante dilema para Apple. ¿Cómo va a comercializar las funciones, especialmente en un mundo donde la confianza del público en las capacidades de la IA parece estar disminuyendo?
Eliminado
404 Media informa que pudo encontrar las aplicaciones después de detectarlas en la Biblioteca de Anuncios de Meta, una función que archiva los anuncios disponibles en su plataforma. Dos de los anuncios encontrados eran basados en la web, pero había tres para aplicaciones que se podían descargar desde la App Store. El informe dice que Meta eliminó los anuncios una vez que se enteró. Sin embargo, 404 Media dice que Apple "no respondió inicialmente a una solicitud de comentarios sobre esa historia, pero se comunicó conmigo después de que se publicara pidiendo más información." Luego, un día después, Apple confirmó que había eliminado tres aplicaciones de la App Store.
El informe también señala que la eliminación ocurrió "solo después de que proporcionáramos a la empresa enlaces a las aplicaciones específicas y sus anuncios relacionados, indicando que la empresa no pudo encontrar las aplicaciones que violaron su política por sí misma."
Aplicaciones similares a las eliminadas por Apple utilizan IA generativa para "desnudar" a las personas mediante el uso de IA para manipular una fotografía existente y hacer que alguien parezca desnudo. El informe señala que estas aplicaciones, y las imágenes que crean, ya han llegado a las escuelas de todo el país. Algunos estudiantes dijeron que encontraron las aplicaciones que usaron en TikTok, pero otras redes sociales también han estado ejecutando anuncios de aplicaciones similares, señala el informe de 404 Media.
Como suele ser el caso con la nueva tecnología, el mundo está lidiando actualmente con la avalancha de nuevas herramientas de IA y sus capacidades. Esas capacidades a veces pueden ser asombrosas, pero otras veces pueden usarse para hacer daño, como es claramente el caso con estas aplicaciones. Apple sin duda estará ansioso por asegurarse de que aplicaciones similares no vuelvan a encontrar su camino en la App Store, aunque seguramente surgirán preguntas sobre cómo se les permitió ingresar a la tienda en primer lugar.
More from iMore