Los «desnudos ultrafalsos» es el nuevo peligro que enfrentan las adolescentes en cualquier parte del mundo. Se trata de imágenes alteradas digitalmente conocidas como «ultrafalsos» o «pornografía ultrafalsa» (deepfakes, deepnudes). Pueden tener consecuencias devastadoras. Los expertos en explotación sexual infantil afirman que el uso de imágenes no consensuadas generadas por IA para acosar, humillar e intimidar a mujeres jóvenes puede perjudicar su salud mental, su reputación y su seguridad física, además de plantear riesgos para sus perspectivas universitarias y profesionales.
Algunos casos de «desnudos ultrafalsos» en EE.UU.
Las escuelas de todo Estados Unidos, sorprendidas el año pasado por la repentina popularidad de los chatbots que funcionan con inteligencia artificial, como ChatGPT, se apresuraron a contener los robots generadores de texto en un esfuerzo por evitar que los estudiantes hicieran trampa. Ahora, un fenómeno más alarmante de generación de imágenes mediante el uso de la IA está impactando las escuelas.
Utilizan aplicaciones
Los chicos de varios estados han utilizado aplicaciones de "nudificación". Esto, debido a que están ampliamente disponibles para pervertir fotografías reales e identificables de sus compañeras de clase vestidas, asistiendo a eventos como fiestas de graduación, en imágenes gráficas y convincentes de las estudiantes con senos y genitales expuestos generados por IA. En algunos casos, los estudiantes del sexo masculino compartieron las imágenes falsas en el comedor de la escuela, el autobús escolar o mediante chats grupales en plataformas como Snapchat e Instagram, según informes de la escuela y la policía.
FBI advierte sobre ilegalidad de distribución del material
El FBI el pasado mes advirtió es ilegal distribuir material de abuso sexual infantil generado por computadora, incluidas imágenes de aspecto realista generadas por IA.
Estudiantes usan aplicaciones
Sin embargo, el uso por parte de los estudiantes de aplicaciones de IA explotadoras en las escuelas es tan nuevo que algunos distritos parecen menos preparados para abordarlo que otros. Eso puede hacer que las medidas de protección sean precarias para los estudiantes.
Se recuerda que este fenómeno preocupante se ha vuelto cada vez más popular, como lo demuestran las búsquedas crecientes en Google Trends. Sin embargo, la falta de regulación y la dificultad para cuantificar el uso de estas imágenes manipuladas plantean un desafío importante para abordar este problema.