La era de los deepfakes comenzó. Lo que al principio pudo ser una broma cuando vimos al Papa vestido de Balenciaga, hoy genera preocupación. Estas imágenes falsas están inundando las redes sociales sin criterio alguno y con mucha velocidad. Y para las mujeres esto es aún más preocupante. Ya vimos casos en los que desundos falsos de celebridades generados por la inteligencia artificial se hicieron virales como, por ejemplo, de Taylor Swift o Rosalía. Por más que hayan intentado bajarlas, una imagen que llega a internet es casi imposible de eliminar y la angustia de que esto exista, también. Una nueva modalidad de abuso digital ya está vigente.
O al menos así lo reporta The New York Times, que visibilizó el caso de una escuela secundaria en Nueva Jersey donde adolescentes de alrededor de 14 años estaban usando herramientas de esta tecnología para crear imágenes sexuales explícitas de sus compañeras y difundirlas, obviamente sin consentimiento. Además, no se trata de un caso puntual, sino que se registró en varios estados en el país norteamericano, según confirman reportes de policías y colegios.
A su vez, se han registrado este tipo de prácticas en escuelas en Europa, específicamente en España, de acuerdo con Euronews. Las menores denuncian que la personas que generan estas fotos, en general sus compañeros de curso, en una primera instancia les piden plata y, en cuanto ellas se niegan, les mandan sus imágenes explícitas como consecuencia o como amenaza.
Estas fotos, por más falsas que resultan, pueden generar grandes consecuencias psicológicas y sociales. Más teniendo en cuenta que la inteligencia artificial cada día se vuelve más capaz y, en efecto, genera resultados más verosímiles.
"El ciberacoso puede causar una serie de efectos negativos en la salud mental de las víctimas, que van desde la ansiedad y el aislamiento hasta la ideación suicida y los trastornos de estrés postraumático", nos explica Candela Arregui, psicóloga especializada en adolescentes y adultos.
En Argentina, hubo un caso que marcó un antes y después. Belén San Román se quitó la vida después de que imágenes suyas se difundieran sin su consentimiento. Si bien la inteligencia artificial no estaba en el medio como un actor, es una clara evidencia de hasta dónde puede llegar el impacto en la vida de la víctima.
"Ya no hay dudas de que lo digital es real", manifiesta para RED/ACCIÓN María Julia Giorgelli, abogada especialista en protección de datos personales. "Desde la Defensoría tenemos mucho trabajo en la temática. También es fundamental involucrar a las plataformas y desarrolladores para que trabajen en pos de la seguridad de las internautas", profundiza.
En materia legal, la profesional comenta que en Argentina el año pasado se sentenció la Ley Olimpia, una restructuración de la normativa de Protección Integral contra Mujeres en la cual se reconoce al abuso digital como un modo de violencia. Sin embargo, aclara que es una reforma nueva que falta implementar y también sugiere que se deberían pensar normas particulares para la IA que consideren la penalidad, ya que no existen.
Los padres y las escuelas, una punta clave del conflicto
Adriana Grande, médica psiconalista especializada vínculos padres e hijos, considera que hoy el mundo está ante un nuevo instrumento que los chicos (ni nadie) saben cómo usar. "En ese proceso, hay desbordes", puntualiza en diálogo con RED/ACCIÓN. "La responsabilidad de los adultos es máxima: por más de que no sepan manejar la inteligencia artificial, sí saben que no puede haber un abuso digital", profundiza.
En este sentido, la experta comenta que los mayores pueden encaminar a los estudiantes desde el lado de la ética. Para ello, hay que ponerle un marco al accionar de estos jóvenes, poner las reglas del juego: la esencial es nunca irrumpir en el cuerpo del otro. Asimismo, hace referencia a la necesidad de educación multidisciplinaria en la que haya contención y enseñanza, desde psicológica hasta tecnológica.
A su vez, Arregui comenta que las instituciones educativas juegan un papel crucial en la prevención de este tipo de abusos digitales. "Proporcionando educación sobre seguridad en internet y concientizando sobre los riesgos asociados con el uso de la tecnología se logran evitar casos de víctimas", detalla.
En esta línea, sugiere que los programas de educación digital deberían incluir información sobre la privacidad, el manejo de la información personal, el ciberacoso y la prevención de cada uno de los tipos de violencia digital que se pueden dar. Así como también una colaboración directa entre los padres o tutores de los estudiantes con la institución educativa para desarrollar políticas y programas que promuevan un entorno seguro y saludable en línea para los estudiantes.