Las empresas de redes sociales han sido objeto de críticas por no hacer lo suficiente para proteger de extorsión sexual a los menores en sus plataformas.
Instagram empezará a probar nuevas funciones destinadas a "proteger a los jóvenes de la sextorsión y el abuso de imágenes íntimas".
La extorsión sexual o "sextorsión" es una forma de chantaje que consiste en coaccionar a alguien para que comparta fotos o vídeos sexualmente explícitos y utilizarlos para amenazar o explotar a alguien.
Una de las nuevas herramientas que implementará Instagram detectará y difuminará las imágenes que contengan desnudos y avisará a las personas para que se lo piensen dos veces antes de enviarlas. Esta función se activará por defecto en Instagram para los menores de 18 años.
Cómo funciona la herramienta de protección contra desnudos
Cuando la herramienta de "protección contra desnudos" esté activada, los usuarios recibirán un mensaje instándoles a "tener cuidado al compartir fotos sensibles".
También podrán retirar las fotos que ya hayan enviado y que contengan desnudos. Cuando alguien reciba una foto desnudo, aparecerá difuminada con una advertencia de que la imagen "puede contener desnudos".
La herramienta utiliza el aprendizaje automático para analizar si la imagen contiene desnudos.
"Como las imágenes se analizan en el propio dispositivo, la protección contra desnudos funcionará en chats cifrados de extremo a extremo, en los que Meta no tendrá acceso a estas imágenes, a menos que alguien decida informarnos de ellas", explica Instagram, propiedad de Meta, de Mark Zuckerberg, en una entrada de su blog.
Las otras características incluyen nuevas notificaciones enviadas a las personas que puedan haber interactuado con una cuenta eliminada por extorsión sexual, así como ocultar el botón de mensajes en los perfiles de los jóvenes a posibles cuentas que se dediquen a la extorsión sexual.
Medida bien recibida por IWF
Susie Hargreaves, directora ejecutiva de la organización británica Internet Watch Foundation (IWF), afirmó en un comunicado facilitado a 'Euronews' Next que la extorsión sexual puede tener "repercusiones horrendas" y que la organización sin ánimo de lucro aplaude "cualquier esfuerzo de las empresas tecnológicas para salvaguardar" a los menores que utilizan las redes sociales.
"Sin embargo, aunque la nueva herramienta es un paso bienvenido por Meta, cualquier beneficio potencial se verá socavado por su decisión de desplegar el cifrado de extremo a extremo en sus canales de mensajería", añadió Hargreaves.
"Al hacerlo, está haciendo voluntariamente la vista gorda ante los abusos sexuales a menores. Se puede y se debe hacer más para proteger a los millones de niños que utilizan los servicios de Meta".
Aumento reciente de la sextorsión
En un informe publicado en enero, el Network Contagion Research Institute afirmaba que la sextorsión financiera estaba creciendo a un ritmo alarmante.
El informe añadía que Instagram era la plataforma más común para captar víctimas porque los chantajistas podían obtener información personal sobre las personas rápidamente.
Snapchat, por su parte, era la plataforma más utilizada para coaccionar a las personas para que enviaran fotos comprometedoras.
En 2023, la Comisión Europea envió solicitudes a Meta y Snap, la empresa matriz de Snapchat, para que facilitaran más información sobre las medidas que habían adoptado para proteger a los menores, un requisito que exige la Ley de Servicios Digitales.
Las empresas de redes sociales han sido criticadas en repetidas ocasiones por no proteger a los menores en Internet.
En una comparecencia ante el Senado estadounidense a principios de año, Mark Zuckerberg, Consejero Delegado de Meta, pidió disculpas a los padres que afirmaban que las redes sociales habían perjudicado a sus hijos.
Dijo que nadie "debería pasar por lo que ustedes y sus familias han sufrido".
Las instituciones de la UE, por su parte, están estudiando nuevas leyes sobre contenidos de abuso sexual infantil que obligarían a las empresas a impedir la difusión de este tipo de material. Sin embargo, han sido objeto de debate por motivos de privacidad.
Esta semana, los legisladores de la UE votaron a favor de ampliar hasta 2026 una exención actual a las normas de privacidad que permite a las plataformas detectar material de abuso sexual infantil.