Hace tiempo hablamos de YouTube azul y YouTube naranja como un código usado en etiquetas de vídeos de TikTok para dirigir a menores, a dos webs pornográficas cuyo logo coincide con estos dos colores. Desde entonces la popular página de vídeos de Google se ha esmerado por dificultar el acceso de menores a contenido censurable y ha lanzado YouTube Kids, una página exclusiva donde el contenido que se publica debe pasar medidas mucho más específicas. Pero "hecha la ley, hecha la trampa" y ahora parece que basten dos emoticonos para acceder a contenido explícito en YouTube.
Las alarmas saltaron en Twitter cuando una maestra de educación primaria alertó sobre esta práctica que le confesaron sus propios alumnos.
Vengo a compartir una alerta sobre algo que me han contado mis alumnos y alumnas de Primaria acerca de contenido violento que resulta accesible para cualquiera, especialmente para menores, en nada menos que Youtube.
— Paula Bloom (@BlooomPaula) April 23, 2024
Hilo sobre cómo el algoritmo ni lo detecta ni lo censura⚠️⚠️⚠️
En el caso que relata el hilo, se habla de dos emoticonos:😳😘. Una vez los ponemos en el área de búsqueda, las primeras imágenes que se ven no son las más adecuadas para menores: escenas de contenido sexual (no explícito pero sí claro), una exageración de los atributos físicos (femeninos y masculinos) y vídeos claramente violentos.
A eso hay que sumarle que cuando los abrimos al contenido también se ven expresiones, imágenes y términos que normalizan actitudes y prácticas violentas. Algo en absoluto adecuado para que los menores vean sin supervisión y sin ninguna explicación.
¿Cómo es posible esto? Lo que nosotros escribimos en las páginas web es lo que vemos, pero no es lo que "lee" el sistema, mucho más sencillo, pero en otro lenguaje. Y en este caso los emoticonos se interpretan como signos de puntuación y números que YouTube no vincula a contenido censurable.
La buena noticia es que en YouTube Kids, esto no funciona y el contenido sigue siendo adecuado. La mala es que es algo que no se puede solucionar con control parental. Tampoco se ve en el historial, ya que en la búsqueda solo veremos emoticonos y pensaremos que no pasa nada malo.
Esto presenta una importante oportunidad para hablar con nuestros hijos e hijas sobre este tema, de manera clara y adecuada a su edad, tanto si tienen acceso a un móvil como si lo tiene algún amigo, amiga o alguien menor también y de su círculo familiar.
Hay cientos de emojis que pueden utilizar y la combinación y la posibilidad de "jugar" con ellos determinará las imágenes que veamos como resultados. Así, el mítico apelativo de "nativos digitales" no tiene sentido en este caso porque no saben cómo reaccionar… aunque su curiosidad les incline a avanzar. Aquí es cuando el diálogo es importante.
✕