En un mundo donde la virtualidad y las comunicaciones globalizadas son fundamentales y tienen un impacto inmediato directo alrededor del mundo, la plataforma más popular de videos quedó nuevamente en el ojo de la tormenta y sometida a escrutinio. YouTube, la plataforma de contenido audiovisual de Google, es ampliamente usada con casi 1.000 millones de usuarios activos, lo que representa un porcentaje significativo de la población mundial.
Sin embargo, ser líder implica también estar bajo la mirada constante y tener que responder ante las responsabilidades que acarrean los efectos por el contenido difundido y el impacto concreto en los usuarios. En el caso puntual, mucho más por estar involucrados menores de edad entre los perjudicados.
Esta vez, la controversia se da en el marco de una investigación impulsada por la Justicia de Estados Unidos que imputa a la plataforma por incurrir en la difusión para su consumo por menores de edad de tutoriales para la fabricación de armas caseras. El portal quedó envuelto en una problemática que preocupa al mundo: la proliferación de las denominadas "armas fantasma". Cabe señalar que este tipo de armas de fuego, por su fabricación casera o por ser creadas con piezas ensambladas, hacen complicado el rastreo.
Según reporta Engadget, el portal especializado en noticias tecnológicas, Alvin Bragg, fiscal del distrito de Manhattan se encuentra investigando a la plataforma de Google, en el entendimiento que YouTube ha estado promocionando y difundiendo tutoriales entre su público menor de edad, referido a la fabricación casera de armas.
Videojuegos y armas caseras reales
En el marco de la investigación surgió una prueba que apunta directo a YouTube, indicando que habría "recomendado vídeos sobre fabricación de armas a niños" que son habituales usuarios y consumidores de contenido de videojuegos, reporta el portal. Alvin Bragg, fiscal a cargo de la investigación "quiere reunirse con el director ejecutivo de YouTube, Neal Mohan, para discutir por qué el sitio web permite la publicación de vídeos sobre cómo fabricar 'armas fantasma' y por qué su algoritmo los está empujando a los espectadores menores de edad que ven contenido de videojuegos", señala la fuente.
Destaca el sitio la peligrosidad de este tipo de armas, remarcando que "las armas fantasma son armas de fuego ensambladas utilizando piezas impresas en 3D o componentes comprados como kits. Eso significa que no tienen números de serie, lo que las hace casi imposible de rastrear, y no se necesita ningún tipo de verificación de antecedentes para adquirirlas"
También confirma la fuente que mediante una carta que el fiscal envió al representante de You Tube, solicitó una reunión y, además "hizo referencia a un estudio realizado por Tech Transparency Project en 2023, en el que se crearon cuatro cuentas de prueba de YouTube y se les proporcionó los perfiles de niños de 14 y 9 años" Y agregó que pudo confirmarse que "después de reproducir al menos 100 videos de juegos, el algoritmo de YouTube comenzó a recomendarles videos instructivos sobre cómo hacer armas fantasma".
Este informe reveló los resultados que confirmaron la sospecha inicial respecto a esta recomendación a niños por parte de la plataforma. Lo que destaca como alarmante el sitio es respecto a los trascendidos de la investigación es que "YouTube subía contenido de armas reales a las cuentas de menores, así como otros videos con imágenes de violencia, como tiroteos en escuelas y asesinos en serie, incluso si se suponía que eran menores".
Escuela para la delincuencia
Un punto muy relevante en el que el fiscal hizo énfasis es que en el manejo de la plataforma de videos "los tutores no tienen forma de desactivar las recomendaciones del sitio web en los controles parentales". Asimismo, en la carta señaló que "muchos jóvenes investigados por posesión de armas en la ciudad de Nueva York dijeron que aprendieron a fabricar armas fantasma en YouTube".
Si bien el portal elimina esos videos cuando son señalados por grupos de seguridad de armas, el fiscal remarcó que "YouTube debería ser más proactivo a la hora de eliminarlos, debería asegurarse de bloquear su carga en el futuro y brindar a los espectadores una forma de desconectarlos". Tiene mayor eco esta investigación, al tratarse de un portal sospechado por una práctica que la misma compañía condena. De hecho la plataforma prohíbe específicamente subir videos con la finalidad de promover la venta de armas de fuego o instruir a los usuarios sobre cómo fabricarlas.
Por su parte YouTube dio una respuesta al New York Daily News, y mediante un comunicado anunció que "revisará cuidadosamente" los videos que el fiscal se encuentra investigando. Además la compañía se mostró comprometida a "eliminar cualquier contenido que viole sus políticas", según reportó Engadget.
El informe que disparó la investigación
Los puntos clave y resultados del estudio del Tech Transparency Project (TTP), señalan la necesidad de plantearse nuevas preguntas sobre la seguridad del sistema de recomendaciones de la plataforma de videos investigada.
El portal de videos habría incurrido en recomendaciones de cientos de vídeos sobre armas y violencia armada a cuentas para niños interesados en los videojuegos; instrucciones sobre cómo convertir armas en armas automáticas e imágenes mostrando tiroteos en escuelas; mayor difusión de contenido relacionado con armas y disparos en las cuentas de jugadores que consumieron los videos recomendados. Además, se detectó la total ausencia de medidas para restringir por edades el acceso a videos sobre armas de fuego y violencia, ello incluso en contra de sus propias políticas.
El informe destacó que "YouTube también recomendó una película sobre el asesino en serie Jeffrey Dahmer a cuentas de menores de edad".
VF FM