YouTube está cerca de 1.000 millones de usuarios activos: eso es, aproximadamente, el 12% de la población mundial. Siguiendo la célebre enseñanza en Spider-Man, es sabido que grandes poderes implican grandes responsabilidades. Por eso, no sorprende que la plataforma de videos de Google vuelva a estar bajo escrutinio. En este caso, un fiscal en Estados Unidos acusa al portal de mostrar a menores de edad tutoriales para fabricar armas caseras.
YouTube, en la mira de la justicia por recomendar videos para fabricar armas
Alvin Bragg, un fiscal de distrito de Manhattan, en Nueva York, Estados Unidos, solicitó una reunión con el director ejecutivo de YouTube, Neal Mohan. Según informa Engadget, el propósito del funcionario es discutir por qué el portal permite la publicación de videos que muestran cómo fabricar las denominadas "armas fantasma". Además, indagar a la compañía acerca de los algoritmos del sitio que recomiendan ese contenido en cuentas de nenes.
De acuerdo a la fuente, las armas fantasma son modelos funcionales que se fabrican con piezas creadas con impresoras 3D y con componentes que se comercializan en kits. Se las llama de ese modo porque no tienen un número de serie y, en tanto, son casi imposibles de rastrear. La problemática es grande, ya que no se necesita la presentación de permisos para adquirirlas.
En una carta que envió el fiscal a los representantes de YouTube se menciona un estudio realizado por el grupo Tech Transparency Project, en 2023, que realizó pruebas para comprobar que, efectivamente, el portal de Google recomienda ese tipo de videos a menores de edad. Para ello, se crearon cuentas de niños entre 9 y 14 años. ¿Qué ocurrió? Cuando los perfiles buscaron contenido relacionado a los videojuegos, el algoritmo del sitio recomendó los instructivos para crear armas. Además, aparecieron clips con escenas violentas, como tiroteos en escuelas y asesinatos, incluso si la plataforma identificaba que al otro lado de la pantalla había menores.
Según Bragg, muchos jóvenes investigados por posesión de armas en Nueva York reconocieron que aprendieron a fabricarlas en YouTube. En vista de ello, el funcionario de justicia señaló que Google —dueño del portal— debería ser más proactivo a la hora de eliminar esos videos, y no solo esperar los reportes y denuncias. Además, indicó que debería existir una forma de bloquearlos desde la configuración del portal.
"Creemos que estas medidas son imperativas para la seguridad pública, para proteger a los residentes de la ciudad de Nueva York, y especialmente a nuestros niños", escribó Bragg en su carta, que puede leerse completa en este enlace (en inglés).
En declaraciones a New York Daily News, representantes de YouTube dijeron que "revisarán cuidadosamente" los videos mencionados por Bragg, aunque remarcaron que "eliminan cualquier contenido que viole las políticas del portal", incluyendo aquellos que enseñan a fabricar armas.