Denuncian que Youtube recomienda videos sobre armas y tiroteos a niños

Una nueva investigación descubrió que la plataforma de Google sugiere videos sobre violencia armada a cuentas de menores de edad interesados en videojuegos.

Denuncian que Youtube recomienda videos sobre armas y tiroteos a niños
18 Mayo 2023

Youtube está en el ojo de la tormenta. Un estudio reveló que el algoritmo de la plataforma de Google recomendó cientos de videos sobre armas y violencia armada a cuentas de niños interesados en videojuegos. Algunos de los contenidos sugeridos, daban instrucciones sobre cómo convertir pistolas en armas automáticas o mostraban tiroteos en escuelas.

La investigación fue realizada por Tech Transparency Project (TTP), un proyecto sin fines de lucro que monitorea el trabajo de las grandes tecnológicas.

¿Cómo realizaron el análisis de los contenidos de Youtube?

Para este estudio, los investigadores crearon cuentas de Youtube: dos identificadas como niños de nueve años y dos identificadas como niños de 14 años. Luego simularon ser menores de edad a los que les gustaban los videojuegos, reproduciendo videos sobre la temática. Con la particularidad de que la mitad de los perfiles solo vio el material recomendado por la plataforma y el resto nunca interactuó con él.

El estudio reveló que el algoritmo de Youtube envió contenido sobre tiroteos y armas a todas las cuentas. Asimismo, revelaron que lo hizo en un mayor volumen a los usuarios que hicieron clic en los videos recomendados y, en algunos casos, hasta 10 veces más.

Uno de los videos recomendados mostraba a una niña sujetando una pistola. En otro, se veía a un hombre que usaba una pistola calibre .50 para dispararle a una cabeza ficticia, llena de sangre y cerebros realistas. El equipo registró también escenas reales que mostraban tiroteos en escuelas y otros eventos parecidos.

En cifras, YouTube envió 382 videos de armas de fuego reales a la cuenta que simulaba ser un niño de nueve años y que vio solo contenido recomendado. Todo en un mes, lo que sería un promedio de más de 12 por día. El volumen fue mucho mayor en los usuarios de 14 años: mostró 1.325 videos de armas de fuego reales, un promedio de más de 44 por día.

Las cuentas que ignoraron las sugerencias recibieron algunos videos relacionados con armas, pero en menor cantidad: 34 para las de nueve años y 172 para las de 14 años.

“Los videojuegos son una de las actividades más populares para los niños. Puedes jugar un juego como Call of Duty sin terminar en una tienda de armas, pero YouTube los está llevando allí”, dijo Katie Paul, directora de TTP. "No son los videojuegos, no son los niños. Son los algoritmos", puntualizó.

Tamaño texto
Comentarios
Comentarios