9/06/2023

¿Instagram promovía la pedofilia?

Un estudio de The Wall Street Journal junto a la Universidad de Stanford y de Massachusetts Amherst asegura que el algoritmo permitía conectar a usuarios a la venta de material explícito de menores. 

El material sexual infantil es un tema que preocupa a todos los países y es más común de lo que llegamos a imaginar. Imaginamos que es una cuestión de la Deep Web, cuando en realidad este contenido se distribuye por redes sociales comoInstagram, Facebook, Twitter; y apps de mensajería como Telegram e incluso WhatsApp. Tal es así que, recientemente, un estudio de The Wall Street Journal junto a la Universidad de Stanford y de Massachusetts Amherst descubrió cuestiones en el algoritmo que muestran el lado oscuro de estas tecnologías. 

Los sistemas de recomendación de Instagram -red más usada por adolescentes- que forma parte de Meta, tienen el objetivo de vincular a aquellos que comparten intereses de nicho y mediante este algoritmo los pedófilos encuentran fácilmente a los vendedores de contenido sexual de menores. El alcance es tal que, según el análisis de WSJ, más del 90% de las cuentas que venden material ilegal están conectadas entre sí a través de estas recomendaciones. Además, el 75% de estas cuentas también siguen o son seguidas por usuarios que publican imágenes o videos sexualmente explícitos de niños o adolescentes.

Además, la red social permitía buscar hashtags explícitos sobre el tema. Las palabras en código conocidas (incluso por los algoritmos) para nombrar este material ilícito circulan sin problemas en un microclima en el que se ofrecen “menús” de contenido que incluyen  se encuentran precios de videos de niños que se autolesionan e “imágenes del menor practicando actos sexuales con animales”, afirmó el Observatorio de Internet de Stanford.

La red social, ante estas búsquedas, daba dos opciones: “Obtener recursos” y “Ver resultados de todos modos”. Ante la denuncia del periodico, Instagram eliminó la opción para que los usuarios vean los resultados de búsqueda de términos que probablemente produzcan imágenes ilegales. La compañía se negó a decir por qué había ofrecido la opción explicando que sus sistemas no son perfectos y que dependen en gran medida de las denuncias de los usuarios para actuar.