Por Dan Milmo Editor de tecnología global, Theguardian
Meta de Mark Zuckerberg se disculpó después de que los usuarios de Instagram fueran sometidos a una avalancha de violencia, sangre, maltrato animal y cadáveres en sus feeds de Reels.
Los usuarios reportaron las imágenes luego de un aparente mal funcionamiento del algoritmo de Instagram, que selecciona lo que la gente ve en la aplicación.
Reels es una función de la plataforma de redes sociales que permite a los usuarios compartir videos cortos, similar a TikTok.
Un foro de Instagram en Reddit , la plataforma de discusión en línea, contenía publicaciones de usuarios que hacían referencia al material gráfico que había aparecido en sus feeds a mitad de semana.
Un usuario del subreddit escribió: “Acabo de ver morir al menos a 10 personas en mis reels”.
Los usuarios también mencionaron un vídeo en el que un elefante aplasta a un hombre. Otros mencionaron imágenes de un hombre desmembrado por un helicóptero y un vídeo en el que “un tipo se metió la cara en aceite hirviendo”. Varios usuarios publicaron vídeos de sus feeds de Reels dominados por pantallas de “contenido sensible” diseñadas para proteger a los usuarios de material gráfico.
Una lista de contenido violento en el feed de un usuario, publicada por el sitio de noticias tecnológicas 404 , incluía: un hombre al que le prendieron fuego; un hombre que le disparó a un cajero a quemarropa; videos de una cuenta llamada “PeopleDeadDaily”; y un cerdo al que golpearon con una llave inglesa. El usuario en cuestión tenía una cuenta de Instagram relacionada con el ciclismo, informó 404 Media.
Otro usuario de Reddit escribió: “Durante las últimas 24 horas, parece que el algoritmo de Instagram se ha vuelto loco. Mi feed está repleto de Reels violentos, uno tras otro.
“Es como si Instagram ahora estuviera intentando hacerme cuestionar si seguí accidentalmente una cuenta de ‘caos y derramamiento de sangre’. Entiendo que la plataforma se trata de ‘interacción’ y ‘tendencias’, pero ¿realmente pensaron que esta era la manera de lograr que la gente se desplazara más por la página?”
Un portavoz de Meta , la empresa matriz de Instagram y Facebook, dijo: “Hemos corregido un error que provocaba que algunos usuarios vieran contenido en su feed de Instagram Reels que no debería haber sido recomendado. Pedimos disculpas por el error”.
El error surge tras los cambios recientes en el enfoque de Meta para la moderación de contenido . Sin embargo, la compañía le dijo a 404 Media que la avalancha de videos gráficos no estaba relacionada con la revisión de las reglas de contenido de Meta , que incluían la eliminación de verificadores de datos y la reducción “drástica” de la cantidad de censura en sus plataformas.
Las pautas de contenido de Meta establecen que la empresa eliminará contenido que sea “particularmente violento o explícito” y que algunas imágenes estarán protegidas por pantallas de contenido sensible. En el Reino Unido, la Ley de Seguridad en Línea requiere que las plataformas de redes sociales tomen medidas para evitar que los menores de 18 años vean material que sea perjudicial para ellos, como material violento, odioso o abusivo, lo que incluirá configurar sus algoritmos para filtrar dicho contenido.
Un grupo de campaña de seguridad en Internet exigió una “explicación completa” de lo que había sucedido con el algoritmo de Instagram.
La Fundación Molly Rose, creada por la familia de la adolescente británica Molly Russell, que se suicidó en 2017 después de ver contenido angustiante en Instagram , dijo que era necesario responder preguntas sobre por qué ese contenido gráfico estaba en la plataforma en primer lugar.
“El hecho de que Instagram reduzca la moderación de contenido probablemente sea una señal de lo que está por venir”, dijo Andy Burrows, director ejecutivo de la fundación. “Los cambios de Meta significarán que este tipo de contenido estará disponible de forma más libre y se recomendará con más frecuencia que aparezca en los feeds de los usuarios”.
