Instagram: los nuevos filtros de contenido contra la anorexia y la bulimia que la red social creó a raíz de una investigación de la BBC

Una investigación de la BBC reveló que, aunque la red social tiene una lista de hashtags que no se pueden usar por promover malos hábitos alimenticios, los usuarios logran pasarse por alto esos filtros de contenido.

Por eso la plataforma ha añadido algunos hashtags populares a la lista de etiquetas bloqueadas.

También ha agregado advertencias que explican el peligro de acceder a ciertos contenidos.

Por ejemplo, si buscas #loseweight (pierde peso) #anorexia o #bulimia, verás un mensaje antes de acceder a las publicaciones en el que se advierte que el contenido relacionado con esas palabras “puede causar daños e incluso llevar a la muerte”.

Si haces clic en “más información”, se abre una ventana (en inglés) que ofrece tres opciones:

• Hablar con un amigo
• Contactar una línea de ayuda
• Obtener consejos y apoyo

Pero si haces clic en “mostrar publicaciones” puedes acceder al contenido.

Listas ocultas

Desde su inicio, la red social para compartir fotos ha hecho que algunos términos no puedan ser buscados.

La idea es evitar que los usuarios accedan directamente a imágenes desagradables o chocantes, y también a posts que promueven trastornos alimenticios.

Sin embargo, la BBC descubrió que algunos términos que promocionan la bulimia todavía podrían buscarse y que Instagram incluso sugería opciones alternativas que usan las personas que tratan de fomentar esos hábitos.

En uno de los casos, la red social ofreció hasta 38 alternativas de un término popular entre bulímicos y anoréxicos en la plataforma.

En respuesta a la investigación, Instagram añadió todos esos hashtags y algunos otros relacionados con el tema a su lista de términos que no se pueden usar y colocó más advertencias.

La BBC no tuvo acceso a esa lista específica de etiquetas bloqueadas, pero Insgram aseguró que seguirá trabajando para restringir ese tipo de actividades en su sitio web.

“Problema complejo”

“No toleramos el contenido que fomenta los desórdenes alimenticios y usamos potentes herramientas y tecnologías -incluidas las denuncias a través de la app y aprendizaje automático– para ayudar a identificarlo y eliminarlo”, explicó un vocero de la compañía en un comunicado.

“No obstante, reconocemos que es un problema complejo y queremos que la gente que tiene problemas de salud mental pueda obtener apoyo en Instagram siempre y cuando lo necesiten”.

También dijo que la red social fue “más allá de simplemente eliminar el contenido y los hashtags” y que adoptó un “enfoque holístico” para que quienes miran este tipo de publicaciones cuenten con ayuda.

Una de las maneras en que los internautas se saltan los filtros de Instagram y otras redes sociales es escribir mal deliberadamente el nombre de la etiqueta que van a usar.

Instagram, al igual que la mayor parte de las redes sociales, no usa moderadores para buscar de manera proactiva el contenido que va contra sus normas. En lugar de eso, confía en que los usuarios denuncien ese contenido, y los moderadores revisan lo reportado.

“Mi trabajo me hizo aborrecer a la humanidad”
La agotadora rutina de los moderadores de Facebook que deben ver publicaciones de contenido violento

“Cuerpos demacrados”

Rose-Anne tuvo anorexia cuando tenía 17 años. Vio fotos en Instagram de gente que se autolesionaba y que describe como “angustiosas”.

“Había imágenes completas de cuerpos demacrados”, le contó a la BBC.

“Puede resulta bastante molesto ver esas imágenes, pero también pueden desencadenar trastornos alimentarios”.

Rose-Anne, quien se recuperó de la enfermedad, también descubrió que la plataforma le recomendaba hashtags para perder peso en su muro, a pesar de solo seguía cuentas relacionadas con la recuperación tras desórdenes alimenticios.

“Recibía sugerencias de contenido que incluían consejos para perder peso“, explica.

La experiencia de Rose-Anne demuestra la dificultad que tienen los algoritmos a la hora de personalizar la experiencia del usuario y detectar las diferencias entre sugerencias positivas y contenido potencialmente dañino.

Algunas organizaciones que ayudan a personas que sufren de anorexia y bulimia han pedido a las redes sociales más responsabilidad en lo que respecta a su política de contenido.

“La situación ideal es que el contenido no pueda buscarse y que sea eliminado, pero si la gente todavía puede buscar contenido dañino para su salud, al menos debería ver una advertencia”, le dijo a la BBC Tom Quinn, de Beat, una ONG británica especializada en ese tipo de trastornos.

Muchas de esas publicaciones siguen siendo accesibles. Algunos argumentan que eliminarlas no eliminará el problema y que entonces resultará todavía más difícil moderar ese contenido.

“Si no pueden encontrarlo en Instagram, lo buscarán en otros lados“, dice Quinn.

Instagram prohíbe en sus normas contenido que “promueva o glorifique los desórdenes alimenticios”.

“Los expertos con los que trabajamos nos dicen que la comunicación es la clave” dijo el vocero de Instagram. “Y que unir fuerzas para ofrecer ayuda y facilitar la recuperación es importante”.