Las aplicaciones de redes sociales tienen una trayectoria predecible. Muchas de ellas empiezan siendo útiles o solo pura divertirse. Sin embargo, cuando su popularidad alcanza cierto nivel, casi todas se vuelven también un lugar para debates relevantes sobre política y temas sociales. Y con esto llegan tanto las conversaciones significativas como una letanía de mezquindad.

Esta realidad ha llegado a TikTok. Una aplicación mejor conocida por tener videos de bailes virales se ha vuelto una fuente significativa de desinformación política y social, como lo detalló mi colega Tiffany Hsu en un artículo reciente.

Antes de la reciente elección presidencial en Kenia, una publicación muy compartida en TikTok mostraba una imagen modificada y violenta de uno de los candidatos con una leyenda que lo describía como un asesino (la publicación fue eliminada después de un tiempo). Según lo informó Tiffany, las mentiras sobre dietas y los tiroteos en las escuelas se pueden propagar con facilidad en la aplicación, al igual que variaciones sobre la conspiración del PizzaGate.

Y por el lado serio aunque no terrible, los políticos estadounidenses y sus aliados están usando TikTok para difundir sus mensajes de campaña y promover políticas como el Crédito Tributario por Hijos.

Tal vez esto no sea precisamente lo que tiene en mente TikTok. Los ejecutivos continúan describiendo TikTok como una aplicación de entretenimiento. Y, claro está, la mayoría de la gente usa TikTok, Facebook, Pinterest, Nextdoor, YouTube y Twitch de una manera divertida, productiva e informativa.

No obstante, es inevitable que las aplicaciones deban hacer planes para lo que va a salir mal cuando, con el tiempo, las conversaciones en línea incluyan toda la dimensión de los intereses humanos. Esto incluirá información política y movimientos de activistas sociales, así como insultos desagradables e incluso la incitación a la violencia y la venta de productos falsos para obtener ganancias financieras.

“Es el ciclo de la vida de una plataforma de contenido generada por los usuarios que, una vez que alcanza una masa crítica, se topa con problemas de moderación de contenido”, comentó Evelyn Douek, profesora adjunta de la Escuela de Derecho de la Universidad de Stanford, cuya investigación se enfoca en el discurso en línea.

Por supuesto que lo complicado es cómo manejar las aplicaciones que evolucionan de “¡Solo nos interesa la diversión!” a “Nos tomamos en serio nuestra responsabilidad”. (TikTok dijo eso casi con las mismas palabras en su publicación de blog el miércoles).

Pinterest es mejor conocida por tener publicaciones lindas de planeación de bodas o inspiración para comidas, pero también tiene políticas para extirpar la información falsa sobre las vacunas y dirige a la gente a fuentes confiables cuando busca términos relacionados con autolesiones. Roblox es un bobo mundo virtual, pero también toma precauciones —como exhortar a las personas a “ser amables”— en caso de que niños y jóvenes adultos quieran usar la aplicación para realizar actos perjudiciales como intimidar a alguien.

TikTok sabe que la gente usa la aplicación para hablar sobre política y movimientos sociales y con eso llegan riesgos potenciales. El miércoles, TikTok reveló sus planes para proteger las elecciones estadounidenses de 2022 de la propaganda dañina y los rumores no corroborados.

Se puede debatir si TikTok es más o menos eficaz en el manejo de los humanos que Facebook y YouTube. Y también lo puede ser la pregunta en torno a si los estadounidenses deberían sentirse cómodos con una aplicación de propiedad china que influye en las conversaciones de la gente.

Para ser honesta, me parece pésimo que todas las aplicaciones deban realizar planes para lo peor de la condición humana. ¿Por qué en Twitch no solo se puede disfrutar viendo a la gente que juega videojuegos, sin aficionados que abusen de la aplicación para acosar a sus estrellas? ¿Por qué los vecinos no pueden coordinar cómo se debe recoger a los niños en el autobús de la escuela en Nextdoor sin que el sitio también tenga caracterización racial o vigilantismo? ¿TikTok no solo puede ser para pasar un buen rato?

Lo siento, pero no. Mezclar gente con sistemas computarizados que centran la atención en el material más persuasivo amplificará lo mejor y lo peor de nosotros.

Le pregunté a Douek qué debíamos pensar sobre la existencia de rumores y falsedades en línea. Sabemos que no creemos cualquier ridiculez que oímos o vemos, ya sea en una aplicación o en conversaciones en nuestro lugar favorito para almorzar. Además, puede ser agotador y contraproducente quejarse de todos los videos manipulados o las mentiras sobre las elecciones en línea. También es contraproducente sentir tanta inseguridad sobre lo que debemos creer que no confiemos en nada. Algunos días todo esto se siente terrible.

Douek me convenció de no hacerle caso a ese fatalismo y enfocarme en la necesidad de un plan de reducción de daños para la vida digital. Esto no quiere decir que nuestras únicas opciones sean que cada una de las aplicaciones se llene de basura o que haya un control gubernamental sobre el contenido del internet al estilo de los chinos. Hay más de dos opciones.

“Desde que existen las reglas, las personas las han violado. Pero esto no quiere decir que las plataformas no deban intentar mitigar el daño al que contribuyen sus servicios y crear una esfera pública más sana, en vez de una más dañina”, comentó Douek.

Con esta nformación llegan tanto las conversaciones significativas como una letanía de mezquindad.

Esta realidad ha llegado a TikTok. Una aplicación mejor conocida por tener videos de bailes virales se ha vuelto una fuente significativa de desinformación política y social, como lo detalló mi colega Tiffany Hsu en un artículo reciente.

Antes de la reciente elección presidencial en Kenia, una publicación muy compartida en TikTok mostraba una imagen modificada y violenta de uno de los candidatos con una leyenda que lo describía como un asesino (la publicación fue eliminada después de un tiempo). Según lo informó Tiffany, las mentiras sobre dietas y los tiroteos en las escuelas se pueden propagar con facilidad en la aplicación, al igual que variaciones sobre la conspiración del PizzaGate.

Y por el lado serio, aunque no terrible, los políticos estadounidenses y sus aliados están usando TikTok para difundir sus mensajes de campaña y promover políticas como el Crédito Tributario por Hijos.

Tal vez esto no sea precisamente lo que tiene en mente TikTok. Los ejecutivos continúan describiendo TikTok como una aplicación de entretenimiento. Y, claro está, la mayoría de la gente usa TikTok, Facebook, Pinterest, Nextdoor, YouTube y Twitch de una manera divertida, productiva e informativa.

No obstante, es inevitable que las aplicaciones deban hacer planes para lo que va a salir mal cuando, con el tiempo, las conversaciones en línea incluyan toda la dimensión de los intereses humanos. Esto incluirá información política y movimientos de activistas sociales, así como insultos desagradables e incluso la incitación a la violencia y la venta de productos falsos para obtener ganancias financieras.

LE RECOMENDAMOS

TikTok introduce filtro de contenidos y clasificación por edad

Cuáles son las prácticas más peligrosas en Facebook, Instagram, Twitter, LinkedIn, TikTok y WhatsApp en donde te pueden hackear

“Es el ciclo de la vida de una plataforma de contenido generada por los usuarios que, una vez que alcanza una masa crítica, se topa con problemas de moderación de contenido”, comentó Evelyn Douek, profesora adjunta de la Escuela de Derecho de la Universidad de Stanford, cuya investigación se enfoca en el discurso en línea.

Por supuesto que lo complicado es cómo manejar las aplicaciones que evolucionan de “¡Solo nos interesa la diversión!” a “Nos tomamos en serio nuestra responsabilidad”. (TikTok dijo eso casi con las mismas palabras en su publicación de blog el miércoles).

Pinterest es mejor conocida por tener publicaciones lindas de planeación de bodas o inspiración para comidas, pero también tiene políticas para extirpar la información falsa sobre las vacunas y dirige a la gente a fuentes confiables cuando busca términos relacionados con autolesiones. Roblox es un bobo mundo virtual, pero también toma precauciones —como exhortar a las personas a “ser amables”— en caso de que niños y jóvenes adultos quieran usar la aplicación para realizar actos perjudiciales como intimidar a alguien.

TikTok sabe que la gente usa la aplicación para hablar sobre política y movimientos sociales y con eso llegan riesgos potenciales. El miércoles, TikTok reveló sus planes para proteger las elecciones estadounidenses de 2022 de la propaganda dañina y los rumores no corroborados.

Se puede debatir si TikTok es más o menos eficaz en el manejo de los humanos que Facebook y YouTube. Y también lo puede ser la pregunta en torno a si los estadounidenses deberían sentirse cómodos con una aplicación de propiedad china que influye en las conversaciones de la gente.

Para ser honesta, me parece pésimo que todas las aplicaciones deban realizar planes para lo peor de la condición humana. ¿Por qué en Twitch no solo se puede disfrutar viendo a la gente que juega videojuegos, sin aficionados que abusen de la aplicación para acosar a sus estrellas? ¿Por qué los vecinos no pueden coordinar cómo se debe recoger a los niños en el autobús de la escuela en Nextdoor sin que el sitio también tenga caracterización racial o vigilantismo? ¿TikTok no solo puede ser para pasar un buen rato?

Lo siento, pero no. Mezclar gente con sistemas computarizados que centran la atención en el material más persuasivo amplificará lo mejor y lo peor de nosotros.

Le pregunté a Douek qué debíamos pensar sobre la existencia de rumores y falsedades en línea. Sabemos que no creemos cualquier ridiculez que oímos o vemos, ya sea en una aplicación o en conversaciones en nuestro lugar favorito para almorzar. Además, puede ser agotador y contraproducente, quejarse de todos los videos manipulados o las mentiras sobre las elecciones en línea. También es contraproducente sentir tanta inseguridad sobre lo que debemos creer que no confiemos en nada. Algunos días todo esto se siente terrible.

Douek me convenció de no hacerle caso a ese fatalismo y enfocarme en la necesidad de un plan de reducción de daños para la vida digital. Esto no quiere decir que nuestras únicas opciones sean que cada una de las aplicaciones se llene de basura o que haya un control gubernamental sobre el contenido del internet al estilo de los chinos. Hay más de dos opciones.

“Desde que existen las reglas, las personas las han violado. Pero esto no quiere decir que las plataformas no deban intentar mitigar el daño al que contribuyen sus servicios y crear una esfera pública más sana, en vez de una más dañina”, comentó Douek.