Uno de cada diez usuarios de Reddit comparte publicaciones tóxicas, sugieren investigadores

Una investigación sugiere que más de uno de cada diez usuarios de Reddit hace publicaciones tóxicas y un número similar publica comentarios tóxicos, según un nuevo análisis de la red social.

Los investigadores analizaron más de dos mil millones de publicaciones y comentarios de los Redditors (más de 87 millones de publicaciones y 2.205 mil millones de comentarios realizados por más de 1,2 millones de usuarios) y descubrieron que el 16,11 por ciento de los usuarios comparten publicaciones tóxicas y el 13,28 por ciento de los usuarios publican comentarios tóxicos.

De estos usuarios, el 30,68 por ciento de los usuarios que hicieron publicaciones y el 81,67 por ciento de los usuarios que comentaron, adaptaron cuán tóxicos eran en diferentes subreddits (foros particulares en la plataforma), lo que sugiere que los usuarios están adaptando de forma activa su comportamiento a las normas de las comunidades.

Estos investigadores creen que la toxicidad en la red social puede detenerse al limitar los subreddits en los que pueden participar los usuarios.

“Un desafío al estudiar la toxicidad en línea es la multitud de formas que toma, incluido el discurso de odio, el acoso y el ciberacoso. El contenido tóxico a menudo contiene insultos, amenazas y lenguaje ofensivo que, a su vez, contaminan las plataformas en línea”, dijeron en un comunicado los autores, Hind Almerekhi, el Dr. Haewoon Kwak y el profesor Bernard J. Jansen.

“Varias plataformas en línea han implementado mecanismos de prevención, pero estos esfuerzos no son lo bastante grandes para frenar el rápido crecimiento de contenido tóxico en las plataformas en línea. Estos desafíos requieren el desarrollo de soluciones automáticas o semiautomáticas efectivas para detectar la toxicidad de una gran cantidad de contenido en plataformas en línea”.

“Monitorear el cambio en la toxicidad de los usuarios puede ser un método de detección temprana de toxicidad en las comunidades en línea. La metodología propuesta puede identificar cuándo los usuarios exhiben un cambio al calcular el porcentaje de toxicidad en publicaciones y comentarios. Este cambio, combinado con el nivel de toxicidad que nuestro sistema detecta en las publicaciones de los usuarios, puede usarse de manera eficiente para detener la diseminación de la toxicidad”.

En un comunicado, Reddit declaró: “Mantener a Reddit seguro, saludable y real es una de nuestras principales prioridades. Evaluamos de forma habitual nuestra plataforma para comprender la salud de nuestras comunidades, fomentar interacciones seguras y eliminar el contenido que infringe las políticas. Compartimos los resultados de esta investigación de forma directa con nuestra comunidad en r/redditsecurity”.

“El estudio en cuestión confirma nuestra propia investigación e ideas: que la gran mayoría del contenido en Reddit es saludable y los usuarios tienden a mejorar su comportamiento de acuerdo con las normas de la comunidad. La desventaja del estudio es que se basa en datos que provienen de hace 20 años atrás y, por lo tanto, no tiene en cuenta los impactos de nuestras numerosas actualizaciones de políticas y las acciones de cumplimiento posteriores”.

“Ponemos los datos de Reddit de forma intencional a disposición de los investigadores a través de nuestra API [interfaz de programación de aplicaciones] abierta y valoramos los conocimientos de terceros a medida que aplicamos y desarrollamos nuestras propias capacidades de aprendizaje automático. Continuaremos trabajando para mejorar nuestras capacidades y nuestros procesos para que podamos garantizar mejor la salud y la seguridad de nuestra plataforma”.