Científicos simulan red social con chatbots de IA y los resultados preocupan

Un grupo de científicos creó una red social ficticia habitada solo por chatbots de inteligencia artificial y descubrió que esto generó efectos negativos: las opiniones polarizadas se hicieron más fuertes y visibles.

Plataformas como X (antes Twitter) y Facebook ya han sido criticadas por difundir contenido que divide a las personas y por no facilitar espacios de diálogo político constructivo.

Expertos en seguridad digital advierten que estas redes suelen dar más visibilidad a lo sensacionalista y terminan volviéndose burbujas de opinión, donde los usuarios solo ven lo que refuerza sus ideas y no se enfrentan a puntos de vista distintos.

Cada vez más estudios analizan la relación entre los algoritmos que impulsan las redes sociales y la polarización del contenido que se publica en ellas.

“Los algoritmos de las plataformas —diseñados para maximizar la interacción de los usuarios— suelen tener el efecto no intencionado de amplificar el enojo, el conflicto y el sensacionalismo”, señalan los investigadores en un estudio aún no revisado por pares, publicado en arXiv.

En el estudio, los investigadores probaron una red social ficticia con usuarios controlados por ChatGPT-4o, con el objetivo de ver si era posible evitar que se convirtiera en una cámara de eco para su comunidad artificial.

Para ello, ensayaron distintas estrategias, como cambiar el orden del contenido a cronológico, impulsar intencionalmente puntos de vista diversos, eliminar las biografías de los perfiles e incluso ocultar métricas como la cantidad de seguidores, todo con el fin de frenar la creación de burbujas de información.

“Nuestro objetivo es simular un entorno de red social estilizado para evaluar si reproduce algunas disfunciones clave identificadas en la literatura, como la polarización, la desigualdad en la atención y la distorsión impulsada por la interacción”, escribieron los científicos.

Luego, los investigadores analizaron si estas intervenciones lograban reducir las disfunciones observadas en la plataforma.

Sin embargo, descubrieron que las estrategias aplicadas generaron solo mejoras limitadas y, en algunos casos, incluso empeoraron los resultados.

“Si bien algunas medidas tuvieron efectos positivos moderados, ninguna abordó por completo las fallas estructurales del sistema. Además, las mejoras en un aspecto solían venir acompañadas del deterioro en otro”, concluyeron los autores.

“Los resultados son contundentes: las mejoras fueron modestas, ninguna intervención logró interrumpir por completo los mecanismos que originan estos efectos, y algunas medidas incluso agravaron los problemas que buscaban resolver”, señalaron los investigadores.

Los hallazgos sugieren que las plataformas de redes sociales podrían estar condenadas a la polarización, incluso sin algoritmos de recomendación ni sistemas que optimizan la interacción.

Según los científicos, cualquier reforma significativa requeriría un rediseño estructural profundo de estas plataformas.

“Mediante este estudio, demostramos que las principales disfunciones de las redes sociales pueden surgir incluso en un entorno simulado extremadamente básico, donde solo se permite publicar, reenviar y seguir, sin algoritmos de recomendación ni sistemas diseñados para maximizar la interacción de los usuarios”, escribieron los investigadores.

“El hecho de que estas dinámicas emergieran en una plataforma tan mínima sugiere que el origen de estos problemas no radica únicamente en el diseño técnico o en los algoritmos, sino en estructuras más profundas inherentes al funcionamiento social de estas plataformas”.

Traducción de Leticia Zampedri