Desinformación, violencia y redes sociales: Cinco cosas que aprendimos de los archivos de Facebook

La empresa se enfrenta a una demanda de la SEC en la que se alega que engañó a los inversores sobre sus daños

John Bowden
martes 26 octubre 2021 14:35
Andanada contra Facebook en el Parlamento británico | "Fomenta el odio" dice Frances Haugen
Read in English

Facebook vuelve a estar bajo la mirada del escrutinio internacional tras la publicación de cientos de documentos facilitados a los medios de comunicación por Frances Haugen, una antigua científica de datos de la empresa.

Una serie de noticias ha provocado una cascada de críticas a la empresa desde todos los ámbitos, desde el covid hasta la violencia por motivos políticos y la actividad de las bandas criminales. Los críticos de Facebook dicen que la empresa hace poco para negar los problemas que surgen en sus plataformas, y hace más para ocultar las preocupaciones de sus propios empleados sobre esos mismos temas.

Los archivos, obtenidos originalmente por Haugen cuando aún trabajaba en la empresa, forman parte de su denuncia ante la Comisión de Valores y Bolsa (SEC), en la que se alega que la empresa engañó a los inversores sobre los efectos negativos de sus plataformas en las personas y la sociedad.

La publicación inicial de los documentos de Haugen se produjo en forma de historias publicadas por The Wall Street Journal; las explosivas afirmaciones de que Facebook anteponía los beneficios a los esfuerzos por luchar contra la desinformación viral y los contenidos divisivos dieron lugar a una audiencia en el Capitolio, donde los legisladores instaron al consejero delegado Mark Zuckerberg a testificar en respuesta.

En los últimos días, otros medios de comunicación ha publicado sus propias historias sobre los documentos, ya que The New York Times informa de que Haugen invitó a un mayor número de empresas de medios de comunicación -sin avisar al Journal con antelación- a acceder a los documentos y a recoger las historias que el Journal no había podido ver en su versión inicial.

He aquí un breve resumen de algunos de los hallazgos más importantes de los archivos filtrados de Facebook:

Facebook se relajó después de las elecciones de 2020, contribuyendo a la proliferación de la desinformación

Después de las elecciones de noviembre del año pasado, los ejecutivos de Facebook se relajaron, ya que aparentemente asumieron que lo peor de los problemas del sitio con el contenido político de EE.UU. estaba disminuyendo.

Los documentos revisados por numerosos medios de comunicación muestran que la empresa dejó de lado los esfuerzos para luchar contra las declaraciones falsas de políticos y otros, incluido el cierre de su equipo de integridad cívica, del que se informó en su momento. Como resultado, los empleados de la empresa se esforzaron por responder al creciente movimiento “Stop the Steal” y sus grupos asociados en Facebook, lo que condujo directamente a la difusión de las conspiraciones antes de los disturbios en el Capitolio el 6 de enero.

Leer más: Facebook Papers: publican documentos del interior de la red social que muestran lucha por el control

La empresa argumentó que las funciones del equipo fueron asumidas por otras personas de la empresa; sin embargo, Haugen (que formaba parte del equipo) ha dicho que ella y sus compañeros se sintieron traicionados por la medida, lo que llevó a algunos a abandonar la empresa.

La compañía restableció una serie de garantías el 6 de enero y en las horas previas al ataque al Capitolio, pero para entonces ya era demasiado tarde.

La red social sigue teniendo problemas con los contenidos en zonas donde sus moderadores no tienen experiencia con las lenguas locales

Facebook sigue siendo muy popular en países de todo el mundo, lo que plantea a la empresa una serie de retos relacionados con los contenidos en su búsqueda de nuevos usuarios. La empresa carece o se enfrenta a la escasez de moderadores para contenidos en numerosos idiomas, y emplea a algunos con insuficiente conocimiento local para la moderación de dichos contenidos, según documentos internos.

¿El resultado? En algunos idiomas, se han prohibido de forma permanente o temporal palabras o frases comunes, incluidos los nombres de los principales hitos religiosos, mientras que el discurso de odio y la desinformación han florecido en otras comunidades en las que la moderación está totalmente ausente.

La compañía ha seguido enfrentándose a problemas que reconoció públicamente en 2018 cuando explicó que no había hecho lo suficiente para detener el contenido que alentaba la violencia contra los musulmanes rohingya en Myanmar. Cuestiones similares están ocurriendo hoy en día en Etiopía, según los documentos, donde la minoría Tigray del país se enfrenta a la violencia y la persecución.

Los responsables de Facebook abordaron directamente estas críticas en una declaración a la CNN, explicando que estaba trabajando para dotar de personal a Etiopía y a otros países considerados como focos de violencia política: “En los últimos dos años hemos invertido activamente para añadir más personal con experiencia local, recursos operativos y capacidad de revisión adicional para ampliar el número de lenguas locales que apoyamos para incluir el amárico, el oromo, el somalí y el tigriña. Hemos trabajado para mejorar nuestra detección proactiva, de modo que podamos eliminar más contenidos nocivos a gran escala. También nos hemos asociado ampliamente con expertos internacionales y locales para comprender mejor y mitigar los mayores riesgos”.

Las plataformas de la compañía siguen siendo utilizadas por el crimen organizado, incluso por violentos cárteles de la droga

En todo el mundo, las organizaciones criminales violentas siguen utilizando las plataformas de Facebook para organizarse y hacer negocios. Informes recientes del Journal y de la CNN han detallado el uso continuo de Instagram y Facebook por parte del Cártel de Jalisco Nueva Generación, con sede en México, ya que ha publicado vídeos de ejecuciones y mensajes de reclutamiento en las plataformas.

El tráfico de personas es otro problema persistente en la plataforma, vinculado en algunos casos a grandes grupos criminales y en otros a actividades delictivas de menor escala. Los documentos internos reportados por primera vez por CNN revelaron que la compañía ha sabido internamente sobre cantidades significativas de tráfico de personas que ocurren en Instagram y Facebook desde al menos 2018, y ha luchado para lidiar efectivamente con el problema. Un informe, detallado por primera vez por CNN, fue distribuido internamente en Facebook y afirmó que sus plataformas permiten “las tres etapas del ciclo de vida de la explotación humana (reclutamiento, facilitación, explotación) a través de complejas redes del mundo real”.

La agencia de noticias también pudo rastrear anuncios activos de víctimas de la trata de personas en la plataforma tan solo la semana pasada, a pesar de los esfuerzos de la empresa por reprimir este tipo de contenidos.

“Prohibimos la explotación humana en términos claros”, comentó un portavoz de la empresa. “Llevamos muchos años combatiendo la trata de personas en nuestra plataforma y nuestro objetivo sigue siendo impedir que cualquiera que busque explotar a otros tenga un hogar en nuestra plataforma”.

Facebook persiguió productos destinados a atraer a los jóvenes adolescentes a sus plataformas, a pesar de conocer los riesgos

La filial de Facebook, Instagram, anunció (y más tarde canceló) una red social emblemática para los usuarios más jóvenes, titulada Instagram Kids, a principios de este año. Las razones de la empresa para interrumpir el proyecto no estaban claras, pero esencialmente culpaban a una avalancha de críticas por su paralización.

En ese momento, la empresa se enfrentaba a las preguntas de los legisladores en el Capitolio sobre el tema; se espera que esas preguntas aumenten a medida que los documentos revelados por Haugen muestren que la empresa ha guardado durante años investigaciones que documentaban los daños causados a los niños que utilizan sus plataformas.

Uno de los datos internos que la empresa conocía tenía que ver con los problemas de imagen corporal y las adolescentes; una diapositiva de una presentación detallaba que casi un tercio de las adolescentes que experimentaban esos sentimientos negativos decían que “Instagram las hacía sentir peor” con respecto a su cuerpo.

A pesar de ello, la empresa siguió adelante con sus planes de ampliar el alcance de la compañía entre los usuarios más jóvenes; en respuesta a las críticas, afirmó que los adolescentes mienten sobre su edad por las restricciones de edad al usar las plataformas.

En casi todos los temas, la dirección se enfrentó a los trabajadores de base

Ya sea por desinformación sobre el covid, de las mentiras sobre las elecciones estadounidenses de noviembre de 2020 o de la violencia política en todo el mundo, Facebook pareció enfrentarse a una división interna sobre el tema, y la dirección ignoró con frecuencia las llamadas de sus propios empleados para que hicieran más por resolver los problemas en las plataformas.

Un empleado descargó sus críticas contra la dirección en las horas posteriores al ataque del 6 de enero, escribiendo en una entrada de un blog interno: “¿Cómo se espera que hagamos caso omiso cuando la dirección anula las decisiones políticas basadas en la investigación para servir mejor a personas como los grupos que hoy incitan a la violencia?”

“Los trabajadores de base han puesto de su parte para identificar cambios que mejoren nuestra plataforma, pero se les ha frenado activamente”, continuaba el condenatorio post del empleado.

Otro empleado lo resumió en otro post interno, este obtenido por WIRED: “Creo que Facebook está teniendo una influencia negativa en la política de los países occidentales”, decía el empleado, y añadía: “No creo que la dirección esté involucrada en un esfuerzo de buena fe para arreglar esto”.