Facebook: por qué debería estar preocupado después del testimonio explosivo de denunciante

En los primeros días de Facebook, su lema era "muévete rápido y rompe las cosas". Poco sabían que la empresa acabaría por romper sociedades en todo el mundo.

Este es un momento de ajuste de cuentas para un gigante de las redes sociales con una base de usuarios del tamaño de varias naciones. Se ha comparado con ajustes de cuentas similares a los de las industrias del tabaco, del combustible y la farmacéutica. Durante mucho tiempo hemos sentido el impacto dañino de Facebook en nuestra sociedad, democracia, infancia y salud. Ahora, en un movimiento sin precedentes, tenemos a alguien dentro de Facebook con decenas de miles de documentos que ponen al descubierto la "bancarrota moral" de Facebook.

Se empieza a enfocar una imagen condenatoria: Facebook sabe exactamente cuán destructivos son sus productos y no hace todo lo que está a su alcance para solucionarlos. Estas nuevas acusaciones muestran que una y otra vez, los ejecutivos de Facebook eligen maximizar as ganancias sobre el bien público.

El martes, la ex empleada de Facebook, Frances Haugen entregó un testimonio explosivo ante el Subcomité Senatorial de Protección al Consumidor, Seguridad de Productos y Seguridad de Datos. Se unió a Facebook como gerente de producto en el equipo de Integridad Cívica de Facebook en 2019. Haugen ha trabajado en otras empresas de tecnología, desde Google hasta Pinterest, pero afirma que nunca se había encontrado con lo que vio en Facebook, lo que la llevó a convertirse en denunciante. Después de semanas de construirse, a través de revelaciones en el Wall Street Journal y una entrevista en 60 minutos, el testimonio de Haugen oficialmente se hizo público y describió la supuesta corrupción de Facebook sin dejar lugar a dudas.

Haugen comenzó su declaración de apertura con una afirmación que personifica los problemas en Facebook: "Creo que los productos de Facebook dañan a los niños, avivan la división y debilitan nuestra democracia. El liderazgo de la compañía sabe cómo hacer que Facebook e Instagram sean más seguros, pero no hará los cambios necesarios". porque han puesto sus astronómicos beneficios antes que la gente ".

El testimonio de Haugen y los documentos que lo corroboran alegan que Facebook ha engañado repetidamente al público, al gobierno de los EE.UU. y a los inversores. Esto último de su investigación interna sobre cómo sus productos difunden desinformación, fomentan la desinformación contra las vacunas, fomentan los discursos de odio e impactan la seguridad de las niñas y los niños.

Comencemos con la desinformación y el discurso de odio. Haugen apunta a un cambio de algoritmo en 2018 que tenía la intención de impulsar el engagement y, como resultado, empeoró una plataforma ya destructiva. Según Haugen y los documentos que ha proporcionado, Facebook realizó una prueba: esta consistía en que a un usuario al que solo le gustaban algunas páginas políticas como "Donald Trump" y "Melania Trump", en cuestión de horas, se le recomendaba contenido de QAnon. En cuestión de días, se le presentaba otro contenido extremista. Todos sabemos que Facebook funciona como una máquina de radicalización, recomienda cada vez contenido más extremo y deshonesto. Pero ahora, se alega que Facebook también lo sabe.

Si bien Facebook ha declarado públicamente que ha logrado un progreso masivo en la lucha contra la desinformación y el discurso de odio, Haugen ha proporcionado un documento interno que destaca un estudio que indica lo contrario: “Estimamos que podemos actuar con tan solo tres a cinco por ciento de odio y 0,6% de V&I [Violencia e Incitación] en Facebook a pesar de ser el mejor del mundo en eso ".

Haugen continuó argumentando que este tipo de proliferación de discursos de odio ha llevado a la violencia étnica en países como Myanmar y Etiopía. Y más cerca de casa, hemos visto otros resultados preocupantes.

El papel de Facebook en las campañas de desinformación ejecutadas en las elecciones de 2016 y 2020 es reconocido de manera muy amplia. Lo que ahora se alega involucra algunas de las decisiones detrás de escena. Haugen afirma que Facebook disolvió el grupo de Integridad Cívica en el que estaba trabajando inmediatamente después de las elecciones y desactivó las medidas de seguridad que se habían implementado antes de las elecciones. Haugen afirma que esto ayudó a fomentar el entorno que condujo al ataque del 6 de enero al Capitolio.

Haugen dijo que después de las elecciones, cree que Facebook eliminó esas salvaguardas porque querían impulsar el engagement. En respuesta a mi tweet sobre esta afirmación, el Director de Comunicaciones de Política de Facebook, Andy Stone, respondió : "Me alegra que hayas escrito [que Haugen] 'piensa' porque la verdad es que dejamos varias de las medidas hasta el 6 de enero, añadimos medidas adicionales después de la violencia en el Capitolio, e hicimos algunos de esos cambios permanentes, como no recomendar grupos políticos ".

Ya sea que Facebook mantuviera activadas algunas medidas mientras desactivaba otras, o no, los resultados no fueron excelentes. La insurrección del 6 de enero se planeó y promovió en varios sitios de redes sociales, incluido Facebook. Las mentiras sobre las elecciones de 2020 se extendieron como la pólvora en la plataforma y años de radicalización culminaron en los escalones del Capitolio . Si bien creo que su decisión de vetar al expresidente Trump fue una buena medida, algunos argumentarían que fue demasiado poco, demasiado tarde.

Una de las principales razones por las que este escándalo de Facebook es diferente a otros es que involucra a niñas y niños. La audiencia del lunes se centró en gran medida en el testimonio y los documentos que Haugen proporcionó con respecto a la investigación de Facebook sobre su impacto en las adolescentes. Haugen ha proporcionado un estudio de Facebook que encontró que "el trece punto cinco por ciento de las adolescentes dicen que Instagram empeora los pensamientos suicidas, el diecisiete por ciento de las adolescentes dice que Instagram empeora los trastornos alimenticios".

A principios de este año, el director ejecutivo de Facebook, Mark Zuckerberg, dijo en una audiencia del Congreso que "en general, la investigación que hemos visto es que el uso de aplicaciones sociales para conectarse con otras personas puede tener beneficios positivos para la salud mental". Eso es contrario a los datos que ha proporcionado Haugen. Esos datos no han detenido el deseo de Facebook de ampliar su alcance entre las niñas y niños, a quienes llaman una "audiencia valiosa y sin explotar". No fue hasta que se revelaron estos documentos que Facebook puso en espera su proyecto "Instagram para niños".

Cuando miramos la totalidad de las revelaciones, este es realmente el resultado final: no es solo que el modelo de negocios de Facebook incentiva captar la atención a toda costa, es que lo llevan al extremo. Es una elección. Algunos le han dado a Zuckerberg el beneficio de la duda o afirman que no comprende realmente el daño que ha causado su empresa. Pero esa excusa ya no puede ser creíble.

Es por eso que los llamados a la regulación son cada vez más populares. Haugen pidió esto durante su testimonio: "Las decisiones que está tomando el liderazgo de Facebook son desastrosas tanto para los niños, como para la seguridad pública, para la democracia, por eso debemos exigir que Facebook haga cambios". El llamado de Haugen a hacer cambios en la Sección 230, una mayor transparencia y la supervisión del algoritmo de Facebook basado en el engagement pareció obtener un acuerdo bipartidista generalizado entre los senadores.

Facebook debería ser sacudido por esta audiencia. No tuvo las habituales disputas partidistas o a los senadores republicanos impulsando realidades alternativas. La mayoría de los senadores hablaron con una sola voz. Esta fue la mayor claridad que he visto sobre si el Congreso tiene la intención de regular Facebook.

Si bien este es ciertamente un momento de ajuste de cuentas, solo el tiempo dirá si también será un momento de rendición de cuentas.