Facebook revela la prevalencia del discurso de odio por primera vez

El gigante tecnológico también identificó más de 13 millones de piezas de contenido de desnudez infantil y explotación sexual, y más de un millón de elementos de suicidio y autolesión en sus plataformas.

Anthony Cuthbertson
jueves 19 noviembre 2020 18:46
Read in English

Facebook ha publicado la prevalencia del discurso de odio en su plataforma por primera vez, revelando decenas de millones de casos de contenido dañino en el espacio de solo tres meses.

El Informe de aplicación de las normas comunitarias detallaba 22,1 millones de contenido de incitación al odio en Facebook y 6,5 millones de incitaciones al odio en Instagram entre julio y septiembre de este año.

El gigante tecnológico también identificó más de 13 millones de piezas de contenido de desnudez infantil y explotación sexual, y más de un millón de elementos de suicidio y autolesión en sus plataformas.

En una conferencia con los periodistas antes de la publicación del informe, Arcadiy Kantor de Facebook dijo que la prevalencia del contenido de odio se midió por la cantidad de veces que lo ven los usuarios, en lugar de la frecuencia de las publicaciones.

"Basándonos en esta metodología, estimamos que la prevalencia del discurso de odio desde julio de 2020 hasta septiembre de 2020 fue del 0,10% al 0,11%", dijo.

"En otras palabras, de cada 10,000 visitas de contenido en Facebook, de 10 a 11 incluyen discurso de odio ... Nuestro objetivo es eliminar el discurso de odio cada vez que nos damos cuenta de ello, pero sabemos que aún tenemos avances por hacer".

Facebook también proporcionó información relacionada con sus intentos de tomar medidas enérgicas contra la información errónea relacionada con el coronavirus, así como su enfoque de las teorías de conspiración relacionadas con el Holocausto y QAnon.

Entre marzo y octubre, la compañía eliminó más de 12 millones de piezas de contenido de Facebook e Instagram por contener información errónea que podría conducir a "daños físicos inminentes, como contenido relacionado con medidas preventivas falsas o curas exageradas".

Otros 167 millones de contenidos relacionados con la pandemia de Covid-19 fueron etiquetados con advertencias de información errónea por sus socios de verificación de datos.

La represión del contenido que viola sus políticas ha sido impulsada por mejoras en sus sistemas de inteligencia artificial, dijo Facebook.

Mike Schroepfer, director de tecnología de la empresa, dijo que la inteligencia artificial ahora detecta el 94,7 por ciento del discurso de odio que se elimina, en comparación con solo el 24 por ciento en 2017.

“Un enfoque central de los esfuerzos de inteligencia artificial de Facebook es implementar tecnología de aprendizaje automático de vanguardia para proteger a las personas del contenido dañino. Con miles de millones de personas que utilizan nuestras plataformas, confiamos en la Inteligencia Artificial para escalar nuestro trabajo de revisión de contenido y automatizar las decisiones cuando sea posible”, dijo.

"Nuestro objetivo es detectar el discurso de odio, la información errónea y otras formas de contenido que infrinja las políticas de forma rápida y precisa, para cada forma de contenido, y para cada idioma y comunidad en todo el mundo".

Register for free to continue reading

Registration is a free and easy way to support our truly independent journalism

By registering, you will also enjoy limited access to Premium articles, exclusive newsletters, commenting, and virtual events with our leading journalists

Please enter a valid email
Please enter a valid email
Must be at least 6 characters, include an upper and lower case character and a number
Must be at least 6 characters, include an upper and lower case character and a number
Must be at least 6 characters, include an upper and lower case character and a number
Please enter your first name
Special characters aren’t allowed
Please enter a name between 1 and 40 characters
Please enter your last name
Special characters aren’t allowed
Please enter a name between 1 and 40 characters
You must be over 18 years old to register
You must be over 18 years old to register
Opt-out-policy
You can opt-out at any time by signing in to your account to manage your preferences. Each email has a link to unsubscribe.

Already have an account? sign in

By clicking ‘Register’ you confirm that your data has been entered correctly and you have read and agree to our Terms of use, Cookie policy and Privacy notice.

This site is protected by reCAPTCHA and the Google Privacy policy and Terms of service apply.

Thank you for registering

Please refresh the page or navigate to another page on the site to be automatically logged in