“Facebook Papers”: revelan que la empresa desatendió el combate a los discursos de odio en el mundo 29.010

Mundo

Un conglomerado de medios de Estados Unidos informó sobre denuncias de gerentes y empleados, así como documentos internos, sobre las fallas de la red social para evitar la circulación de mensajes violentos. Mark Zuckerberg aparece personalmente aludido. Crecen las críticas a una firma acusada también de monopolio y venta de datos privados con fines políticos.

Nueva York - Mientras sigue lidiando con la crisis del traspaso de datos privados a Cambridge Analytica para su uso en la manipulación de campañas políticas y con denuncias por monopolio, 17 medios de prensa en EE.UU. sorprenden ahora con la publicación de los llamados “Facebook Papers” (Papeles de Facebook), que revelan los secretos de la red social de Mark Zuckerberg y muestran el modo en que la red social privilegió los ingresos económicos por sobre el control de contenidos abusivos.

Los nuevos documentos, más de 10 mil páginas, revelan que los empleados de Facebook llevan años advirtiendo que mientras la compañía se convertía en un servicio global no controlaba los contenidos abusivo en países donde tales discursos probablemente causarían mayores daños.

Los papeles del mayor escándalo revelado hasta la fecha sobre la compañía se basan en entrevistas con cinco exempleados y en documentos internos. Forman parte de una serie de revelaciones hechas a la Comisión de Valores de Estados Unidos (SEC) y al Congreso de ese país por Frances Haugen, una exgerenta de productos de Facebook que dejó la empresa en mayo.

Ashraf Zeitoon, exjefe de políticas de Facebook para Medio Oriente y África del Norte, quien se fue en 2017, dijo que el enfoque de la empresa para el crecimiento global fue “colonial”, centrado en la monetización sin medidas de seguridad.

Durante más de una década, Facebook ha presionado para convertirse en la plataforma “on line” dominante del mundo. En la actualidad opera en más de 190 países y cuenta con más de 2.800 millones de usuarios mensuales que publican contenido en más de 160 idiomas. No obstante, sus esfuerzos para impedir que sus productos se convirtieran en vehículos para el discurso de odio, la retórica incendiaria, la desinformación y hasta la incitación a la violencia no siguieron el ritmo de su expansión global.

Falencias

Documentos internos de la firma –revelados por The New York Times, The Washington Post, Wired, NBC News, ABC y la agencia Reuters, entre otros– muestran que Facebook sabía que no contrató suficientes trabajadores con las habilidades lingüísticas y el conocimiento de los eventos locales necesarios para identificar publicaciones objetables de usuarios en varios países en desarrollo.

Los documentos también mostraron la falta de algoritmos de detección para los idiomas utilizados en países que Facebook ha considerado en mayor riesgo de violencia.

La portavoz de Facebook, Mavis Jones, dijo en un comunicado que la compañía tiene especialistas nativos en todo el mundo para revisar los contenidos en más de 70 idiomas, así como expertos en temas humanitarios y derechos humanos. Según señaló, estos equipos trabajan para frenar los abusos en la plataforma en lugares donde existe un mayor riesgo de conflicto y violencia.

Aun así, los documentos ofrecen ejemplos detallados de cómo los empleados han hecho sonar las alarmas en los últimos años sobre los problemas con las herramientas de la empresa –tanto humanas como tecnológicas– destinadas a erradicar o bloquear discursos que violan sus propios estándares.

Violencia

Según advirtieron los empleados en los documentos ahora revelados, las deficiencias denunciadas limitaban la capacidad de la compañía para cumplir su promesa de bloquear los discursos de odio en lugares diversos, que incluyen a países como Afganistán, Yemen, Myanmar, Etiopía y muchos otros.

Entre esos países se destaca el caso de la India y el odio religioso. La investigación realizada dentro de la red social puso de relieve la gran medida en que el material antiislámico está extendido en la plataforma y cómo se difundieron los contenidos que incitaban al “odio y la violencia”, algo particularmente generalizado en febrero de 2020, coincidiendo con las tensiones que estallaron en Nueva Delhi durante las cuales murieron 53 personas.

Entre los hallazgos también se encuentran los reportados por The Washington Post que citan algunas fuentes y que se refieren directamente a Zuckerberg.

A fines de 2020, los investigadores de Facebook llegaron a la conclusión de que los esfuerzos para frenar el discurso de odio en el mundo árabe no estaban funcionando, indicó un reporte de Político.

Los anuncios que atacaban a mujeres y a la comunidad LGBTQ rara vez se marcaban para su eliminación en Medio Oriente.

En Irak, donde los violentos enfrentamientos entre las milicias sunitas y chiitas estaban empeorando rápidamente un país ya políticamente frágil, los llamados “ejércitos cibernéticos” lo combatieron publicando material profano y prohibido, incluida la desnudez infantil, en las páginas de Facebook de los demás en un esfuerzo por eliminar rivales de la plataforma global, detalló Político.

En 2018, expertos de la ONU que investigaban una brutal campaña de asesinatos y expulsiones contra la minoría musulmana rohinyá de Myanmar dijeron que Facebook se usaba ampliamente para difundir discursos de odio hacia ellos.

Temas

Dejá tu comentario