El discurso de odio en Myanmar sigue prosperando en Facebook

Años después de ser objeto de escrutinio por contribuir a la violencia étnica y religiosa en Myanmar, Facebook aún tiene problemas para detectar y moderar el discurso de odio y la desinformación en su plataforma en la nación del sudeste asiático, según muestran documentos internos.

Hace tres años, la compañía encargó un informe que encontró que Facebook se usaba para "fomentar la división e incitar a la violencia fuera de línea" en el país. Se comprometió a hacerlo mejor y desarrolló varias herramientas y políticas para hacer frente al discurso de odio.

Pero las violaciones han persistido, e incluso han sido explotadas por actores hostiles, desde la toma del poder militar del 1 de febrero de este año que resultó en horribles abusos contra los derechos humanos en todo el país.

Al desplazarse por Facebook hoy, no es difícil encontrar publicaciones que amenacen con asesinato y violación en Myanmar.

Un video de 2 1/2 minutos publicado el 24 de octubre de un partidario del ejército que llama a la violencia contra los grupos de oposición ha obtenido más de 56 mil visitas.

“Entonces, a partir de ahora, somos el dios de la muerte para todos (ellos)”, dice el hombre en birmano mientras mira a la cámara. "Venga mañana y veamos si son verdaderos hombres o gays".

Una cuenta publica la dirección de la casa de un desertor militar y una foto de su esposa. Otra publicación del 29 de octubre incluye una foto de soldados conduciendo a hombres atados y con los ojos vendados por un camino de tierra. La leyenda birmana dice: "No los atrapes vivos".

A pesar de los problemas en curso, Facebook vio sus operaciones en Myanmar como un modelo para exportar en todo el mundo y un caso cáustico y en evolución. Los documentos revisados ​​muestran que Myanmar se convirtió en un campo de pruebas para la nueva tecnología de moderación de contenido, con el gigante de las redes sociales probando formas de automatizar la detección de discursos de odio y desinformación con diferentes niveles de éxito.

Las discusiones internas de Facebook sobre Myanmar se revelaron en divulgaciones hechas a la Comisión de Bolsa y Valores y proporcionadas al Congreso en forma redactada por el ex empleado de Facebook convertido en denunciante, el asesor legal Frances Haugen. Las versiones redactadas recibidas por el Congreso fueron obtenidas por un consorcio de organizaciones de noticias , incluida The Associated Press.

Facebook ha tenido una historia más corta pero más volátil en Myanmar que en la mayoría de los países. Después de décadas de censura bajo el régimen militar, Myanmar se conectó a Internet en el año 2000. Poco después, Facebook se asoció con proveedores de telecomunicaciones en el país, lo que permitió a los clientes usar la plataforma sin necesidad de pagar por los datos, que todavía eran costosos en ese momento. Explotó el uso de la plataforma. Para muchos en Myanmar, Facebook se convirtió en la propia Internet.

La información contenida en documentos internos de Facebook muestra que, si bien la compañía intensificó sus esfuerzos para combatir el discurso de odio en el país, las herramientas y estrategias para hacerlo nunca se materializaron por completo, y las personas dentro de la compañía dieron la alarma en repetidas ocasiones. En un documento de mayo de 2020, un empleado dijo que un clasificador de texto de incitación al odio que estaba disponible no se estaba utilizando ni se mantenía. Otro documento de un mes después decía que había “importantes lagunas” en la detección de información errónea en Myanmar.

"Facebook tomó acciones simbólicas que creo que fueron diseñadas para apaciguar a los legisladores que se estaba haciendo algo y no era necesario mirar mucho más profundo", dijo Ronan Lee, académico visitante de la Iniciativa contra el Crimen Estatal Internacional de la Universidad Queen Mary de Londres.

En una declaración enviada por correo electrónico, Rafael Frankel, director de políticas de Facebook para los países emergentes de APAC, dijo que la plataforma "ha creado un equipo dedicado de más de 100 hablantes birmanos". Se negó a decir exactamente cuántos estaban empleados. La empresa de marketing online NapoleonCat estima que hay alrededor de 28.7 millones de usuarios de Facebook en Myanmar.

Después del testimonio de Zuckerberg ante el Congreso en 2018, Facebook desarrolló herramientas digitales para combatir el discurso de odio y la desinformación y también creó un nuevo marco interno para gestionar crisis como la de Myanmar en todo el mundo.

Facebook elaboró ​​una lista de "países en riesgo" con niveles clasificados para un "equipo de países críticos" en los que centrar su energía, y también calificó los idiomas que necesitan más moderación de contenido. Myanmar fue catalogado como un país en riesgo de “Nivel 1”, y el birmano se consideró un “idioma prioritario” junto con los idiomas etíopes, el bengalí, el árabe y el urdu.

Los ingenieros de Facebook enseñaron a sus sistemas automatizados las palabras del argot birmano para "musulmanes" y "rohingya". También capacitaron sistemas para detectar "comportamientos no auténticos coordinados", como la publicación de una sola persona desde varias cuentas, o la coordinación entre diferentes cuentas para publicar el mismo contenido.

La empresa también intentó la "degradación de infractores reincidentes", lo que redujo el impacto de las publicaciones de los usuarios que violaban las pautas con frecuencia. En una prueba en dos de los países más volátiles del mundo, la degradación funcionó bien en Etiopía, pero mal en Myanmar, una diferencia que desconcertó a los ingenieros, según un informe de 2020 incluido en los documentos.

La compañía también implementó una nueva herramienta para reducir la viralidad del contenido llamada "promoción de profundidad de compartir" que impulsa el contenido compartido por contactos directos, según un informe interno de 2020. Este método es "independiente del contenido" y reduce la prevalencia de la inflamación viral en 25 por ciento y la desinformación de fotografías en un 48.5 por ciento, dijo.

La detección de insultos y la degradación se consideraron lo suficientemente efectivas como para que el personal compartiera la experiencia en Myanmar como parte de un "libro de jugadas" para actuar en otros países en riesgo como Etiopía, Siria, Yemen, Pakistán, India, Rusia, Filipinas y Egipto.

Si bien estos nuevos métodos forjados en las crisis civiles de Myanmar se implementaron en todo el mundo, los documentos muestran que para junio de 2020 Facebook sabía que persistían las fallas en su trabajo de seguridad en Myanmar.

"Encontramos brechas significativas en nuestra cobertura (especialmente en Myanmar y Etiopía), lo que demuestra que nuestras señales actuales pueden ser inadecuadas", dijo una auditoría interna de la "cobertura de integridad" de la empresa. Myanmar tenía un código de color rojo con menos del 55 por ciento de cobertura: peor que Siria pero mejor que Etiopía.

Haugen criticó la política interna de la empresa de actuar "sólo una vez que ha comenzado una crisis".

Facebook “ralentiza la plataforma en lugar de observar a medida que aumenta la temperatura, y hace que la plataforma sea más segura mientras eso sucede”, dijo durante su testimonio ante el Parlamento británico el 25 de octubre.

Frankel, el portavoz de Facebook, dijo que la compañía ha sido proactiva.

“El enfoque de Facebook en Myanmar hoy es fundamentalmente diferente al de 2017, y las acusaciones de que no hemos invertido en seguridad y protección en el país están equivocadas”, dijo Frankel.

Sin embargo, un informe de septiembre de 2021 del Myanmar Social Media Insights Project encontró que las publicaciones en Facebook incluyen ataques coordinados a activistas, minorías étnicas y periodistas, una táctica que tiene sus raíces en la historia del ejército. El informe también dijo que el ejército está lavando su propaganda a través de páginas públicas que dicen ser medios de comunicación.

Grupos de oposición y pro-militares han utilizado la aplicación de mensajería encriptada Telegram para organizar dos tipos de campañas de propaganda en Facebook y Twitter, según un informe de octubre compartido con AP por Myanmar Witness, una organización con sede en el Reino Unido que archiva publicaciones en redes sociales relacionadas con el conflicto.

Myanmar es un "entorno de información muy controvertido", donde los usuarios que trabajan en conjunto sobrecargan el sistema de informes de Facebook para eliminar las publicaciones de otros y también difunden información errónea y discursos de odio coordinados, según el informe.

En un ejemplo, las redes coordinadas tomaron un video filmado en México en 2018 por el cartel de Sinaloa de cuerpos masacrados y lo etiquetaron falsamente como evidencia de que la oposición mató a soldados de Myanmar el 28 de junio de 2021, dijo Benjamin Strick, director de investigaciones de Myanmar Witness.

“Hay una dificultad para atraparlo para algunas de estas plataformas que son tan grandes y quizás los equipos que lo buscan son tan pequeños que es muy difícil atrapar agua cuando sale de una boca de incendios”, dijo.

La organización también rastreó la huella digital de un soldado en la incineración de 160 casas en el pueblo de Thantlang a fines de octubre. Posó con chalecos antibalas en una repisa con vistas a las casas en llamas, con una publicación en la que culpaba a las fuerzas de la oposición por la destrucción en una letanía de discursos violentos.

Facebook “llevó a cabo la debida diligencia en materia de derechos humanos para comprender y abordar los riesgos en Myanmar”, prohibió al ejército y utilizó tecnología para reducir la cantidad de contenido violatorio, dijo el portavoz Frankel.

Sin embargo, los activistas y académicos de derechos digitales de Myanmar dicen que Facebook aún podría tomar medidas para mejorar, incluida una mayor apertura sobre sus políticas de moderación, degradación y eliminación de contenido, y reconociendo sus responsabilidades hacia el pueblo de Myanmar.

Edición: Ana Ordaz