El documental “The cleaners” revela cómo funciona el control de contenidos en las redes sociales para eliminar imágenes de torturas, suicidio o pornografía
Alba Tobella Mayans – EL PAIS (29 de junio de 2018)
Barcelona – En Barcelona, este anuncio, cuanto menos, levanta curiosidad: “Facebook abrirá en la ciudad una oficina de ocho plantas para limpiar sus plataformas de contenidos nocivos”. Hablan de 500 puestos de trabajo para luchar contra las noticias falsas, la mayoría community managers (gestores de redes) en distintos idiomas. Mil ojos más velarán por los usuarios. Mientras muchos se preguntaban qué quiere hacer Facebook en su nueva sede —y empiezan a filtrarse algunos testimonios de los primeros entrevistados— el festival Docs Barcelona presentó la semana pasada The Cleaners, un documental que muestra cómo trabajan los censores a miles de kilómetros de Europa.
“Manila es el centro mundial de moderadores de contenidos”, cuenta Moritz Riesewieck (1985), codirector de la película, junto a su colega Hans Block. Es algo similar a lo que representa Bangladesh para la industria textil de bajo coste. En 2013, estos dos cineastas alemanes se preguntaron hasta dónde llegaría una imagen de abuso sexual a un menor que había sido compartida miles de veces. La investigación los llevó a la capital filipina, donde encontraron fábricas en las que miles de personas se dedican a eliminar contenido de la red.
Sí, son decisiones humanas. En cinco segundos, una eternidad si se compara con el 1,7 segundos que dedicamos de media en mirar una foto en Instagram, los moderadores deben elegir si la imagen es apta o debe desaparecer. Ignorar, borrar, ignorar, borrar, ignorar, ignorar, borrar…
Pasan horas viendo decapitaciones, grupos terroristas alardeando de su violencia o pornografía, pero también ilustraciones o performances que les llegan tras ser detectadas por un algoritmo o reportadas como indebidas por un usuario. Al día pueden llegar a ver un chorro de 25.000 imágenes y toman la última decisión sobre cada una de ellas. Aunque se saben muy bien las reglas, admiten que tienen límites y que a veces les cuesta detectar como la ironía, el arte o la intención política de muchas publicaciones que objetivamente irían contra las normas de la empresa. Ante la duda, no hay duda: borrar.
“La mayoría son jóvenes veinteañeros y no suelen durar más de un año en ese trabajo porque no lo soportan. De vez en cuando, pasa una orientadora y les pregunta cómo se sienten, esa es la atención psicológica que reciben. Parece una broma de mal gusto”, denuncia Riesewieck, que asegura que los suicidios —en el documental aparece un caso— son frecuentes. “Este trabajo te daña el cerebro”, dice uno de los entrevistados en la película, “te hace pensar que la violencia es normal, que matar o bombardear es normal”. Unos naturalizan la sangre. Otros acaban paranoicos y no se atreven ni a pisar la calle.
El documental —que recrea el ambiente oscuro de las fábricas según las describen los trabajadores— muestra la perversidad de que todo lo que escribimos quede limitado por las normas de las empresas, ejecutadas en este caso por ciudadanos de un país de mayoría católica, donde el mismo presidente, Rodrigo Duterte, recurre a la idea de limpieza en su feroz guerra contra las drogas que ha dejado miles de muertos. La artista Illma Gore, autora de un desnudo de Donald Trump con un micropene censurado después de hacerse viral, no entiende nada. Los creadores se llevan las manos a la cabeza y se enfurecen ante la terquedad de estas normas que hacen el mundo cada vez más pequeño. Hoy todos sabemos que si publicamos la foto de un pezón, mejor ponerle un emoji encima.
Facebook asegura tener alrededor de 10.000 moderadores de contenido en todo el mundo y sus ejecutivos han asegurado que la cifra se duplicará para finales de este año. Las presiones de los gobiernos para limitar contenidos también aumentan y el escándalo de Cambridge Analytica, que demostró que Facebook compartió información privada de millones de usuarios con la campaña de Donald Trump, ha obligado a los gigantes de Internet a protegerse de nuevas críticas.
Los moderadores firman contratos de confidencialidad en los que se comprometen no revelar para qué empresa trabajan, aunque su vinculación es siempre con una empresa externa a los gigantes de Internet y cobran entre uno y tres dólares (de ochenta céntimos a 2,5 euros) la hora, explica Riesewieck. “En Filipinas, estas compañías son celebradas como los salvadores del país porque todavía hay mucha gente bajo el umbral de la pobreza y estas empresas dan trabajo y el gobierno no las controla de ninguna manera”, plantea, “son soluciones fáciles a los problemas nacionales. Este es el contexto perfecto para albergar este tipo de empresas”.
“Nosotros somos como policías. Nuestro objetivo es hacer la plataforma lo más sana posible”, afirma otro testimonio en el documental. Otra, una muchacha ultracatólica que nunca había imaginado que existiesen los juguetes sexuales, ahora perturban sus sueños imágenes de distintos tipos de penes. Lo mismo que cuando se levanta para ir a trabajar. Una tercera se aferra a este empleo porque se lo ganó estudiando en la universidad y es lo único que tiene para no acabar como sus vecinos, reciclando la basura del vertedero. Aunque, a fin de cuentas, se pregunta si no está haciendo lo mismo.