Insultar, acosar o proferir comentarios extremistas sale más barato a los usuarios blancos de Facebook que a los del resto de razas. Según un estudio publicado por ProPublica, los moderadores de la red social censuran contenidos siguiendo las directrices de unos documentos que claramente discriminan a ciertos usuarios.
PUBLICIDAD

Estos documentos establecen unas diferencias dentro de la categoría de discursos de odio. Así, por ejemplo, se puede decir que “los musulmanes radicales deben ser asesinados”, pues se habla de un subgrupo dentro de los musulmantes, pero no se puede decir “todos los americanos son racistas” porque se dirige a un grupo más amplio de personas. Facebook ha desarrollado durante años un libro de normas muy específicas para toda clase de situación, dejando claro qué se permite y qué no. Y según los documentos, una de las categorías más protegidas es la de hombres blancos (“white men”), que tienen preferencia por delante de los niños de raza negra (“black children”) en una de las lecciones que utilizan para enseñar las normas de la red social a los moderadores. Según esta clasificación, los insultos basados en personas blancas tienen prioridad por delante de los proferidos contra niños de raza negra al tratarse de una de las categorías protegidas de Facebook.Pese a que la intención de los algoritmos y las clasificaciones de Facebook es buena, pues no discrimina sobre el papel a ninguna persona por sexo, raza, orientación sexual ni otras distinticiones; la aplicación práctica es imperfecta en cuanto se fusionan varias categorías por la naturaleza del propio código de la red social.Todo apunta a que los sistemas de protección de los usuarios de Facebook funcionan bien en términos muy generales. Elimina automáticamente contenido violento como muertes o abusos de menores, pero lo tiene mucho más difícil cuando entra en juego el factor humano de los moderadores y las innumerables combinaciones de categorías, cada una de las cuales tiene sus prioridades.Más preocupante es que Facebook protega a determinadas instituciones o personalidades cuando incumplen sus normas, como fue el caso de Donald Trump durante su campaña electoral. La llamada a prohibir la inmigración de musulmanes a EEUU quebrantaba las reglas de Facebook, pero, como publicó The Wall Street Journal en su momento, el mismísimo Mark Zuckerberg ordenó que no se eliminaran estos contenidos pese a ser, según la moderación de la red social, una incitación al odio de un grupo.La compañía lleva meses prometiendo mejoras en sus sistemas para impedir, por ejemplo, que vídeos como el asesinato de un hombre en directo se mantengan online durante horas sin ser eliminados. A su vez, han iniciado una batalla contra la información falsa que, según muchos estudiosos, tuvo un papel clave en el resultado de las elecciones de noviembre en EEUU.