Todas las imágenes vía ProPublica

¬°Pregunta! ¬ŅA cu√°l de los siguientes grupos protegemos en Facebook? 1- A las mujeres conductoras. 2- A los ni√Īos negros. 3- A los hombres blancos (...) Respuesta correcta: 3- A los hombres blancos.

ProPublica ha filtrado hoy una serie de documentos internos creados por Facebook para formar a sus censores. Con ellos, la compa√Ī√≠a explica a sus empleados qu√© tipos de discursos de odio deben moderar ‚ÄĒy cu√°les no.¬†El problema es que estas normas son tan r√≠gidas y unilaterales que Facebook acaba protegiendo de los ataques a los hombres blancos, pero no al islam,¬†a los ni√Īos negros, a los ‚Äúsucios inmigrantes‚ÄĚ o las mujeres feministas.

Advertisement

La norma fundamental es que existen categorías protegidas y categorías no protegidas, y es la propia Facebook quien decide arbitrariamente cuáles son las categorías que están protegidas contra el odio y cuáles son las que no.

Seg√ļn los documentos filtrados, estas son las categor√≠as protegidas:

Género, Afiliación religiosa, Origen nacional, Identidad de género, Raza, Etnia, Orientación sexual, Discapacidad o enfermedad grave.

Advertisement

Y estas son las categor√≠as que Facebook pide a sus censores no proteger, en favor ‚ÄĒsuponemos‚ÄĒ de la libertad de expresi√≥n:

Clase social, Origen continental, Apariencia, Edad, Ocupaci√≥n, Ideolog√≠a pol√≠tica, Religiones, Pa√≠ses.ÔĽŅ

Con esto queda claro que la frase ‚Äúlos hombres blancos son una lacra‚ÄĚ no estar√≠a aceptada, puesto que ‚Äúhombres‚ÄĚ es un g√©nero y ‚Äúblancos‚ÄĚ una raza. S√≠ lo estar√≠a ‚Äúel islam es una lacra‚ÄĚ, ya que las religiones no son una categor√≠a protegida. Pero, ¬Ņqu√© pasar√≠a con la frase ‚Äúlos ni√Īos negros son una lacra‚ÄĚ? Aqu√≠ es donde las normas de Facebook empiezan a oler.

Advertisement

Esta diapositiva es un montaje de ProPublica basado en la original para proteger a la fuente de la filtración

Ver√°s. Seg√ļn los documentos filtrados, si el grupo en cuesti√≥n pertenece al menos a una categor√≠a no protegida, entonces no es un grupo protegido. S√≠, los ‚Äúni√Īos negros‚ÄĚ son ‚Äúnegros‚ÄĚ (una raza), pero tambi√©n son ‚Äúni√Īos‚ÄĚ, y la edad no es una categor√≠a protegida. En consecuencia, puedes decir lo que quieras sobre los ‚Äúni√Īos negros‚ÄĚ porque no te van a censurar. Ocurrir√° lo mismo si atacas a las ‚Äúmujeres feministas‚ÄĚ o a los ‚Äúmexicanos pobres‚ÄĚ.

Facebook solo enumera tres escenarios en los que no permite el discurso de odio contra estos grupos: las llamadas a la violencia, las llamadas a la exclusi√≥n y las llamadas a la segregaci√≥n. Pero eso deja muchas lagunas y zonas grises. Por ejemplo, no puedes decir ‚Äúla polic√≠a deber√≠a matar a los violentos del Black Lives Matter‚ÄĚ, pero s√≠ puedes decir ‚ÄúMike Brown, muerto en Ferguson por los disparos de un polic√≠a blanco, merec√≠a morir‚ÄĚ.

Advertisement

Los inmigrantes son una categor√≠a ‚Äúcuasiprotegida‚ÄĚ, lo que significa que puedes decir ‚Äúsucios inmigrantes‚ÄĚ

Otro ejemplo: ‚Äúlos inmigrantes son sucios y vagos‚ÄĚ. S√≠, esa dolorosa frase est√° permitida. Seg√ļn ProPublica, los inmigrantes pasaron a ser una categor√≠a cuasiprotegida cuando empezaron a llegar oleadas de refugiados sirios a Europa. Sin embargo, solo est√°n protegidos contra las llamadas a la violencia y las generalizaciones deshumanizantes, pero no contra las llamadas a la exclusi√≥n y las generalizaciones como ‚Äúson sucios y vagos‚ÄĚ.

Al final, estas normas tan r√≠gidas y el absurdo algoritmo ‚Äúprotegido + no protegido = no protegido‚ÄĚ ponen en evidencia que Facebook no est√° preparada para combatir los discursos de odio, algo especialmente preocupante teniendo en cuenta que ayer Mark Zuckerberg anunci√≥ que la red social hab√≠a superado los 2000 millones de usuarios activos al mes.

Advertisement

[Pro Publica]