Todas las imágenes vía ProPublica

¡Pregunta! ¿A cuál de los siguientes grupos protegemos en Facebook? 1- A las mujeres conductoras. 2- A los niños negros. 3- A los hombres blancos (...) Respuesta correcta: 3- A los hombres blancos.

ProPublica ha filtrado hoy una serie de documentos internos creados por Facebook para formar a sus censores. Con ellos, la compañía explica a sus empleados qué tipos de discursos de odio deben moderar —y cuáles no. El problema es que estas normas son tan rígidas y unilaterales que Facebook acaba protegiendo de los ataques a los hombres blancos, pero no al islam, a los niños negros, a los “sucios inmigrantes” o las mujeres feministas.

Advertisement

La norma fundamental es que existen categorías protegidas y categorías no protegidas, y es la propia Facebook quien decide arbitrariamente cuáles son las categorías que están protegidas contra el odio y cuáles son las que no.

Según los documentos filtrados, estas son las categorías protegidas:

Género, Afiliación religiosa, Origen nacional, Identidad de género, Raza, Etnia, Orientación sexual, Discapacidad o enfermedad grave.

Y estas son las categorías que Facebook pide a sus censores no proteger, en favor —suponemos— de la libertad de expresión:

Clase social, Origen continental, Apariencia, Edad, Ocupación, Ideología política, Religiones, Países.

Con esto queda claro que la frase “los hombres blancos son una lacra” no estaría aceptada, puesto que “hombres” es un género y “blancos” una raza. Sí lo estaría “el islam es una lacra”, ya que las religiones no son una categoría protegida. Pero, ¿qué pasaría con la frase “los niños negros son una lacra”? Aquí es donde las normas de Facebook empiezan a oler.

Esta diapositiva es un montaje de ProPublica basado en la original para proteger a la fuente de la filtración

Verás. Según los documentos filtrados, si el grupo en cuestión pertenece al menos a una categoría no protegida, entonces no es un grupo protegido. Sí, los “niños negros” son “negros” (una raza), pero también son “niños”, y la edad no es una categoría protegida. En consecuencia, puedes decir lo que quieras sobre los “niños negros” porque no te van a censurar. Ocurrirá lo mismo si atacas a las “mujeres feministas” o a los “mexicanos pobres”.

Advertisement

Facebook solo enumera tres escenarios en los que no permite el discurso de odio contra estos grupos: las llamadas a la violencia, las llamadas a la exclusión y las llamadas a la segregación. Pero eso deja muchas lagunas y zonas grises. Por ejemplo, no puedes decir “la policía debería matar a los violentos del Black Lives Matter”, pero sí puedes decir “Mike Brown, muerto en Ferguson por los disparos de un policía blanco, merecía morir”.

Los inmigrantes son una categoría “cuasiprotegida”, lo que significa que puedes decir “sucios inmigrantes”

Otro ejemplo: “los inmigrantes son sucios y vagos”. Sí, esa dolorosa frase está permitida. Según ProPublica, los inmigrantes pasaron a ser una categoría cuasiprotegida cuando empezaron a llegar oleadas de refugiados sirios a Europa. Sin embargo, solo están protegidos contra las llamadas a la violencia y las generalizaciones deshumanizantes, pero no contra las llamadas a la exclusión y las generalizaciones como “son sucios y vagos”.

Al final, estas normas tan rígidas y el absurdo algoritmo “protegido + no protegido = no protegido” ponen en evidencia que Facebook no está preparada para combatir los discursos de odio, algo especialmente preocupante teniendo en cuenta que ayer Mark Zuckerberg anunció que la red social había superado los 2000 millones de usuarios activos al mes.

[Pro Publica]