Si has estado en Facebook últimamente, habrás visto el torrente de basura de IA. Está el veterano sin hogar con un cartel mal escrito, policías llevando biblias enormes y, por supuesto, el Jesús Camarón. ¿Por qué está Facebook lleno de este tipo de contenido? Porque hay dinero en ello, por supuesto.
Una nueva investigación de 404 Media profundizó en los orígenes de la era de basura de IA en Facebook y descubrió un ecosistema de videos de YouTube, canales de Telegram y Google Drives llenos de reels. Existe para automatizar la creación y distribución de imágenes generadas por IA en Facebook.
Personas en lugares como Pakistán, India, Vietnam, Tailandia e Indonesia usan herramientas como Microsoft’s AI Image Creator para producir contenido. Publican docenas de imágenes cada día, a veces cada hora, y ganan la vida con el engagement (captación).
El motivo por el cuál hay tanta basura gráfica
El objetivo es publicar tantas veces al día como sea posible en tantas cuentas como sea posible. Una cuenta que publica constantemente puede ser invitada al Programa de Bonificación para Creadores de Facebook y comenzar a ganar dinero con contenido viral. Algunas publicaciones solo generarán unos pocos centavos, mientras que otras pueden generar cientos de dólares. Cuantas más publicaciones, mayores serán los retornos. El objetivo es usar la automatización para publicar tanto como sea posible, a veces cientos de veces al día.
Como todos los círculos de spam, hay toda otra economía llena de personas que te venderán las herramientas y el conocimiento que necesitas para empezar. Hay canales de YouTube dedicados a poner en marcha la máquina de basura de IA de las personas, docenas de guías en Fiverr y Gumroad, y canales de Telegram llenos de simples prompts en inglés que ayudarán al generador de imágenes de IA a crear una imagen viral.
Algunos de los creadores que 404 Media descubrió estaban gestionando múltiples cuentas de Facebook y usaban herramientas automatizadas para llenar los feeds con imágenes “carnada” para engagement. Usando instrucciones y herramientas que compró en línea, Jason Koebler de 404 Media montó su propia tienda de basura de IA. Así es como funciona:
«Primero, un spammer crea una cuenta gratuita en Vercel. Luego crean una cuenta de WordPress y una página de spam, descargan un fragmento de código de GitHub que ha sido escrito por otros spammers, lo modifican (hay guías para esto en GumRoad y Fiverr; compré guías en ambos), y lo instalan en su despliegue de Vercel. Luego conectan Vercel al sitio web de WordPress usando un plugin específico de WordPress que efectivamente configura una redirección entre Vercel y el sitio de WordPress. Luego, la persona inicia sesión en su página de Facebook y actualiza su cuenta a una cuenta de anuncios, lo cual es un proceso instantáneo. Luego, la persona pasa por el proceso de comprar y configurar un anuncio en Facebook que enlace al espejo de Vercel de la página a la que quieren enlazar.
Este paso de Vercel existe para evitar la detección automática de spam de Facebook, porque en última instancia enmascara el enlace del sitio web que se está enlazando. Dentro del administrador de anuncios, suben una imagen que ha sido modificada para parecerse a una publicación de galería de Facebook (hay herramientas para esto), y luego eliminan el título y la descripción que Facebook genera automáticamente para que parezca que el anuncio es solo una imagen y no un enlace. Luego, generan una vista previa de su anuncio. Esto crea un enlace de vista previa, que luego puede ser enviado a su teléfono (tiene que ser un dispositivo separado), luego compartido en su propia página personal de Facebook como una ‘prueba’.
¿Cómo sigue el proceso?
A partir de ahí, el enlace puede ser capturado y compartido en una página como una publicación normal, aunque no sea un anuncio publicado, lo que significa que, para hacer este truco, no tienes que gastar dinero realmente. Este proceso puede repetirse una y otra vez para engañar a las personas haciéndoles clic en álbumes de fotos que en realidad no son álbumes de fotos. FewFeed ha creado recientemente una función que te permite crear directamente estas imágenes falsas tipo álbum de fotos.»
Ganar dinero con basura de IA es un proceso técnico y los equipos de moderación de contenido de Meta no pueden mantenerse al día con el flujo. Peor aún, puede que ni siquiera quieran detener todo el molino. Meta permite explícitamente las imágenes generadas por IA y los únicos métricos que le importan son los que mejoran su línea de fondo. Cuantas más personas compartan publicaciones e interactúen con ellas, mejor estará Meta. La basura hace que todos ganen dinero.
«Animamos a los creadores a usar herramientas de IA para producir contenido de alta calidad que cumpla con todas nuestras Normas Comunitarias, y tomamos medidas contra aquellos que intentan generar tráfico usando interacción no auténtica, ya sea que usen IA o no,» dijo un portavoz de Meta a 404 Media. «Sabemos que los malos actores adaptan sus tácticas para evadir nuestras reglas, por lo que siempre estamos trabajando para mejorar nuestra detección y cumplimiento.»
Según las personas que crean la basura, el dinero es transformador. Enterrado en medio de la historia de 404 Media hay un intercambio revelador. En un podcast, un spammer mostró su pestaña de ganancias. En la lista había una imagen de un tren hecho de hojas. El spammer había ganado $431 con el engagement de la imagen. «La gente ni siquiera gana tanto dinero en un mes,» dijo el entrevistado.
