Cuando las protestas en Pakistán a principios de este año escalaron hasta Enfrentamientos entre fuerzas progubernamentales y partidarios del ex primer ministro Imran Khan, el líder ahora encarcelado recurrió a las redes sociales para reforzar su mensaje. Khan compartió esto breve videoclip en Twitter mostrando a sus seguidores sosteniendo carteles con su cara y cantando su nombre. El clip termina con una foto fija de una mujer con un vestido naranja parada audazmente cara a cara con una fila de policías antidisturbios fuertemente blindados.
“Lo que nunca se olvidará es la brutalidad de nuestras fuerzas de seguridad y la manera descarada en que se esforzaron en abusar”, lastimar y humillar a nuestras mujeres”, tuiteó Khan. El único problema: la imagen que muestra a la mujer parada valientemente ante la policía no era real . Fue creado usando uno de muchos nuevos generadores de imágenes IA.
The way Pakistani women stood up for Haqeeqi Azadi, they will be remembered and become part of our democratic history.
Also what will never be forgotten is the brutality of our security forces and the shameless way they went out of their way to abuse, hurt and humiliate our… pic.twitter.com/Ea1lzBCh1Q
— Imran Khan (@ImranKhanPTI) May 19, 2023
Khan no es el único líder político que recurre a Deepfakes de IA, para beneficio político. Un nuevo informe de Freedom House compartido con Gizmodo encontró que los líderes políticos en al menos 16 países durante el último año han implementado falsificaciones para “sembrar dudas, difamar a los oponentes o influir en el debate público”. Aunque un puñado de esos ejemplos ocurrieron en países menos desarrollados en -África Sahariana y el Sudoeste Asia, al menos dos originaron en Estados Unidos.
Tanto el expresidente Donald Trump como el gobernador de Florida, Ron DeSantis, han utilizado vídeos y audios deepfake para intentar difamarse mutuamente antes de la próxima nominación presidencial republicana. En el caso de Trump, usó audio falsificado que imitaba George Soros, Adolf Hitler y el mismo Diablo para burlarse de DeSantis Anuncio inestable de campaña en Twitter Spaces. DeSantis respondió con imágenes deepfake que pretenden mostrar a Trump abrazando Anthony Fauci, ex director del Instituto Nacional de Salud. Mostrar amabilidad hacia Fauci en el actual Partido Republicano equivale a un suicidio político.
“La IA puede servir como amplificador de la represión digital, haciendo que la censura, la vigilancia y la creación y difusión de desinformación sean más fáciles, rápidas y baratas. y más eficaz”, señaló Freedom House en su informe “Libertad en la red”.
El informe detalla numerosas formas preocupantes en las que se están utilizando las herramientas de IA para amplificar la represión política en todo el mundo. Los gobiernos de al menos 22 de Los 70 países analizados en el informe tenían marcos legales que exigían a las empresas de redes sociales implementar IA para cazar y eliminar políticas desfavorecidas, y discurso religioso. Esos marcos van más allá de las políticas estándar de moderación de contenido en las principales plataformas tecnológicas. En estos países, Freedom House sostiene que Las leyes vigentes obligan a las empresas a eliminar contenido político, social o religioso que “debe estar protegido según los estándares de libre expresión dentro de los derechos humanos internacionales”. leyes”. Además de aumentar la eficiencia de la censura, el uso de IA para eliminar contenido político también le da al Estado más cobertura para ocultarse.
“Este uso de la IA también enmascara el papel del Estado en la censura y puede aliviar el llamado dilema del dictador digital, en el que Los líderes antidemocráticos deben sopesar los beneficios de imponer controles en línea frente a los costos de la ira pública ante tales restricciones”, agrega el informe.
En otros casos, los actores estatales supuestamente están recurriendo a empresas privadas de “IA de alquiler” que se especializan en crear propaganda generada por IA con la intención de imitar Presentadores de noticias reales. Las estaciones de noticias respaldadas por el Estado en Venezuela, por ejemplo, comenzaron a compartir videos extraños de presentadores de noticias, en su mayoría blancos y de habla inglesa, contrarrestando a los críticas al país. Esos extraños oradores fueron en realidad Avatares generados por IA creados por una empresa llamada Synthesia. Las cuentas de robots del gobierno pro-China compartieron clips similares de presentadores de noticias generados por IA en las redes sociales, esta vez pareciendo rechazar a las críticas. Los avatares de IA de China eran parte de una División de noticias fabricada por IA supuestamente llamada “Wolf News”.Los investigadores de Freedom House ven estos novedosos esfuerzos para generar presentadores de noticias deepfake como una evolución técnica y táctica de los gobiernos que obligan o pagan a las estaciones de noticias. para impulsar la propaganda.
“Estos usos de deepfakes son consistentes con las formas en que actores políticos sin escrúpulos han empleado durante mucho tiempo contenido de noticias manipulado y robots de redes sociales para difundir información falsa o engañosa», señala el informe.
Quizás lo más preocupante de todo es que el informe de Freedom House muestra un aumento en
actores políticos que llaman videos y audios deepfakes que en realidad son genuinos. En un ejemplo, un destacado funcionario estatal en la India llamado Palanivel Thiagarajan supuestamente intentó hacer a un lado un audio filtrado de él menospreciando a sus colegas. al afirmar que fue generado por IA. Era real. Los investigadores creen en una suposición incorrecta de que un video del ex presidente de Gabón Ali Bongo fue falsificado puede tenerayudó a provocar un levantamiento político.Aunque la mayoría de los esfuerzos de manipulación política y desinformación descubiertos por Freedom House en el último año todavía dependen principalmente del despliegue de tecnología inferior bots y trolls pagados, esa ecuación podría cambiar a medida que las herramientas de IA generativa continúan volviéndose más convincentes y bajando de precio. Incluso algo poco convincentes. o la manipulación de la IA, fácilmente refutable, sostiene Freedom House, todavía “socava la confianza del público en el proceso democrático”.
“Este es un tema crítico para nuestro tiempo, ya que los derechos humanos en línea son un objetivo clave de los autócratas de hoy”, dijo Michael, presidente de Freedom House. J. Abramowitz dijo: “Los Estados democráticos deberían reforzar su regulación de la IA para ofrecer más transparencia, proporcionar mecanismos de supervisión eficaces y priorizar la protección. de los derechos humanos”.
“This is a critical issue for our time, as human rights online are a key target of today’s autocrats,” Freedom House President Michael J. Abramowitz said. “Democratic states should bolster their regulation of AI to deliver more transparency, provide effective oversight mechanisms, and prioritize the protection of human rights.”
This article has been updated to clarify Synthesia’s role in the creation of AI-generated propaganda by state actors.
