OpenAI anunció el viernes que detectó una “operación de influencia iraní” utilizando ChatGPT. El grupo, conocido como Storm-1679, generó artículos y comentarios en redes sociales para moldear la opinión pública sobre la vicepresidenta Kamala Harris y el expresidente Donald Trump. Además de enfocarse en los candidatos presidenciales estadounidenses de 2024, Storm-1679 también produjo contenido sobre la invasión de Gaza por parte de Israel, su presencia en los Juegos Olímpicos de 2024, los derechos de las comunidades Latinx en EE.UU., la política venezolana y la independencia de Escocia del Reino Unido.
La mayoría de las publicaciones y artículos generados por Storm-1679 tuvieron poco impacto real, según OpenAI. La compañía describió el incidente en su blog, revelando que encontró una docena de cuentas en X (anteriormente Twitter) haciéndose pasar por conservadores y progresistas, utilizando hashtags como “#DumpTrump” y “#DumpKamala.” También se usó al menos una cuenta de Instagram para difundir contenido generado por IA.
¿Será la primera de muchas por venir?
Este es el primer caso en el que OpenAI revela una campaña específica de interferencia electoral utilizando ChatGPT, aunque anteriormente había informado sobre “actores de amenaza afiliados a estados” usando sus herramientas. La respuesta de OpenAI incluyó la prohibición de un “grupo” de cuentas responsables de la creación de este contenido, y la compañía también compartió información sobre amenazas con partes interesadas en el gobierno, campañas e industria. Aunque no se nombraron específicamente a estos interesados, se compartieron capturas de pantalla de algunas publicaciones que mostraban conteos de vistas de 8 a 207 y casi ningún “me gusta.”
Storm-1679 también compartió artículos generados por ChatGPT en varios sitios web que se hacían pasar por medios de noticias progresistas y conservadores. La mayoría de las publicaciones en redes sociales identificadas por OpenAI recibieron pocos “me gusta,” compartidos o comentarios, y no se encontraron indicios de que los artículos web se compartieran en redes sociales.
Un informe de Microsoft del 6 de agosto describió de manera similar a Storm-2035, una red iraní con “cuatro sitios web que se hacen pasar por medios de noticias.” Esta red creó publicaciones polarizantes sobre las elecciones, los derechos LGBTQIA+, y la invasión de Gaza por parte de Israel.
Los informes sobre la interferencia extranjera en las elecciones de EE.UU. son ahora comunes. El informe de Microsoft también detalló un ataque de phishing vinculado a Irán que apuntó a un funcionario de campaña estadounidense de alto rango. Poco después, la campaña de Trump anunció que “fuentes extranjeras” habían robado correos electrónicos y documentos en un intento de influir en las elecciones presidenciales de 2024. Hace ocho años, un grupo de hackeo vinculado a Rusia conocido como Guccifer 2.0 se apoderó de correos electrónicos del Comité Nacional Demócrata mediante un ataque de phishing similar, filtrando miles de documentos antes de la Convención Nacional Demócrata de 2016.
Bajo la presión de los legisladores, las grandes empresas tecnológicas han lanzado varios esfuerzos para contrarrestar estos incidentes, incluyendo verificaciones de hechos, una breve prohibición de anuncios políticos, y colaboraciones con rivales y autoridades.
