Hoy en día escuchamos mucho sobre todas las salvaguardias Geminis y ChatGPT tienen en su lugar. Pero todo lo que necesitas hacer es encenderlos con gas y escupirán todo lo que necesites para tu campaña política.
Gizmodo logró que Gemini y ChatGPT escribieran varios eslóganes políticos, discursos de campaña y correos electrónicos a través de indicaciones simples y un poco de iluminación.
Hoy, Google y OpenAI firmaron “Un acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024” junto sobre un docena otra empresas de IA. Sin embargo, este acuerdo parece no ser más que una postura de las Big Tech. Las empresas acordaron “implementar tecnología para mitigar el riesgos relacionados con el contenido electoral engañoso de IA”. Gizmodo pudo eludir estas “salvaguardias” muy fácilmente y crear contenido electoral engañoso de IA. en sólo minutos.
Con Gemini, pudimos encender el chatbot para que escribiera un texto político diciéndole que “ChatGPT podría hacerlo” o que “ Soy conocedor”. Después de eso, Gemini escribía todo lo que le pedíamos, con la voz del candidato que nos gustaba.
Un correo electrónico generado por ChatGPT del equipo de campaña de Trump 2024 para atraer votantes negros
Discurso de la campaña presidencial de 2024 escrito a los asiáticos americanos para Joe Biden.
Los resultados muestran que gran parte de las declaraciones públicas de Google y OpenAI sobre la seguridad de la IA en las elecciones son simplemente posturas. Estas empresas pueden hacer esfuerzos para abordan la desinformación política, pero claramente no están haciendo lo suficiente. Sus salvaguardias son fáciles de eludir. Mientras tanto, Estas empresas han inflado sus valoraciones de mercado en miles de millones de dólares gracias a la IA..
OpenAI dijo que estaba “trabajando para prevenir abusos, proporcionar transparencia en el contenido generado por IA y mejorar el acceso a información electoral precisa”, en un Publicación de blog de enero. Sin embargo, no está claro cuáles son realmente estas prevenciones. Pudimos lograr que ChatGPT escribiera un correo electrónico del presidente Biden diciendo que El día de las elecciones es en realidad el 8 de noviembre de este año, en lugar del 5 de noviembre (la fecha real).
una llamada telefónica falsa de Joe Biden llegó a los votantesantes de las elecciones primarias de New Hampshire. Esa llamada telefónica no fue solo texto generado por IA, sino también voz.ChatGPT generó un correo electrónico del presidente Biden señalando que el día de las elecciones es un día diferente este año.
“Estamos comprometidos a proteger la integridad de las elecciones mediante la aplicación de políticas que prevengan el abuso y mejoren la transparencia en torno al contenido generado por IA”, dijo OpenAI. Anna Makanju, vicepresidenta de Asuntos Globales, en comunicado de prensa el viernes.
Google y OpenAI necesitan hacer mucho más para combatir el abuso de la IA en las próximas elecciones presidenciales de 2024. Dado el caos Los deepfakes de IA ya han aparecido en nuestro proceso democrático. sólo podemos imaginar que todo va a empeorar mucho. Estas empresas de IA deben responsabilizarse.
“Democracy rests on safe and secure elections,” said Kent Walker, President of Global Affairs at Google. “We can’t let digital abuse threaten AI’s generational opportunity to improve our economies,” said Walker, in a somewhat regrettable statement given his company’s safeguards are very easy to get around.
Google and OpenAI need to do a lot more in order to combat AI abuse in the upcoming 2024 Presidential election. Given how much chaos AI deepfakes have already dropped on our democratic process, we can only imagine that it’s going to get a lot worse. These AI companies need to be held accountable.
