Jeff Hancock, director fundador del Laboratorio de Redes Sociales de Stanford, presentó este mes su opinión experta en el caso Kohls v. Ellison. Esta demanda, presentada por un YouTuber y representante estatal de Minnesota, cuestiona la constitucionalidad de la ley estatal que criminaliza el uso de deepfakes para influir en elecciones, argumentando que viola el derecho a la libertad de expresión de la Primera Enmienda.
El testimonio de Hancock citó un supuesto estudio titulado “La influencia de los videos deepfake en las actitudes y comportamientos políticos,” publicado en el Journal of Information Technology & Politics. Sin embargo, los abogados de los demandantes afirman que dicho estudio no existe.
“La cita tiene las características de ser una ‘alucinación’ de inteligencia artificial, lo que sugiere que al menos fue generada por un modelo como ChatGPT,” escribieron los demandantes en una moción para excluir el testimonio de Hancock. “No sabemos cómo esta alucinación terminó en la declaración de Hancock, pero pone en duda todo el documento, especialmente cuando gran parte del análisis carece de metodología o lógica analítica.”
El caso fue reportado por primera vez por el Minnesota Reformer, y Hancock no respondió de inmediato a la solicitud de comentarios de Gizmodo.
La Ley de Deepfakes en Minnesota
Minnesota es uno de los 20 estados que han aprobado leyes para regular el uso de deepfakes en campañas políticas. La ley prohíbe difundir conscientemente deepfakes hasta 90 días antes de una elección si el material se crea sin el consentimiento de la persona representada y tiene la intención de influir en los resultados electorales.
La demanda, presentada por un bufete conservador en nombre de la representante estatal Mary Franson y el YouTuber Christopher Kohls, conocido como “Mr Reagan,” argumenta que esta legislación criminaliza la libertad de expresión.
Un caso similar presentado por Kohls contra la ley de deepfakes electorales en California llevó a que un juez federal emitiera una orden preliminar el mes pasado, evitando que esa ley entrara en vigor.
¿Desinformación con IA para combatir Deepfakes?
El uso de una cita posiblemente generada por IA en un caso que busca evitar la desinformación generada por IA resalta la complejidad de regular esta tecnología, especialmente en temas tan sensibles como la política y las elecciones.
