La IA podría generar campañas de desinformación personalizadas y a medida
Además de aumentar la producción pura de desinformación, el informe advierte que los modelos generativos de IA también podrían mejorar su calidad. El informe advierte sobre “contenido hiperdirigido” dirigido a usuarios específicos para engañarlos o engañarlos. Los modelos de IA podrían, advierten, crear ”mensajes dirigidos a individuos en línea en lugar de grandes grupos. Peor aún, esos ataques dirigidos pueden mejorar con el tiempo a medida que los modelos de IA aprenden de ataques pasados.
“Se debe esperar que a medida que se desarrollen campañas de desinformación personalizadas impulsadas por IA, estas IA podrán aprender de millones de interacciones y convertirse en mejor en influir y manipular a los humanos, posiblemente incluso llegando a ser mejores que los humanos en esto”, señala el documento.
