La infraestructura crítica no está preparada para los ciberataques asistidos por IA
Los modelos de IA generativa podrían hacer que sea mucho más fácil para los piratas informáticos y otros malos actores llevar a cabo ciberataques maliciosos. El documento advierte que casi Cualquiera puede utilizar modelos de IA generativa para crear rápidamente ataques de phishing personalizados, incluso si tiene poca o ninguna experiencia previa. En algunos casos Según señala el documento, las herramientas de inteligencia artificial ya se han utilizado para ayudar a los piratas informáticos a robar credenciales de inicio de sesión.
“El riesgo es significativo dado que la mayoría de los ciberatacantes utilizan la ingeniería social para obtener acceso a las redes de la organización víctima”, señala el documento.
En el lado más distópico de las cosas, el documento advierte que los futuros sistemas avanzados de inteligencia artificial podrían potencialmente acceder a Internet y “realizar sus propios ciberataques”. de forma autónoma”. Los piratas informáticos también podrían intentar entrenar los datos del conjunto de entrenamiento de IA de un adversario, un método conocido como envenenamiento de datos, para lograr que producir resultados irrelevantes o dañinos.
