La confianza en la inteligencia artificial está tomando un rumbo peligroso. Según distintas investigaciones, las fotografías y los resúmenes generados por IA pueden alterar los recuerdos de las personas.
Pattie Maes, científica del Instituto Tecnológico de Massachusetts (MIT), explicó a The Washington Post los resultados de un estudio de su equipo. Los participantes observaron una serie de fotografías y, después de una pausa, volvieron a verlas. Algunos recibieron las imágenes originales; otros, versiones modificadas con inteligencia artificial.
En una prueba de memoria posterior, quienes habían visto las fotografías alteradas no solo tuvieron más probabilidades de recordar incorrectamente la imagen original: también mostraron una confianza excesiva en esos recuerdos falsos.
La memoria humana es cambiante, poco fiable y muy susceptible a las sugestiones. Los experimentos de psicología llevan documentándolo desde el siglo XIX. Por eso la desinformación resulta especialmente peligrosa: algunos estudios indican que puede seguir influyendo en nuestras decisiones, incluidas las políticas, incluso después de que se haya publicado una corrección.
Cuando la desinformación modifica lo que recordamos
La llegada de la inteligencia artificial vuelve todavía más delicada esta situación. El contenido de baja calidad generado por IA es cada vez más convincente y está por todas partes en internet. Además, ha facilitado y potenciado una nueva oleada de fraudes y campañas de desinformación.
El trabajo de Maes no es el único que señala este riesgo. Diversos estudios han demostrado que la información falsa generada con IA puede introducir recuerdos inexistentes y modificar lo que los participantes consideran verdadero.
Una investigación publicada el año pasado encontró que tanto los deepfakes (imágenes, audios o videos manipulados con inteligencia artificial) como los textos generados por IA consiguieron crear falsos recuerdos sobre escándalos políticos completamente inventados. Su efecto llegó incluso a reducir la intención de voto.
Pero la IA generativa también puede tener consecuencias potencialmente catastróficas sin que nadie la utilice con malas intenciones. Estos sistemas cometen errores y producen información inventada, un fenómeno conocido como «alucinaciones».
Mientras organismos públicos, bancos, fuerzas armadas, hospitales y cada vez más organizaciones se apresuran a incorporar esta tecnología, suele insistirse en la importancia de mantener la supervisión humana. Es lo que en el sector se denomina humans in the loop: una persona, a menudo con experiencia y conocimientos especializados, revisa los resultados del sistema.
La idea es que la inteligencia artificial permita acelerar procesos, desde operaciones militares hasta la gestión de registros, mientras alguien comprueba su trabajo. Así, los errores deberían detectarse antes de convertirse en decisiones y provocar daños reales.
La supervisión humana también tiene un punto débil
Sin embargo, las investigaciones muestran que los usuarios no son especialmente buenos para identificar estas alucinaciones. A eso se suman las limitaciones de nuestra memoria y la tendencia a confiar en los sistemas de inteligencia artificial.
Incluso cuando una respuesta de la IA contradice algo que el especialista sabe que es cierto, su criterio puede verse alterado. La presencia de una persona encargada de revisar los resultados, por tanto, no garantiza que los errores se detecten.
Existen posibles vías para abordar el problema. Según distintos estudios, la capacidad de una persona promedio para reconocer contenido generado por inteligencia artificial apenas supera lo que cabría esperar del azar. Numerosos investigadores trabajan en métodos de formación y otras intervenciones que ayuden a identificar mejor los deepfakes.
Por ahora, sin embargo, no hay una solución infalible. Y mientras los expertos intentan encontrarla, la industria tecnológica avanza hacia sistemas de IA con capacidad para ejecutar tareas y tomar decisiones de forma autónoma, con la aspiración de prescindir por completo de la intervención humana.
La distancia entre esas ambiciones y las limitaciones actuales ya ha tenido consecuencias catastróficas. A principios de este año, un ataque militar estadounidense contra una escuela primaria en Irán dejó más de 150 muertos, entre ellos al menos 123 niños.
Según informó Bloomberg el mes pasado, una investigación interna del Departamento de Defensa concluyó que el ataque se debió, en parte, a una dependencia excesiva de un sistema de inteligencia artificial desarrollado por Palantir. Basándose en datos desactualizados, el sistema había recomendado la escuela como objetivo para el primer día de ataques.
