En los últimos tiempos Bill Gates ha asumido el rol de tratar de convencer a Donald Trump para que frene la aceleración de la IA. Pero lo que dice no es ese mensaje conocido que podrías pensar. En una entrevista que se publicó el martes en el New York Times, hablando con Ezra Klein presentó un argumento intrigante: “La capacidad de un ciberataque que cause enredos en todas las cuentas bancarias y cause apagones generales ya existe, y lo sabemos”.
Tal vez hace falta repetirlo, por si crees haber leído mal: “ya existe”.
Si recuerdas lo que se decía sobre la IA en abril, tal vez te venga a la memoria el anuncio de Anthropic sobre Mythos, un modelo tan terriblemente potente que Anthropic dijo que no podía lanzarlo. Gates en ese momento también se inquietó por lo que vio que podían hacer los modelos, y parece que se apoya en parte en ese mensaje de abril:
“La capacidad de ciberhackeos era sorprendente. Además, estaba la idea de Anthropic del Proyecto Glasswing, en que podías darle la IA a un pequeño grupo de personas para que pudieran tratar de solucionar problemas antes de que se usara, pero había demasiado código así que estamos en un período de extrema vulnerabilidad a los ciberataques”.
Bancos y apagones: el peligro de la IA que Gates cree que ya está aquí
Gates señala “aspectos de Hugging Face” como evidencia de que los modelos de IA necesitan “una capa de supervisión con determinados absolutos”. Está diciendo que si miras los informes recientes de incidentes de ciberseguridad de modelos de IA que están siendo evaluados ahora, el peligro no está en el futuro, sino delante de tus ojos en este momento.
Dice Gates, al hablar de modelos de código abierto en particular, que no hay que esperar que surja de repente la chispa de consciencia sobre el peligro, porque dice que el peligro son las personas:
“Hay humanos que con mala intención podrán usar estos modelos. Así que a menos que integremos salvaguardas y monitoreo, como exigencia para todos los modelos, tendremos eventos gigantescos de ese tipo y recién entonces vamos a responder.”
Si esperabas que Gates diera advertencias que suenen exageradas, bueno, también hizo eso. Le dijo a Klein que el desarrollo de la IA es “como la historia evolutiva” y que “ya están aquí los extraterrestres”, en forma de IA. Pero hemos visto ya lo que pueden hacer los modelos de IA que existen hoy, y la preocupación mayor de Gates no parece estar reservada al hecho de que aparezca en el futuro. Lo que está diciendo, da para que lo pensemos ahora mismo.
