En Silicon Valley ya es algo común comparar el surgimiento de la IA con la Revolución Industrial. Los más férreos defensores de la IA suelen decir que con las máquinas inteligentes la humanidad o solo será más productiva que antes, superando en mucho las ganancias por productividad que resultaron de la invención de la máquina a vapor, sino que podremos resolver los problemas que existencialmente nos aquejan más. Es una visión color de rosa del futuro que por lo general no menciona que la metáfora de la Revolución Industrial incluiría su lado oscuro también. Porque aunque la locomotora y la fábrica dieron inicio a una nueva era de riqueza material, también dieron lugar a problemas nuevos que todavía nos afectan: la disparidad marcada entre ricos y pobre, la guerra mecanizada y el carbono que ahoga a la atmósfera, por ejemplo.
En una carta abierta que se publicó el lunes un grupo de economistas y expertos en IA de alto nivel advierten que la sociedad necesita aprender esta lección de la historia o sufrir las consecuencias.
Un cambio radical, y pronto
La carta lleva por título “Tenemos que actuar ahora”, y desde el lunes por la mañana ya ha sido firmada por doscientas personas, incluyendo al ex CEO de Google Eric Schmidt, el cofundador de Anthropic Jack Clark, el cofundador de OpenAI Wojciech Zaremba, y Yoshua Bengio, ganador del premio Turing y uno de los “padrinos de la IA”. Se busca que sea una advertencia directa y breve (no tiene más de cien palabras) y dice que los impactos sociales y económicos de la IA pueden marcar un gran cambio histórico. Además, dice que el peligro está en que todo se desarrollará y avanzará a una velocidad nunca antes vista en la historia.
“La IA podría convertirse en algo mucho más potente en los próximos 10 años y eso impulsaría una transformación sin precedentes en la economía, mucho mayor que la que produjo la Revolución Industrial pero mucho más veloz”.
Aunque la humanidad ha tenido décadas para poder adaptarse a los efectos colaterales más desestabilizadores de la industrialización, los firmantes de la carta advierten que no habrá tanto tiempo para poder amortiguar las repercusiones económicas d ela revolución de la IA.
Advertencia – advertencia – advertencia
La carta es la más reciente de las advertencias que se han publicado en los últimos meses. La semana pasada el Secretario General de Naciones Unidas convocó a la comunidad internacional a prohibir lo que llamó “robots asesinos”, es decir armas basadas en la IA. En junio un grupo internacional de agencias de ciberseguridad que incluyó a la NSA emitió una advertencia de que la IA transformará la ciberseguridad desde sus fundamentos, no en los próximos años sino en los próximos meses. La encíclica del papa León XIV, Magnifa Humanitas se publicó en mayo e indica que si se permite la evolución de la IA sin controles podría iniciarse una nueva será de alienación social, división política y explotación ambiental.
En la carta abierta el lenguaje evoca una imagen de la humanidad dormida al volante en un auto que está avanzando a toda velocidad hacia un abismo, algo cada vez más común en el lenguaje de Silicon Valley y los círculos de políticas en tecnología.
La investigación de la IA ha prometido el concepto de algoritmos que pueden entrenar a versiones más avanzadas y nuevas de sí mismos, en una suerte de auto-mejoras recursivas. Pero el peligro de estas máquinas que se auto-mejoran es que rápidamente podrían escapar al control humano y tomar decisiones en procesos que ya están modificando la economía, el escenario político y los ecosistemas informáticos en formas que no podemos entender ni revertir. El espectro de la auto-mejora recursiva estuvo en el núcleo de las declaraciones de Anthropic y OpenAI que recientemente han convocado a la formación de un comité global que supervise el desarrollo de los nuevos y avanzados sistemas de ia para, si es necesario, obligar a que se ralentice.
La capacidad de los algoritmos de detectar vulnerabilidades incluso en condiciones de hermética ciberseguridad también provocó oleadas de preocupación en sectores públicos y privados, al punto que el gobierno de Trump, que siempre se mantuvo al margen del desarrollo de la IA, aparentemente empezó a implementar un sistema de pesos y contrapesos en torno a lo potentes que pueden llegar a ser los modelos de IA. Por ejemplo, Open IA lanzó su nuevo modelo GPT-5.6 tras recibir “luz verde” del gobierno federal aunque eso se haya negado oficialmente.
